성적 딥페이크와 성착취 협박(섹스토션)
가해자는 AI 도구를 이용해 사람의 평범한 사진이나 영상을 가짜 성적 이미지("딥페이크")로 바꿀 수 있다. 이를 피해자를 괴롭히는 데 유포하거나, 금전이나 추가 이미지를 요구하는 데("섹스토션") 사용한다(FBI IC3).
공식 기관의 권고
- 돈을 지불하지 않는다. FBI는 모르는 사람에게 금전이나 그 밖의 가치 있는 물건을 주지 말라고 권고하며, 요구에 응하더라도 이미지가 공유되지 않는다는 보장은 없다고 경고한다(FBI IC3).
- 정보를 보관하고 즉시 신고한다: 사용자 이름, 이메일 주소, 사용된 웹사이트나 플랫폼 등 사건에 관한 모든 정보를 보관하고, FBI 인터넷범죄신고센터 ic3.gov에 신고한다(FBI IC3).
- 아동 대상 범죄는 전미실종착취아동센터(National Center for Missing & Exploited Children)의 CyberTipline을 통해 신고해야 한다(FBI IC3).
- 18세 미만일 때 촬영된 이미지인 경우, 무료 서비스 Take It Down이 참여에 동의한 플랫폼에서 해당 이미지를 삭제하거나 온라인 공유를 막는 데 도움이 될 수 있다. 18세 이상일 때의 노골적인 이미지는 StopNCII.org를 안내한다.
- 미국에서는 Take It Down Act에 따라 소셜미디어, 사진·영상 공유 사이트 등 일부 플랫폼이 실제이든 AI로 생성되었든 동의 없이 공유된 성적 이미지를 요청 후 48시간 이내에 삭제해야 한다. 플랫폼이 조치하지 않으면 FTC에 신고할 수 있다(FTC).
- 호주에서는 18세 미만은 ACCCE(호주 아동착취대응센터)에 신고하도록 안내하며, 18세를 넘는 사람은 eSafety 커미셔너에게 신고할 수 있다(NSW Government).
- 검색 결과: Google은 가짜이든 실제이든 본인의 성적 이미지를 Google 검색 결과에서 삭제해 달라고 요청할 수 있는 삭제 요청 양식을 제공한다.
- 위험을 줄이려면 소셜미디어 계정의 개인정보 설정을 활용해 프로필과 친구 목록을 비공개로 하는 등 사진과 영상의 공개 노출을 제한한다(FBI IC3).
출처
- FBI 인터넷범죄신고센터, "Malicious Actors Manipulating Photos and Videos to Create Explicit Content and Sextortion Schemes" (2023년 6월 5일).
- 미국 연방거래위원회, "FTC Enforces Compliance With the Take It Down Act".
- NSW Government, "Don't be sextorted".