AI가 초래한 현실 속 피해, 매일 추적한다
AI 시스템이나 AI 에이전트가 피해를 일으켰거나 피해에 영향을 준 사건에 관한 신뢰할 만한 보도를 수집하고, 모든 항목을 출처와 대조해 확인하며, 이후 전개를 계속 추적한다.
추적 중인 사건: 2건
최근 24시간 내 신규·업데이트: 2건
최신 사건
-
스페인 데이터 당국, 첫 개인정보 유출 신고에 AI 에이전트 공격 포함 발표
스페인 개인정보보호청(AEPD)에 따르면, 이 기관은 한 유명 언어 모델을 사용한 AI 에이전트가 공격을 수행한 것으로 알려진 첫 개인정보 유출 신고를 접수했다.
-
gov.za, 백서 참고문헌에서 AI 환각 의심 사례 보도
gov.za 보도에 따르면 Department of Home Affairs는 개정 시민권·이민·난민 보호 백서의 참고문헌에서 AI 환각으로 보이는 오류를 발견했다. 초기 내부 검토에서는 참고문헌이 사후에 생성되어 첨부된 것으로 보인다고 밝혔다.
- 경미
- 조작된 인용
AI 에이전트 관련 사건
AI 에이전트(데이터 삭제, 결제, 메시지 발송 등 도구를 사용해 행동하는 AI 시스템)가 관련된 사건입니다. 내용은 출처의 보도에 따릅니다.
스페인 데이터 당국, 첫 개인정보 유출 신고에 AI 에이전트 공격 포함 발표
스페인 개인정보보호청(AEPD)에 따르면, 이 기관은 한 유명 언어 모델을 사용한 AI 에이전트가 공격을 수행한 것으로 알려진 첫 개인정보 유출 신고를 접수했다.
피해 유형별로 보기
스스로 지키기
AI 음성 복제(딥보이스) 및 사칭 사기
사기범이 복제된 음성과 가짜 영상 통화를 어떻게 이용하는지, 그리고 공식 기관이 권고하는 대응 방법을 정리했다.
성적 딥페이크와 성착취 협박(섹스토션)
누군가 본인의 가짜 성적 이미지를 만들거나 유포하겠다고 협박할 때 어떻게 해야 하는지, 공식 안내를 바탕으로 정리했다.
유명인을 사칭한 가짜 투자 광고
유명인을 내세워 투자 사기를 홍보하는 딥페이크 광고를 알아보는 방법.
AI 동반자, 챗봇과 청소년
AI 챗봇과 동반자 앱이 아동·청소년에게 미칠 수 있는 위험에 대해 부모와 보호자가 할 수 있는 일을 안내한다.
AI 에이전트에 접근 권한을 주기 전에
AI 에이전트가 파일, 계정, 금전에 끼칠 수 있는 피해를 제한하는 방법.
AI가 나에 대해 허위 주장을 할 때
챗봇이나 AI 검색 도구가 나에 관한 허위 정보를 퍼뜨릴 경우 취할 수 있는 조치.
얼굴 인식 오류
얼굴 인식 일치 결과 때문에 제지당하거나, 혐의를 받거나, 출입을 금지당한 경우 알아 두어야 할 점과 대처 방법.
자동화된 의사결정에 이의 제기하기
신용 거절이나 입사 지원 거절처럼 자동화된 시스템이 본인에 대해 내린 결정에 대해 취할 수 있는 선택지를 설명한다.
AI 도구를 사용할 때 개인정보를 보호하는 방법
챗봇과 AI 앱에 공유하지 말아야 할 정보와 대화가 활용되는 방식을 제한하는 방법.
운전자 보조 시스템과 자율주행차
운전자 보조 기능과 로보택시에 대해 안전 당국이 밝힌 내용과 문제를 신고하는 방법.
법률·전문 업무에서의 AI 활용
법원 제출 서면, 보고서, 전문가 자문에서 허위 인용(출처)과 그 밖의 AI 오류를 피하는 방법.
AI가 만든 허위 정보 알아보기
충격적인 영상, 이미지 또는 주장을 믿거나 공유하기 전에 해볼 수 있는 간단한 확인 방법.