AI가 나에 대해 허위 주장을 할 때
생성형 AI 도구는 흔히 "환각(hallucination)"이라고 불리는 부정확하거나 예상치 못한 결과물을 내놓을 수 있다. 영국 개인정보 보호 규제 당국은 이용자가 사실에 부합하는 정보를 얻으려고 이러한 도구에 잘못 의존할 경우 평판 훼손, 금전적 피해, 허위 정보 확산으로 이어질 수 있다고 밝혔다(ICO).
할 수 있는 조치
- 먼저 해당 기업에 문제를 제기한다. 영국 규제 당국은 대부분의 경우 해당 조직에 먼저 우려를 제기하고 바로잡을 기회를 주라고 권고한다(ICO).
- 영국에서는 정정을 요청할 수 있다. 조직이 보유한 자신의 개인정보가 정확한지 이의를 제기하고 정정이나 삭제를 요청할 수 있다. 이를 "정정권(right to rectification)"이라고 한다(ICO).
- 요청 내용을 명확히 한다. 무엇이 부정확하다고 보는지 밝히고, 조직이 어떻게 정정해야 하는지 설명하며, 가능하면 증거를 제시한다. 구두로 요청했다면 서면으로 다시 요청한다. 조직은 한 달 안에 답해야 하며, 일정한 경우에는 기한이 연장될 수 있다(ICO).
- 답변에 만족하지 못한 경우 먼저 해당 조직에 불만을 제기하고, 그래도 만족스럽지 않으면 ICO에 민원을 제기할 수 있다. 법원을 통해 권리를 행사할 수도 있으며, ICO는 먼저 독립적인 법률 자문을 받을 것을 강력히 권고한다(ICO).
- EU에서는 기업이 보유한 자신의 개인정보에 대한 열람을 요청할 수 있고, 정확하지 않은 정보의 정정을 요청할 수 있다(Your Europe).
- EU 규정은 검색 엔진에도 적용된다. 정보가 부정확하거나 부적절하거나 관련성이 없거나 과도한 경우, 자신의 이름이 포함된 웹페이지 링크를 검색 결과에서 삭제해 달라고 요청할 수 있다(Your Europe).
- EU에서 개인정보 보호 권리가 존중되지 않았다면 자국의 개인정보 보호 당국에 민원을 제기하거나 해당 기업을 상대로 법원에 직접 소송을 제기할 수 있다(Your Europe).
- Google은 자사 제품의 콘텐츠가 법률이나 자신의 권리를 침해한다고 판단되면 법적 삭제 요청 양식을 통해 신고할 수 있도록 하고 있다(Google).
출처
- 영국 정보위원회(ICO), "Your right to get your data corrected".
- 영국 정보위원회(ICO), "Check if you can complain".
- 영국 정보위원회(ICO), "Generative AI third call for evidence: accuracy of training data and model outputs" (의견 수렴).
- 유럽연합, Your Europe, "Data protection and online privacy".