자동화된 의사결정에 이의 제기하기
기관들은 사람의 개입 없이 개인에 대한 결정을 내리기 위해 자동화된 시스템을 사용한다. 예를 들어 신용을 신청한 뒤 온라인으로 나오는 결정이나, 미리 프로그래밍된 알고리즘과 기준을 사용하는 채용 적성검사가 있다(UK ICO).
영국과 EU에서의 권리
- 영국 ICO에 따르면, 영국에서는 결정이 본인의 법적 권리나 이에 준하는 중요한 사안에 영향을 미치는 경우, 온라인 신용 신청의 자동 거절처럼 오로지 자동화된 처리에만 근거한 결정의 대상이 되지 않을 권리가 있다(UK ICO).
- ICO에 따르면, 기관은 해당 결정이 본인과 기관 사이의 계약에 필요하거나, 법률로 승인되었거나, 본인의 명시적 동의에 근거한 경우에만 이러한 결정을 내릴 수 있다(UK ICO).
- ICO에 따르면, 기관이 오로지 자동화된 처리에 근거한 결정을 내리도록 허용되는 경우에도, 기관은 본인이 의견을 밝히고, 결정에 대한 설명을 받고, 사람의 개입을 요청하고, 결정에 이의를 제기할 수 있는 간단한 방법을 제공하는 것이 바람직하다(UK ICO).
- 서면으로 남기라. 요청은 구두 또는 서면으로 할 수 있으며, ICO는 구두 요청을 한 경우 서면으로 후속 조치를 할 것을 권고한다. 기관의 요청 처리 방식에 만족하지 못하면 먼저 해당 기관에 불만을 제기하고, 그래도 만족하지 못하면 ICO에 민원을 제기할 수 있다(UK ICO).
- ICO는 데이터(이용 및 접근)법(Data (Use and Access) Act)에 따른 변경 때문에 이 안내를 검토 중이라고 밝혔다(UK ICO).
- EU 사법재판소는 2025년 2월, 자동화된 신용 평가의 대상이 된 사람은 결정이 어떻게 내려졌는지 설명을 받을 권리가 있다고 판결했다. 기업은 본인이 어떤 개인정보가 어떻게 사용되었는지 이해할 수 있도록 실제로 적용된 절차와 원칙을 설명해야 하며, 알고리즘을 단순히 전달하는 것만으로는 충분하지 않다(EU 사법재판소).
- 기업이 해당 정보에 영업 비밀이 포함되어 있다고 판단하는 경우, 그 정보를 관할 감독 당국이나 법원에 제공해야 하며, 감독 당국이나 법원이 본인이 어느 범위까지 열람할 권리가 있는지 결정한다(EU 사법재판소).
미국에서는
- CFPB에 따르면, 대출업체가 대출이나 신용한도 신청을 거절하면 구체적인 사유를 알리거나, 60일 이내에 요청하면 사유를 알 권리가 있음을 알리는 통지를 보내야 한다(CFPB).
- CFPB에 따르면, 대출업체가 신용 보고서를 근거로 신청을 거절한 경우에는 사용한 숫자 신용점수와 점수에 영향을 준 주요 요인도 알려야 한다(CFPB).
- CFPB에 따르면, 신용 보고서에서 부정확하다고 생각하는 정보를 발견하면 신용정보회사와 해당 정보를 제공한 회사에 이의를 제기할 수 있다. 신용 보고와 관련한 문제가 있으면 소비자금융보호국(Consumer Financial Protection Bureau)에 민원을 제출할 수 있다(CFPB).
출처
- Your rights relating to decisions being made about you without human involvement, 영국 정보위원회(UK Information Commissioner's Office).
- Automated credit assessment: the data subject is entitled to an explanation as to how the decision was taken in respect of him or her, 유럽연합 사법재판소 보도자료, 2025년 2월 27일.
- What can I do if my credit application was denied because of my credit report?, 미국 소비자금융보호국(US Consumer Financial Protection Bureau).