얼굴 인식 오류
얼굴 인식 소프트웨어는 서로 다른 두 사람의 사진을 같은 사람으로 잘못 판단할 수 있다. 데이터베이스를 검색할 때 이러한 오탐(false positive)이 발생하면, 추가 조사 대상인 후보 목록에 잘못된 일치 결과가 올라가게 된다(NIST).
공식 판단과 합의가 보여 주는 것
- 미국 연방거래위원회(FTC)는 약국 체인 Rite Aid가 사용한 얼굴 인식 시스템이 수천 건의 오탐 일치를 만들어 냈으며, 잘못된 경보에 따라 행동한 직원들이 매장에서 고객을 따라다니고, 몸수색을 하고, 퇴장을 명령하거나 경찰에 신고했다고 밝혔다(FTC).
- FTC는 또한 Rite Aid의 행위가 유색인종에게 불균형적인 영향을 미쳤다고 밝혔다. FTC의 혐의를 해소하기 위한 합의에 따라 Rite Aid는 5년 동안 감시 목적으로 얼굴 인식 기술을 사용하는 것이 금지된다(FTC).
- 미국 국립표준기술연구소(NIST)의 연구에 따르면, 연구 대상이 된 얼굴 인식 알고리즘의 대다수에서 인구통계 집단 간 차이가 확인되었다. 동일 인물의 두 이미지를 일치시키는 알고리즘의 능력이 인구통계 집단마다 다르다는 것이다(NIST).
- 영국 정부에 따르면, 실시간 얼굴 인식에서 일치 가능성을 알리는 경보가 울린 뒤 현장의 경찰관이 어떤 조치를 취할지(취할 경우)를 결정하며, 체포 전에는 합리적인 근거를 갖추어야 한다(영국 정부 팩트시트).
- 경찰이 사건 이후 이미지를 검색하는 경우, 특별 훈련을 받은 조작자가 일치 가능성이 있는 결과를 육안으로 평가하고, 확인된 일치 결과는 수사 담당 경찰관에게 전달되어 정확성을 검토하고 확보된 모든 증거를 고려한다(영국 정부 팩트시트).
할 수 있는 일
- 영국에서는 자신의 데이터를 요청하라. 조직이 본인의 개인정보를 사용하거나 보관하고 있는지 문의하고 그 사본을 요청할 권리가 있다. 이를 정보주체 접근 요청(subject access request)이라 하며, 조직은 보통 한 달 이내에 응답해야 한다(ICO).
- 규칙을 파악하라. 영국 정보위원회(ICO)에 따르면 얼굴 인식은 데이터 보호법의 적용을 받으며, 이 법은 생체 정보를 포함한 개인정보의 모든 사용이 합법적이고, 공정하며, 비례적일 것을 요구한다(ICO).
- 먼저 우려를 제기하고, 그다음 민원을 제기하라. ICO는 대부분의 경우 먼저 해당 조직에 우려를 제기할 것을 권고하며, 그 응답에 만족하지 못하면 ICO에 민원을 제기할 수 있다(ICO).
- 미국에서는 사기, 기만 행위, 부당한 영업 관행을 ReportFraud.ftc.gov를 통해 FTC에 신고할 수 있다(FTC).
출처
- Rite Aid Banned from Using AI Facial Recognition After FTC Says Retailer Deployed Technology without Reasonable Safeguards, 미국 연방거래위원회, 2023년 12월 19일.
- NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software, 미국 국립표준기술연구소, 2019년 12월 19일.
- Police use of facial recognition: factsheet, GOV.UK, 2025년 12월 4일 게시.
- ICO clarifies how data protection law applies to facial recognition technology, 영국 정보위원회, 2025년 8월 13일.
- Getting copies of your information (SAR), 영국 정보위원회.
- Check if you can complain, 영국 정보위원회.