自動意思決定に異議を申し立てる
組織は、人間が関与しない自動化されたシステムを用いて個人に関する決定を行っている。例としては、クレジットを申請した後のオンラインでの決定や、あらかじめプログラムされたアルゴリズムと基準を用いる採用適性検査がある(UK ICO)。
英国とEUにおける権利
- 英国では、決定が個人の法的権利やそれと同等に重要な事柄に影響する場合、自動処理のみに基づく決定の対象とされない権利がある。オンラインのクレジット申請の自動的な拒否がその例である(UK ICO)。
- 組織がこうした決定を行えるのは、その決定が本人と組織の間の契約に必要である場合、法律で認められている場合、または本人の明示的な同意に基づく場合に限られる(UK ICO)。
- 組織が自動処理のみに基づく決定を行うことが認められている場合でも、本人が意見を述べ、決定についての説明を受け、人間による介入を求め、決定に異議を申し立てるための簡便な手段を提供すべきである(UK ICO)。
- 書面で行うこと。 請求は口頭でも書面でも可能だが、ICOは口頭で請求した場合も書面で改めて伝えることを推奨している。組織の請求への対応に不満がある場合は、まず当該組織に苦情を申し立て、それでも納得できない場合はICOに苦情を申し立てることができる(UK ICO)。
- ICOによると、このガイダンスはデータ(利用・アクセス)法による変更のため見直し中である(UK ICO)。
- EUでは、欧州連合司法裁判所が2025年2月に、自動化された信用評価の対象となった人は、決定がどのように行われたかについて説明を受ける権利があるとの判断を示した。企業は、本人がどの個人データがどのように使われたかを理解できるよう、実際に適用された手続きと原則を説明しなければならず、アルゴリズムを伝えるだけでは足りない(欧州連合司法裁判所)。
- 企業が当該情報に営業秘密が含まれると考える場合は、その情報を管轄の監督当局または裁判所に提供しなければならず、本人がどこまで閲覧できるかは当該当局または裁判所が決定する(欧州連合司法裁判所)。
米国では
- 貸し手がローンやクレジット枠の申請を断る場合、具体的な理由を記載した通知を送付するか、60日以内に求めれば理由を知る権利があることを通知しなければならない(CFPB)。
- 貸し手が信用報告書に基づいて申請を拒否した場合は、使用した数値の信用スコアと、スコアに影響した主な要因も通知しなければならない(CFPB)。
- 信用報告書に不正確と思われる情報を見つけた場合は、信用情報機関と情報提供元の企業に対して異議を申し立てることができる。信用情報に関する問題がある場合は、消費者金融保護局(Consumer Financial Protection Bureau)に苦情を提出できる(CFPB)。
出典
- Your rights relating to decisions being made about you without human involvement、英国情報コミッショナー事務局(UK Information Commissioner's Office)。
- Automated credit assessment: the data subject is entitled to an explanation as to how the decision was taken in respect of him or her、欧州連合司法裁判所の報道発表、2025年2月27日。
- What can I do if my credit application was denied because of my credit report?、米国消費者金融保護局(US Consumer Financial Protection Bureau)。