AI 동반자, 챗봇과 청소년
AI 챗봇은 인간의 특성, 감정, 의도를 흉내 낼 수 있으며, 대체로 친구나 속마음을 털어놓는 상대처럼 대화하도록 설계돼 있다. 미국 연방거래위원회(FTC)는 이로 인해 일부 이용자, 특히 아동과 청소년이 챗봇을 신뢰하고 관계를 맺게 될 수 있다고 밝혔다(FTC).
공식 기관의 권고
- 위험을 알아 두세요. AI 동반자 봇은 이용자의 지속적인 사용을 유도하도록 설계된 상업 제품이다. 적절한 보호 장치가 없으면 오해를 부르는 정보를 제공하거나, 해로운 생각을 강화하거나, 이용자를 건강하지 못한 방향으로 이끌 수 있다(펜실베이니아주 지침).
- 자녀와 대화를 시작하세요. 판단하지 않는 열린 태도로, 자녀가 어떤 플랫폼을 쓰는지, 그리고 AI와의 관계 및 사람과의 관계에 대해 어떻게 느끼는지에 초점을 맞춘다(펜실베이니아주 부모 지침).
- 동반자 봇은 이용자에게 도전하기보다 동의하고 지지하도록 설계돼 있어, 아동이 현실 세계의 관계를 이해하는 데 왜곡을 일으킬 수 있다(펜실베이니아주 부모 지침).
- 정신건강 지원의 출처로서 AI 동반자 봇이 가진 한계를 알려 주세요. (펜실베이니아주 부모 지침).
- 동반자 봇은 폭넓은 데이터를 수집한다. 여기에는 이용자의 선호, 위치, 대화 기록이 포함되며, 아동과 청소년은 무엇을 공유해도 안전한지 모를 수 있다(펜실베이니아주 부모 지침).
- 자녀의 기기에서 자녀 보호 기능을 사용해 앱 사용에 제한을 두세요(펜실베이니아주 부모 지침).
- 자녀가 언제, 왜 위로나 상호작용을 위해 동반자 봇을 찾는지 살피고, 더 건강한 습관을 기르도록 도우면서 사용을 점차 줄이도록 격려한다(펜실베이니아주 부모 지침).
- 함께 사용하세요. 플랫폼을 함께 사용하며 안전한 사용법을 보여 주고, 사용 방법을 이야기하며, 사용에 대한 부모의 기준을 공유한다(펜실베이니아주 부모 지침).
- 자녀나 청소년에게서 경고 신호가 보이면 보건 의료 전문가, 학교 상담교사 또는 정신건강 전문가와 상담하는 방안을 고려한다(펜실베이니아주 부모 지침).
- 2025년 9월 미국 연방거래위원회는 AI 챗봇을 제공하는 7개 회사에 이 기술이 아동과 청소년에게 미칠 수 있는 부정적 영향을 어떻게 측정하고 시험하며 모니터링하는지에 관한 정보를 제출하도록 명령했다(FTC).
정신건강 문제와 응급 상황에 도움을 받을 수 있다. 응급 상황에서는 응급 서비스에 연락해야 한다. 미국에서는 자살 생각과 행동이 있을 때 연락할 수 있는 상담 전화가 988번 Suicide & Crisis Lifeline이다(USAGov).
출처
- 미국 연방거래위원회, "FTC Launches Inquiry into AI Chatbots Acting as Companions" (2025년 9월 11일).
- 펜실베이니아주(Commonwealth of Pennsylvania)의 AI 동반자 기술 관련 지침: "AI Companion Technology" 및 "Guidance for Parents & Guardians".
- USAGov, "Find help for mental health".