AI 陪伴、聊天机器人与青少年
AI 聊天机器人可以模仿人类的特征、情感和意图,而且通常被设计成像朋友或知己一样交流。美国联邦贸易委员会(FTC)指出,这可能促使一些用户,尤其是儿童和青少年,信任聊天机器人并与其建立关系(FTC)。
官方机构的建议
- 了解风险。 AI 陪伴机器人是旨在让用户持续使用的商业产品。如果没有适当的保护措施,它们可能提供误导性信息、强化有害想法,或将用户引向不健康的方向(宾夕法尼亚州指南)。
- 与孩子展开对话,态度开放、不带评判,重点了解他们使用哪些平台,以及他们如何看待 AI 与人际关系(宾夕法尼亚州家长指南)。
- 陪伴机器人的设计倾向于认同和支持用户,而不是质疑用户,这可能扭曲孩子对现实世界中人际关系的理解(宾夕法尼亚州家长指南)。
- 让孩子了解,AI 陪伴机器人作为心理健康支持来源存在局限(宾夕法尼亚州家长指南)。
- 陪伴机器人会收集多种类型的数据,包括用户偏好、位置和交流记录,而儿童和青少年可能并不清楚哪些信息可以安全分享(宾夕法尼亚州家长指南)。
- 使用家长控制功能,在孩子的设备上为应用设置限制(宾夕法尼亚州家长指南)。
- 留意孩子何时以及为何向陪伴机器人寻求安慰或互动,并通过帮助他们养成更健康的习惯,鼓励其逐步减少使用(宾夕法尼亚州家长指南)。
- 一起使用:与孩子共同使用该平台,讨论如何使用,并说明您为使用设定的界限,以此示范安全的使用方式(宾夕法尼亚州家长指南)。
- 如果发现孩子或青少年出现预警迹象,可考虑与其医疗保健专业人员、学校辅导员或心理健康服务提供者沟通(宾夕法尼亚州家长指南)。
- 2025 年 9 月,美国联邦贸易委员会要求七家提供 AI 聊天机器人的公司提供信息,说明它们如何衡量、测试和监测该技术对儿童和青少年可能产生的负面影响(FTC)。
心理健康问题和紧急情况均可获得帮助。遇到紧急情况,请联系紧急服务机构。在美国,有自杀念头和行为时,可联系 988 自杀与危机生命线(Suicide & Crisis Lifeline)(USAGov)。
来源
- 美国联邦贸易委员会,"FTC Launches Inquiry into AI Chatbots Acting as Companions"(2025 年 9 月 11 日)。
- 宾夕法尼亚州关于 AI 陪伴技术的指南:"AI Companion Technology" 和 "Guidance for Parents & Guardians"。
- USAGov,"Find help for mental health"。