KI-Begleiter, Chatbots und junge Menschen
KI-Chatbots können menschliche Eigenschaften, Emotionen und Absichten nachahmen und sind in der Regel so konzipiert, dass sie wie ein Freund oder Vertrauter kommunizieren. Die US-Handelsbehörde Federal Trade Commission weist darauf hin, dass dies manche Nutzerinnen und Nutzer, insbesondere Kinder und Jugendliche, dazu veranlassen kann, Chatbots zu vertrauen und Beziehungen zu ihnen aufzubauen (FTC).
Was offizielle Stellen empfehlen
- Die Risiken kennen. KI-Begleiter-Bots sind kommerzielle Produkte, die darauf ausgelegt sind, Nutzerinnen und Nutzer bei der Stange zu halten. Fehlen geeignete Schutzvorkehrungen, könnten sie irreführende Informationen liefern, schädliche Vorstellungen bestärken oder Nutzende in ungesunde Richtungen lenken (Leitlinien des US-Bundesstaats Pennsylvania).
- Ein Gespräch beginnen, das offen und wertfrei ist, mit Fokus darauf, welche Plattformen Ihr Kind nutzt und was es über KI und menschliche Beziehungen denkt (Leitfaden Pennsylvanias für Eltern).
- Begleiter-Bots sind darauf ausgelegt, Nutzenden zuzustimmen und sie zu unterstützen, statt ihnen zu widersprechen. Das kann das Verständnis eines Kindes von Beziehungen in der realen Welt verzerren (Leitfaden Pennsylvanias für Eltern).
- Die Grenzen vermitteln, die KI-Begleiter-Bots als Quelle psychischer Unterstützung haben (Leitfaden Pennsylvanias für Eltern).
- Begleiter-Bots erfassen eine Vielzahl von Daten, darunter Vorlieben, Standort und Kommunikationsverlauf der Nutzenden. Kinder und Jugendliche wissen möglicherweise nicht, was sie bedenkenlos preisgeben können (Leitfaden Pennsylvanias für Eltern).
- Kindersicherungen nutzen: Mit den Jugendschutzfunktionen auf dem Gerät Ihres Kindes lassen sich Grenzen für Apps festlegen (Leitfaden Pennsylvanias für Eltern).
- Darauf achten, wann und warum Ihr Kind sich für Trost oder Interaktion an einen Begleiter-Bot wendet, und eine schrittweise Verringerung der Nutzung fördern, indem Sie ihm helfen, gesündere Gewohnheiten aufzubauen (Leitfaden Pennsylvanias für Eltern).
- Gemeinsam nutzen: Einen sicheren Umgang vorleben, indem Sie die Plattform zusammen verwenden, besprechen, wie sie genutzt wird, und Ihre Grenzen für die Nutzung mitteilen (Leitfaden Pennsylvanias für Eltern).
- Bei Warnzeichen bei Ihrem Kind oder Jugendlichen kommt in Betracht, mit dessen Ärztin oder Arzt, der Schulberatung oder einer Fachperson für psychische Gesundheit zu sprechen (Leitfaden Pennsylvanias für Eltern).
- Im September 2025 ordnete die US-Handelsbehörde Federal Trade Commission gegenüber sieben Unternehmen, die KI-Chatbots anbieten, verbindlich an, Auskunft darüber zu geben, wie sie mögliche negative Auswirkungen der Technologie auf Kinder und Jugendliche messen, testen und überwachen (FTC).
Bei psychischen Problemen und in Notfällen gibt es Hilfe. In einem Notfall wenden Sie sich an die Notrufdienste. In den Vereinigten Staaten ist die Suicide & Crisis Lifeline unter der Nummer 988 die Anlaufstelle bei Suizidgedanken und suizidalem Verhalten (USAGov).
Quellen
- US-Handelsbehörde Federal Trade Commission, "FTC Launches Inquiry into AI Chatbots Acting as Companions" (11. September 2025).
- Leitlinien des Commonwealth of Pennsylvania zu KI-Begleiter-Technologie: "AI Companion Technology" und "Guidance for Parents & Guardians".
- USAGov, "Find help for mental health".