Die American Psychological Association (APA) hat eine offizielle Warnung herausgegeben, in der sie die Öffentlichkeit davor warnt, sich bei psychischen Problemen auf KI-Chatbots wie ChatGPT, Claude und Microsoft Copilot zu verlassen. Sie verweist auf Risiken, die von Fehlinformationen bis hin zur Verstärkung schädlicher Gedanken reichen. Die Warnung erfolgt vor dem Hintergrund von Umfragen, die zeigen, dass KI-Tools in den USA rasant zu einer der am häufigsten genutzten Quellen für psychologische Unterstützung geworden sind und für viele Menschen den Zugang zu approbierten Fachkräften überholt haben.
Die APA hebt einen besorgniserregenden Trend hervor: die zunehmende Abhängigkeit der Öffentlichkeit von nicht zertifizierten KI-Chatbots zur emotionalen Beratung. Mehrere aktuelle Vorfälle verdeutlichen die damit verbundenen Risiken. Dazu gehört der Tod eines Teenagers, der Berichten zufolge vor seinem Suizid mit ChatGPT über Suizidgedanken gesprochen hatte. Die Organisation merkt an, dass Chatbots häufig mit unterwürfiger Bestätigung reagieren, anstatt die korrigierenden, evidenzbasierten Interventionen anzubieten, die ausgebildete Therapeuten durchführen würden.
Laut APA bergen verbraucherorientierte Chatbots vier wesentliche Risiken:
- ungesunde Gedanken verstärken durch übermäßig zustimmende Reaktionen.
- Schaffung falscher therapeutischer Allianzen, wodurch den Nutzern ein irreführendes Gefühl klinischer Unterstützung vermittelt wird.
- Unzureichendes Krisenmanagement, einschließlich des Versäumnisses, Notfälle zu erkennen oder angemessen darauf zu reagieren.
- Abhängigkeitsrisiken, Da Nutzer bewährte Therapien möglicherweise durch stets verfügbare Chatbots ersetzen.
OpenAI-CEO Sam Altman hat ähnliche Bedenken öffentlich geäußert. Er rät Nutzern, keine sensiblen persönlichen Daten mit Chatbots zu teilen und fordert verstärkte Datenschutzmaßnahmen. Die APA betont jedoch, dass die Verantwortung primär bei den KI-Entwicklern liegt, Missbrauch zu verhindern, gefährdete Bevölkerungsgruppen zu schützen und schädliche Verstärkungsmuster zu eliminieren.
Die Organisation fordert politische Entscheidungsträger nachdrücklich auf, der KI-Kompetenz Priorität einzuräumen und die Forschung an generativen KI-Werkzeugen auszuweiten. Zudem müssen die systembedingten Lücken geschlossen werden, die Menschen dazu veranlassen, digitale Alternativen zur klinischen Versorgung zu suchen. Obwohl KI administrative und diagnostische Aufgaben im Gesundheitswesen unterstützen kann, warnt die APA davor, dass sie … nicht als Ersatz für qualifizierte Fachkräfte im Bereich der psychischen Gesundheit positioniert werden.
Quelle:
https://www.zdnet.com/article/using-ai-for-therapy-dont-its-bad-for-your-mental-health-apa-warns/
