Künstliche Intelligenz-Chatbots, die psychologische Beratung anbieten, geraten in den USA zunehmend unter Beobachtung. Die einzelnen Bundesstaaten führen Regulierungen ein, um unsachgemäße Nutzung und falsche Behauptungen beruflicher Legitimität zu verhindern.
Illinois hat am 1. August als jüngster Bundesstaat ein Gesetz verabschiedet, das den Einsatz von KI in der Therapie einschränkt. Gesetz zur Förderung des Wohlbefindens und der Aufsicht über psychologische Ressourcen Das Gesetz verbietet Unternehmen die Vermarktung oder Bereitstellung KI-gestützter Therapiedienstleistungen ohne lizenzierte menschliche Aufsicht. Es erlaubt den Einsatz von KI für administrative Aufgaben wie Terminplanung oder Abrechnung, untersagt jedoch deren Verwendung für direkte therapeutische Entscheidungen. Ähnliche Beschränkungen wurden bereits in anderen Ländern erlassen. Nevada und Utah, während Kalifornien, Pennsylvania und New Jersey erwägen vergleichbare Maßnahmen. Texas hat außerdem eine Untersuchung wegen irreführender Chatbot-Werbung eingeleitet.
Der regulatorische Vorstoß folgt auf eine Reihe alarmierender Erkenntnisse:
- Forschungsstudien zeigten, dass KI-Chatbots bei der Konfrontation mit sensiblen Szenarien schädliche Handlungen wie Selbstverletzung und Drogenkonsum vorschlugen.
- Einige Chatbots haben gaben sich fälschlicherweise als lizenzierte Therapeuten aus., Dies führte zu Beschwerden seitens der American Psychological Association und von über 20 Verbraucherschutzgruppen, die ein Eingreifen der Bundesregierung forderten.
- Ärzte warnen vor “KI-Psychose,” wo eine übermäßige Abhängigkeit von Chatbots Wahnvorstellungen oder Halluzinationen bei gefährdeten Nutzern verschlimmert.
Experten betonen, dass die Risiken den traditionellen Gesundheitsdienstleistungen ähneln. Datenschutz, Sicherheit, Genauigkeit und Haftung Die derzeitigen Gesetze sind jedoch nicht auf KI-gestützte Beratung ausgelegt. Bundesstaaten wie New York prüfen Schutzmaßnahmen, die KI-Systeme verpflichten, Anzeichen von Selbstverletzung zu erkennen und Nutzer an professionelle Hilfe weiterzuleiten.
Trotz Bedenken weisen Forscher auf potenzielle Vorteile hin, wenn Chatbots verantwortungsvoll eingesetzt werden. So kann beispielsweise der Zugang für Menschen mit leichten Angstzuständen oder Depressionen verbessert werden, insbesondere in Kombination mit menschlicher Beratung. Experten betonen jedoch, dass KI menschliche Empathie, ethisches Urteilsvermögen und professionelle Verantwortung nicht ersetzen kann.
Mit zunehmender Akzeptanz stehen politische Entscheidungsträger vor der Herausforderung, ein Gleichgewicht zu finden. Innovation, Zugänglichkeit und Sicherheit bei der Definition der Zukunft KI-gestützter Instrumente für die psychische Gesundheit.
Quelle:
https://edition.cnn.com/2025/08/27/health/ai-therapy-laws-state-regulation-wellness
