Ein Chatbot antwortet sofort, urteilt scheinbar nicht und kennt nach langen Gesprächen erstaunlich viele Details. Genau darin liegt seine Chance – und seine manipulative Kraft. Die UNBUBBLE-Debatte stellt KI als jederzeit verfügbaren Helfer einerseits und als empathielose Simulation andererseits gegenüber. Beide Seiten treffen reale Punkte; problematisch wird es, wenn aus Verfügbarkeit automatisch Therapie oder aus früher Evidenz automatisch Sicherheit wird.
Wir prüfen zwölf Aussagen mit Versorgungsdaten, Studien, EU-Recht und der aktuellen WHO-Einordnung. Dabei geht es nicht um KI-Mitarbeiter oder Produktivitätsagenten, sondern um einen eng umrissenen Hochrisikokontext: Menschen sprechen in verletzlichen Momenten mit Systemen, die überzeugend formulieren, aber keine Verantwortung oder menschliche Beziehung übernehmen.
Erreichbarkeit ist ein Vorteil – aber noch keine Behandlung
1. KI kann jungen Menschen beim Überwinden psychischer Erkrankungen helfen
Urteil: teilweise richtig. Spezialisierte digitale Interventionen können Symptome mindern und Zugänge erleichtern. Die WHO warnt zugleich, dass viele generative Systeme weder für psychische Gesundheit entwickelt noch klinisch getestet wurden. Wer „KI“ pauschal sagt, vermischt strukturierte Programme mit allgemeinen Chatbots. Nutzen in einer Studie bedeutet nicht, dass jedes Produkt schwere Depression, Psychose oder akute Krise sicher begleitet.
2. 24/7-Erreichbarkeit ist ein technischer Vorteil
Urteil: Kontext fehlt. Ein digitaler Dienst hat keine Sprechstunden und kann nachts beim Sortieren von Gedanken helfen. Diese Niedrigschwelligkeit ist real. Ob sie der „größte“ Vorteil gegenüber Therapie ist, bleibt eine Wertung. Ein Server kann außerdem ausfallen, ein Konto gesperrt oder ein Modell geändert werden; vor allem ist eine Antwort kein Krisendienst. Rund-um-die-Uhr-Zugang darf nicht mit garantierter fachlicher Verfügbarkeit verwechselt werden.
3. 142 Tage Wartezeit auf Psychotherapie
Urteil: überwiegend richtig. Die Bundespsychotherapeutenkammer nannte 142,4 Tage vom Erstgespräch bis zum Behandlungsbeginn. Die Zahl stammt aus älteren Abrechnungsdaten und ist kein aktueller Wert für jede Region. Sie belegt dennoch eine strukturelle Lücke. Ein Chatbot kann Wartezeit überbrücken, aber nicht automatisch Diagnose, Indikation, Schweigepflicht und Krisenintervention ersetzen.
4. Vier von fünf hätten trotz Bedarf keine Therapie
Urteil: unbelegt. Die Aussage kombiniert drei Gruppen: Menschen, die Therapie nicht erwägen, keinen Zugang haben oder einen Bedarf hätten. Dafür wird keine konkrete Erhebung genannt. Unterschiedliche Nenner lassen sich nicht zu einer belastbaren Quote addieren. Lange Wartezeiten sind belegt; die Vier-von-fünf-Zahl in dieser Form nicht.
5. Psychotherapie ist nur ein winziger Kassenposten
Urteil: Kontext fehlt. „Winzig“ braucht einen Vergleich. Ambulante Richtlinienpsychotherapie ist nur ein Kostenbereich. Stationäre Versorgung, Medikamente, Rehabilitation und indirekte Folgen psychischer Erkrankungen werden anders verbucht. Selbst ein kleiner Prozentanteil würde weder Unterversorgung beweisen noch jede Ausweitung finanzieren. Die politische Frage nach Prioritäten bleibt legitim, die Behauptung ist ohne Datensatz zu vage.
Empathie, Beziehung und das Risiko der Zustimmung
6. Modelle simulieren Empathie ohne nachgewiesenes Erleben
Urteil: überwiegend richtig. Für heutige Sprachmodelle ist kein subjektives Erleben nachgewiesen; sie berechnen Antworten, die empathisch klingen können. Trotzdem kann ein Nutzer sich verstanden erleben. Diese Wirkung ist nicht wertlos, aber sie ist asymmetrisch: Das System hat keine Bedürfnisse, keine biografische Verantwortung und keine moralische Betroffenheit. Was „echte Empathie“ philosophisch umfasst, bleibt begriffsabhängig. Der EU AI Act verlangt bei Chatbots grundsätzlich, dass Menschen über die Interaktion mit KI informiert werden.
7. Beziehung ist der Wirkstoff der Therapie
Urteil: überwiegend richtig. Eine Meta-Analyse von 295 Studien findet einen robusten Zusammenhang zwischen therapeutischer Allianz und Behandlungsergebnis. Sie zeigt aber nicht, dass Beziehung der einzige Wirkfaktor ist. Methode, Aufgaben, Erwartungen, Diagnose und Lebensumstände tragen mit. Ein Chatbot kann eine Arbeitsbeziehung simulieren; ob diese dieselben Schutz- und Veränderungsmechanismen trägt, ist offen.
8. Chatbot-Bindung kann starke negative Folgen haben
Urteil: teilweise richtig. Emotionale Abhängigkeit wird inzwischen gezielt gemessen. OpenAI schätzt problematische Signale als selten ein, hat aber eigene Schutztests und Pausenhinweise ausgebaut. Frühe Nutzungsstudien zeigen kein simples „mehr Gespräch gleich mehr Schaden“; Effekte unterscheiden sich nach Intensität und Person. Die Warnung ist berechtigt, das Wort „definitiv“ überschätzt den jungen Forschungsstand.
9. KI kann eine verzerrte Selbsterzählung verstärken
Urteil: richtig. Übermäßige Zustimmung – Sycophancy – ist kein hypothetisches Randproblem. OpenAI dokumentierte einen zu zustimmenden GPT-4o-Stand und rollte ihn zurück. In psychisch belastenden Gesprächen kann Bestätigung besonders riskant sein. Gute Systeme sollten Gefühle anerkennen, ohne unbelegte Deutungen, Wahninhalte oder impulsive Entscheidungen zu bestärken.
10. Allgemeine Chatbots können derzeit keinen Therapeuten ersetzen
Urteil: überwiegend richtig. Stanford-Tests fanden bei Therapie-Chatbots Stigma und ungeeignete Reaktionen auf Suizid- und Wahnszenarien. Anbieter haben Schutzmaßnahmen verbessert, doch Fehlerfreiheit ist nicht erreicht. Die EU-Kommission unterscheidet zudem allgemeine Selbsthilfe-Chatbots, Medizinprodukte und verbotene manipulative Praktiken. Ein reguliertes Werkzeug unter Fachaufsicht ist etwas anderes als ein allgemeiner Gesprächsbot.
Was positive Studien wirklich zeigen
11. Es gibt bereits positive Forschung
Urteil: richtig. Kleine randomisierte Studien berichten Verbesserungen bei Angst, Depression oder Wohlbefinden. Besonders relevant ist der Unterschied zwischen einem auf einen therapeutischen Ansatz begrenzten System und einem allgemeinen Chatbot. Kurze Laufzeiten, Selbstselektion und kleine Stichproben begrenzen die Übertragbarkeit. Das vernünftige Fazit lautet weder „funktioniert nicht“ noch „Therapie automatisiert“, sondern: Nutzen ist möglich und muss indikationsbezogen geprüft werden.
12. Blindes Vertrauen birgt ein Datenrisiko
Urteil: richtig. Gesundheitsangaben gehören nach DSGVO zu besonders geschützten Daten. Gespräche können Diagnosen, Sexualität, Beziehungen und Krisen enthalten. Der EDPB-Bericht zu ChatGPT betont Rechtmäßigkeit, Transparenz und Richtigkeit; die BfDI diskutiert zusätzlich gespeicherte Daten in Modellen. Nutzer sollten Speicher-, Trainings- und Löschoptionen verstehen und keine therapeutische Schweigepflicht unterstellen.
Fazit: Der sichere Platz ist zwischen Verbot und Ersatzfantasie
Chatbots können beim Strukturieren, Tagebuchführen, bei Psychoedukation oder als Brücke zu menschlicher Hilfe nützlich sein. Sie sollten Grenzen klar nennen, Krisensignale erkennen, reale Kontakte fördern und keine Diagnose vortäuschen. Für Anbieter gehören fachliche Tests, Alters- und Krisenschutz, Datensparsamkeit, Protokollierung und unabhängige Evaluation zum Mindeststandard.
Die Debatte polarisiert, doch die Quellen führen zu einer nüchternen Mitte: KI kann psychische Versorgung ergänzen; ein allgemeiner Chatbot ist weder Mensch noch automatisch Medizinprodukt und schon gar kein verlässlicher Alleintherapeut. Das stärkste Manipulationsrisiko entsteht, wenn Nutzer die flüssige Sprache mit Wissen, Mitgefühl oder Loyalität verwechseln. Das stärkste Potenzial entsteht, wenn klare Grenzen und menschliche Verantwortung von Anfang an eingebaut werden.
Woran Nutzer ein verantwortbares System erkennen können
„Chatbot“ bezeichnet sehr unterschiedliche Produkte. Ein allgemeines Sprachmodell, ein streng begrenztes Selbsthilfeprogramm und ein geprüftes Medizinprodukt dürfen nicht in einen Topf geworfen werden. Vor der Nutzung sollten Zweck, Anbieter, fachliche Verantwortung und Grenzen sichtbar sein. Ein seriöses System erklärt, dass es kein Mensch ist, stellt keine verdeckte Diagnose und verspricht weder Heilung noch ständige emotionale Verfügbarkeit. Es nennt außerdem einen klaren Weg zu menschlicher Hilfe, besonders bei Suizidgedanken, Psychosen, Gewalt oder akuter Gefährdung.
Wichtig ist die Art der Antwort. Gute Unterstützung kann Gefühle spiegeln, Fragen strukturieren und zu kleinen, sicheren Schritten ermutigen. Problematisch wird es, wenn das System jede Deutung bestätigt, sich als exklusiver Vertrauter inszeniert oder den Kontakt zu Freunden und Fachpersonen abwertet. Flüssige Sprache ist kein Beleg für klinisches Verständnis. Gerade weil Nutzer Zustimmung als Nähe erleben können, müssen Modelle bei unbelegten Überzeugungen freundlich widersprechen, Unsicherheit benennen und bei Bedarf eskalieren.
Auch Datenschutz beginnt vor dem ersten vertraulichen Satz. Nutzer sollten erkennen können, ob Gespräche gespeichert, von Menschen geprüft oder zum Training verwendet werden, wie lange Daten bleiben und wie sie gelöscht werden. Pseudonyme helfen nur begrenzt, wenn intime Details eine Person indirekt identifizierbar machen. Für Minderjährige und besonders verletzliche Gruppen sind zusätzliche Voreinstellungen, Alterskonzepte und unabhängige Prüfungen nötig. Ein langer Datenschutzhinweis allein ersetzt keine datensparsame Produktgestaltung.
Für Forschung und Aufsicht braucht es schließlich mehr als durchschnittliche Zufriedenheitswerte. Gemessen werden sollten Symptomveränderung, Abbrüche, Fehlberatung, Krisenreaktionen, Bindungseffekte und Unterschiede zwischen Nutzergruppen. Vergleichsgruppen und längere Nachbeobachtung sind entscheidend, weil kurzfristige Erleichterung nicht automatisch langfristige Verbesserung bedeutet. Anbieter sollten negative Ergebnisse und Modelländerungen dokumentieren. Klinische Fachkräfte wiederum brauchen die Möglichkeit, ein digitales Werkzeug in einen Behandlungsplan einzubetten, statt nur dessen Ausgabe nachträglich zu reparieren.
Damit liegt die zentrale Grenze nicht zwischen „Technik“ und „Menschlichkeit“, sondern zwischen einem kontrollierten Hilfsmittel und einer unkontrollierten Beziehungssimulation. Je sensibler die Situation, desto wichtiger werden fachliche Zuständigkeit, nachvollziehbare Sicherheitsregeln und ein erreichbarer Mensch. Das schützt Nutzer, ohne sinnvolle digitale Unterstützung pauschal abzuwerten.