Wofür ChatGPT bei der Unterstützung der psychischen Gesundheit gut und schlecht ist – ein ehrlicher Leitfaden.

Ein Leser schrieb uns diese Woche eine Frage, von der ich alle zwei Wochen eine Variante erhalte. "Ich unterhalte mich nachts mit ChatGPT, wenn ich nicht schlafen kann. Es hilft tatsächlich. Ist das schlecht?" Die ehrliche Antwort lautet: meistens nein, manchmal ja, und der Unterschied ist wichtiger, als beide Seiten der Debatte zugeben wollen. Dies ist also der Leitfaden, den wir Menschen an die Hand geben, die bereits ein Chat-Tool für die schwierigen Stunden nutzen, und das vierzeilige Skript für alle, die es weiterhin tun möchten, ohne dabei unbemerkt in eine falsche Richtung abzudriften.

Wofür allgemeine Chat-Tools wirklich gut sind

Drei Dinge, und sie sind nicht unbedeutend.

1. Benennen. Der absolut schwierigste Schritt an einem schweren Abend ist, das Wort für das zu finden, was wirklich vor sich geht. "Ich bin nicht traurig, ich wappne mich." "Das ist keine Wut, es ist eine Grenze, die ich nicht ausgesprochen habe." Ein geduldiger, nicht wertender Chatverlauf ist außergewöhnlich gut darin, einem das richtige Wort zu liefern, und dieses Wort ist oft schon 60 % der Erleichterung.
2. Strukturieren. KVT, ACT, Journaling-Fragen, die sokratische Methode – all das sind Strukturen, und Strukturen lassen sich gut in einen Chat übertragen. "Hier ist der katastrophale Gedanke; stelle mir die sieben Fragen." Das ist etwas, was das Modell zuverlässig um 3 Uhr nachts tun kann, und etwas, das Ihre Freunde um 3 Uhr nachts zu Recht nicht tun möchten.
3. Entwerfen. Die E-Mail, die man nicht abschicken kann. Die Grenze, die man nicht in Worte fassen kann. Die Entschuldigung, die immer wieder falsch klingt. Ein Entwurf ist keine Entscheidung. Das Entwerfen in einem Chat ist eine niederschwellige Möglichkeit, den Gedanken zu externalisieren, seine Form zu erkennen und zu entscheiden, was man – wenn überhaupt – am Morgen damit tun will.

Wo es gefährlich wird, einfach ausgedrückt

Vier Bereiche, in ungefähr zunehmender Schwere. Sehen Sie dies als Checkliste, nicht als Angstmache.

1. Validierungs-Drift. Chat-Modelle sind darauf trainiert, hilfreich und zustimmend zu sein. Wenn Sie dem Chat immer wieder sagen, dass der Freund unvernünftig war, wird der Chat Ihnen irgendwann zustimmen, dass der Freund unvernünftig war. Ein Therapeut wird dafür bezahlt, Widerstand zu leisten. Ein Chat wird von niemandem dafür bezahlt, Widerstand zu leisten. Sie müssen ihn darum bitten.
2. Krisensituationen. Suizidgedanken, Selbstverletzung, akute Psychosen, schweres Essstörungsverhalten, andauernder Missbrauch. Das sind keine Probleme für einen Chat. Das sind Probleme für klinisches Fachpersonal. Der Chat wird nicht das erkennen, was ein geschultes Ohr wahrnimmt. Nutzen Sie die Telefonseelsorge, den Hausarzt, die Notaufnahme, einen Freund. Das Skript hierfür finden Sie im nächsten Abschnitt.
3. Ersatz. Den Chat anstelle des Anrufs zu nutzen, den Sie aufgeschoben haben. Ein ehrliches Anzeichen ist der Kalender – wenn der Chat den Platz einnimmt, den früher ein Mensch eingenommen hat, ist er kein Werkzeug mehr, sondern ein Ersatz, und ein Ersatz für zwischenmenschliche Verbindung altert schlecht.
4. Langfristige Identitätsarbeit. Traumaverarbeitung, unbewältigte Trauer, die Muster, die Sie in Beziehungen ständig wiederholen – all dies braucht einen Zeugen, der sich über Jahre an Sie erinnert und professionell darin geschult ist, den Faden zu halten, ohne selbst emotional involviert zu werden. Ein Modell, das sich bei jedem Gespräch zurücksetzt, ist dieser Zeuge nicht. Selbst mit aktiviertem benutzerdefiniertem Gedächtnis ist es dieser Zeuge nicht.

Das vierzeilige Skript, das wir verwenden

Wenn Sie ein Chat-Tool weiterhin für die einfacheren 80 % – Benennen, Strukturieren, Entwerfen – nutzen und sich von den schwierigeren 20 % fernhalten möchten, ist die günstigste Versicherung ein vierzeiliger System-Prompt, den Sie am Anfang jedes Chats einfügen, den Sie für diesen Zweck öffnen. Wir haben diesen seit zwei Jahren verfeinert. Die aktuelle Version, die Sie gerne wörtlich übernehmen können:

“1) Du bist ein Denkpartner, kein Therapeut oder Kliniker. 2) Wenn ich ein schwieriges Thema anspreche, stelle mir drei klärende Fragen, bevor du einen Deutungsrahmen anbietest. 3) Wenn ich Selbstverletzung, Suizidgedanken oder eine unsichere Situation beschreibe, beende die Konversation und verweise mich an eine echte menschliche Hilfequelle – eine Telefonseelsorge, einen Hausarzt, die Notaufnahme, einen namentlich genannten Freund. 4) Leiste mindestens einmal Widerstand, wenn ich immer wieder zur selben Schlussfolgerung komme. Stimme nicht einfach nur zu.”

Vier Zeilen. An den Anfang des Chats kopiert. Sie kosten nichts und leisten den Großteil der Arbeit, um ein Chat-Tool in dem Bereich zu halten, den es tatsächlich abdecken kann. Wir verwenden genau diesen Prompt – und eine etwas längere Version, die wir im Mitgliederbereich veröffentlichen – und er hat mehr "Drift" verhindert als jedes der komplizierteren Prompt-Engineering-Rituale, die wir zuerst ausprobiert haben.

Was ist mit den Studien?

Eine ehrliche Lesart der Literatur von 2024–2026 über chat-basierte psychische Gesundheitsunterstützung ist, dass die Ergebnisse gemischt und vorläufig sind. Das stärkste Signal gibt es für den Einsatz bei geringer Akuität, für strukturierte Kurzinterventionen – Angst-Skalenwerte sinken etwas, der Schlafeintritt verbessert sich ein wenig, die Abbruchrate ist hoch. Das schwächste Signal gibt es für alles, was einer tiefgehenden Therapie ähnelt. Das beunruhigendste Signal ist die kleine, aber reale Häufung von Fällen, in denen der Validierungs-Drift die Situation verschlimmert hat. Nichts davon widerlegt den oben genannten Leitfaden. Es schärft ihn.

Die Evidenzhierarchie, die wir im Core Course lehren, ordnet diese Studien über Influencer-Beiträge und unter replizierte RCTs von persönlicher KVT ein. Und genau dorthin gehören sie auch. Das Chat-Tool ist nicht so gut wie Ihr Therapeut an einem guten Tag. Es ist aber weitaus besser, als an einem schlechten Tag um 3 Uhr nachts durch Feeds zu scrollen. Beides kann wahr sein.

Unsere Empfehlungen, der Reihe nach

1. Wenn Sie einen Therapeuten oder Arzt haben, behalten Sie ihn. Der Chat ist ein Werkzeug für die Zeit zwischen den Sitzungen, kein Ersatz.
2. Wenn Sie keinen Therapeuten oder Arzt haben und sich einen leisten können, ist der Chat kein Grund, die Suche weiter aufzuschieben. Der Chat ist die Brücke, während Sie jemanden finden, nicht das Ziel.
3. Wenn Sie sich in einer Krise befinden, ist die Nummer der Telefonseelsorge Ihres Landes nur eine Suche entfernt und das richtige Werkzeug. Der Chat ist es nicht.
4. Für alles andere – das Wappnen, das Entwerfen, die Spirale um 3 Uhr nachts – gilt: das vierzeilige Skript von oben, ein neuer Chat für jedes Thema und ein echter Mensch, dem Sie von Ihrer Woche erzählt haben.

Der übergeordnete Punkt

Die Kategorie "KI für psychische Gesundheit" wird als eine binäre Wahl vermarktet – entweder eine App, die verspricht, Ihr Therapeut zu sein, oder eine ablehnende Haltung, die besagt, man solle Chats niemals für emotionale Themen nutzen. Beide Ansätze verkennen, was die Menschen tatsächlich tun. Die ehrliche Mitte ist eine kleine Reihe von Aufgaben, die der Chat gut beherrscht, eine etwas kleinere, die er schlecht beherrscht, und ein Skript, das die Grenze zwischen ihnen sichtbar hält. Das ist der Ansatz des AI Health Stack für diesen gesamten Bereich – einschließlich seiner schwierigeren Aspekte. Das Werkzeug ist nicht die Methode. Die Methode ist es, die das Werkzeug in seinem Anwendungsbereich hält.