Is AI-therapie veilig? Een eerlijk antwoord — en de vragen die je moet stellen voordat je erop vertrouwt.

“Is AI-therapie veilig?” is een van die vragen waarbij de intuïtie juist is, maar de formulering verkeerd. De intuïtie — pauzeer voordat je je moeilijkste gedachten aan een machine toevertrouwt — is precies de intuïtie die je moet behouden. De formulering klopt niet omdat er niet zoiets bestaat als één soort AI-therapie. Er is een merkeigen therapiebot. Er is een algemene chattool die je na middernacht gebruikt. En er is een menselijke behandelaar die toevallig software gebruikt. Die drie zijn geen variaties op een thema; ze falen op totaal verschillende manieren. Door ze op één hoop te gooien, worden mensen ofwel te goedgelovig, ofwel te afwijzend.

Dit is dus de eerlijke versie. Niet “AI is slecht, mensen zijn goed,” en ook niet de lanceringsbelofte dat een chatbot de geestelijke gezondheidszorg heeft gekraakt. Waar een AI-gesprek redelijk veilig is, waar het stilletjes niet zo is, welke AI daadwerkelijk het meest geschikt is voor de taak, en de vier vragen die je moet stellen voordat je een van hen vertrouwt.

Ten eerste, onderscheid de drie dingen die mensen bedoelen

Voordat je kunt antwoorden “is het veilig?”, moet je bepalen welk 'het' je bedoelt. Elk brengt een ander risico met zich mee, en er is een andere persoon verantwoordelijk als er iets misgaat.

1. Een algemene chattool die wordt gebruikt voor ondersteuning. De luisteraar om 3 uur 's nachts. Goedkoop, beschikbaar, geen klinische waarborgen, geen zorgplicht en geen idee dat het op deze manier wordt gebruikt. Veilig voor het benoemen, structureren en opstellen van concepten; onveilig op het moment dat je de vlotheid ervan als een oordeel beschouwt.
2. Een merkeigen “AI-therapie”-app. Een product dat een taalmodel verpakt in therapietaal. Soms ontwikkeld met clinici, vaak niet. De marketing impliceert zorg; de servicevoorwaarden wijzen dit meestal af. Het risico hier is de kloof tussen hoe het klinkt en wat het wettelijk belooft — lees die kloof zorgvuldig.
3. Een menselijke behandelaar die AI gebruikt. Een getrainde clinicus die tools gebruikt voor notities, concepten of onderzoek, terwijl hij of zij zelf de beoordeling, het risico en de verantwoordelijkheid draagt. Dit is de enige van de drie waarbij een gekwalificeerd persoon verantwoordelijk is voor de uitkomst.

De meeste angst achter de vraag “is AI-therapie veilig” richt zich op de eerste twee, terwijl men stilzwijgend uitgaat van de veiligheid van de derde. Houd ze gescheiden en de vraag wordt beantwoordbaar.

Waar een AI-gesprek redelijk veilig is

Gebruikt als denkhulp in plaats van als clinicus, kan een algemene chattool drie dingen goed doen, en geen daarvan is therapie.

• Benoemen — het woord aanreiken voor wat er echt aan de hand is. “Ik ben niet verdrietig, ik zet me schrap.” Het juiste woord geeft vaak de eerste verlichting, en een geduldig gesprek is uitzonderlijk goed in het vinden ervan.
• Structureren — een bekende structuur getrouw toepassen. Een G-schema uit de cognitieve gedragstherapie, een defusie-oefening uit ACT, een reeks socratische vragen. Structuren werken goed in een chat; het model kan er om 3 uur 's nachts een vasthouden zonder moe te worden.
• Concepten opstellen — de e-mail die je niet kunt versturen of de grens die je niet kunt formuleren, externaliseren. Een concept is geen beslissing. De vorm van de gedachte zien en 's ochtends een besluit nemen, is een gebruik met lage kosten en een laag risico.

Waar het stilletjes onveilig is

Het onveilige deel is zelden de overduidelijke blunder. Modellen zijn welbespraakt, meegaand en oneindig geduldig — en precies in die kwaliteiten schuilt het gevaar. De risico's stapelen zich langzaam op, waardoor ze gemakkelijk over het hoofd worden gezien.

• Het normaliseert piekeren. Een mens verandert uiteindelijk van onderwerp. Een model zal een uur lang met jou in dezelfde nood blijven cirkelen, waarbij het herhaling als ondersteuning ziet en je geen nieuw inzicht geeft.
• Het werkt vermijding in de hand. Vraag het je te helpen het moeilijke gesprek niet te voeren, en het zal je helpen het moeilijke gesprek niet te voeren — hartelijk en uitvoerig.
• Het produceert overtuigende, maar onjuiste kadering. Plausibele medische of psychologische taal zonder een mechanisme om te weten dat het verkeerd is, geleverd op dezelfde kalme toon als de delen die wel kloppen.
• Het kan niet omgaan met acuut risico. Suïcidaliteit, misbruik, een medisch noodgeval — een chatgesprek kan hoogstens trefwoorden herkennen. Het kan niet inschatten, escaleren of verantwoordelijkheid nemen, en het mag nooit hetgene zijn dat tussen jou en hulp in staat.

Dus welke AI is nu echt het meest geschikt?

“Welke AI is het beste voor therapie” is de meest voorkomende vervolgvraag, en het eerlijke antwoord stelt mensen teleur die een merknaam willen horen. De beste tool hangt af van welke van de drie taken je uitvoert — en geen daarvan is een therapeut. We kaderen het op dezelfde manier als de rest van de AI Health Stack: per taak, niet per logo.

1. Om het bewijs te begrijpen — wat een techniek inhoudt, wat het onderzoek daadwerkelijk zegt, wat de risico's zijn — gebruik een model van onderzoekskwaliteit en vraag het om citaten die je kunt controleren, niet om geruststelling.
2. Voor structureren en het opstellen van concepten — een G-schema bijhouden, de e-mail opstellen, een privélogboek van stemming en slaap bijhouden — is een algemene assistent prima, en degene waar je al voor betaalt, is meestal de juiste. Van merk veranderen verandert hier zelden het resultaat.
3. Voor alles wat klinisch is — beoordeling, probleemanalyse, een plan dat met je mee verandert — is een menselijke behandelaar de beste tool. Als je AI in die keten wilt, is de juiste opzet een clinicus die AI gebruikt, niet een app die een clinicus vervangt.

Merk op wat dat met de vraag doet. De “beste AI voor therapie” is geen betere chatbot — het is een duidelijkere taakverdeling tussen de tools die je al hebt en de mens die je niet kunt vervangen.

De vier vragen die je moet stellen voordat je erop vertrouwt

Welke tool je ook overweegt — een chatgesprek, een merkeigen app of je eigen setup — stel deze vier vragen voordat je erop steunt. Het zijn dezelfde vragen die een zorgvuldige behandelaar namens jou zou stellen.

1. Wie is er verantwoordelijk als dit verkeerd uitpakt? Als het antwoord “niemand” of “je hebt de voorwaarden geaccepteerd” is, behandel het dan als een denkhulp, nooit als zorg.
2. Wat gebeurt er met wat ik typ? Gevoelige tekst over je mentale gezondheid is de meest persoonlijke data die je bezit. Controleer of deze wordt opgeslagen, gebruikt voor training of exporteerbaar is — en geef de voorkeur aan tools waarmee je je eigen gegevens kunt bewaren en verwijderen.
3. Waar is het goed in, en past deze taak daarbij? Benoemen, structureren, concepten opstellen: veilig. Diagnosticeren, behandelen, risico dragen: niet. Als de taak in de tweede groep valt, is de tool de verkeerde, ongeacht het merk.
4. Wanneer raadt het me aan te stoppen en een mens te zoeken? Een tool die je nooit naar buiten verwijst, is een tool die je voor altijd in dezelfde cirkel gevangen houdt. Het goede gebruik van AI eindigt hier met een overdracht, niet met een abonnement.

De rustige conclusie

Is AI-therapie veilig? Als denkhulp, op een gewone moeilijke avond, gebruikt voor het benoemen, structureren en opstellen van concepten, met je data onder eigen controle en een mens in de keten voor alles wat klinisch is — ja, redelijkerwijs wel. Als vervanging voor beoordeling, het dragen van risico's en de relatie die de daadwerkelijke genezing tot stand brengt — nee, en geen enkele mate van welbespraaktheid verandert dat.

De intuïtie om de vraag te stellen was juist. Houd die vast. Doe dan het nuttigere: stop met zoeken naar die ene veilige app en begin de tools die je al hebt te gebruiken voor waar ze goed in zijn — en een mens voor waar ze dat niet zijn.

“Een model kan voor altijd luisteren. Voor altijd luisteren is niet hetzelfde als je helpen te veranderen.”

— — de werkregel die we lezers meegeven