KI-Governance in der persönlichen Gesundheit — was der WHO-Bericht und der EU AI Act wirklich von Ihnen verlangen.

Zwei Dokumente haben dieses Jahr die stillschweigende Arbeit geleistet. Die WHO hat eine Bereitschaftsbewertung veröffentlicht, wie Regierungen und Gesundheitssysteme KI einführen sollten, ohne ihre potenziellen Schäden zu importieren. Der EU AI Act hörte auf, ein Papier zu sein und wurde zu einer Frist. Keines davon ist persönlich für Sie geschrieben. Beide beschreiben, wenn man sie nebeneinander liest, dieselbe Frage in unterschiedlichen Registern: Wer ist verantwortlich, wenn ein KI-Tool jemandem hilft, etwas über seinen eigenen Körper zu entscheiden?

Diese Frage war eine Weile bequem unbeantwortet. Der Anbieter sagt, das Tool sei ein allgemeiner Assistent. Der Arzt sagt, er habe den Chat nie gesehen. Der Nutzer sagt, das Modell habe es ihm gesagt. Niemand in diesem Dreieck hält den Stift in der Hand. Was diese beiden Dokumente tun – sorgfältig, auf unterschiedliche Weisen – ist, den Stift wieder auf den Tisch zu legen und zu fragen, welche Hand ihn aufheben sollte. Sobald Sie es sehen, können Sie es nicht mehr ungeschehen machen. Und es verändert, wie eine vertretbare persönliche KI-Gesundheitspraxis tatsächlich aussieht.

Was der WHO-Bericht eigentlich sagt (verständlich ausgedrückt)

Entfernt man das diplomatische Drumherum, ist die Botschaft der WHO klein und klar. Erstens: KI im Gesundheitswesen ist nicht automatisch sicher, nur weil sie hilfreich aussieht, und nicht automatisch gefährlich, nur weil sie schnell ist. Zweitens: Die Sicherheitseigenschaft liegt nicht im Modell selbst – sie liegt im umgebenden System aus Zustimmung, Aufsicht, Protokollierung und Überwachung. Drittens: Länder, die KI ohne dieses Umfeld einführen, werden keine bessere Versorgung erhalten, sondern schnellere Fehler machen.

Auf eine Person übertragen: Ein Chat-Tool, das für die eigene Gesundheit verwendet wird, ist sicherer, wenn es eine schriftliche Absicht gibt („Dafür verwende ich es“), eine schriftliche Grenze („Dafür verwende ich es nie“), eine schriftliche Aufzeichnung („Das hat es entworfen, und das habe ich entschieden“) und einen echten menschlichen Überprüfungspfad („Das ist der Kliniker, dem ich den Entwurf vorlege“). Keines dieser vier Punkte ist technisch. Alle vier sind Governance. Niemand würde sie für Sie schreiben.

Was der EU AI Act hinzufügt – und wem

Der AI Act sortiert Systeme in Kategorien nach dem potenziellen Ausmaß eines Schadens bei einem Ausfall. Die meisten Consumer-Chat-Tools fallen in die Kategorie „begrenztes Risiko“, was im Grunde bedeutet: Der Anbieter muss ehrlich sein, dass es sich um KI handelt und darf nicht vorgeben, ein Arzt zu sein. Nützlich, aber bescheiden. Die interessante Kategorie ist Hochrisiko. Sobald ein KI-System eine medizinische Entscheidung wesentlich beeinflusst – Triage, Diagnose, Behandlungsplanung, Auswertung eines Scans – wird es als Hochrisiko eingestuft, und das Gesetz legt die Pflichten auf denjenigen, der es in diesem Kontext einsetzt. Dokumentation, menschliche Aufsicht, Datenqualitätskontrollen, Marktüberwachung nach der Einführung, ein Protokoll, das man einer Regulierungsbehörde vorlegen kann.

Die Regulierungsbehörde ist bisher höflich gewesen. Das ist die Phase, in der wir uns befinden. Aber die Worte im Gesetz müssen nicht aktualisiert werden, um einen allein praktizierenden Arzt zu erfassen, der ein allgemeines Modell verwendet hat, um einen Plan für einen echten Klienten zu entwerfen und darüber keine Aufzeichnung führte. Das tun sie bereits. „Ich benutze es nur für die Verwaltung“ ist eine Governance-Behauptung – und wenn hinter diesem Satz keine schriftliche Festlegung steht, ist es eine Behauptung, die beim ersten Mal, wenn ein Klient die Frage in einem Raum mit einem Anwalt stellt, nicht standhalten wird.

“Die alte Verteidigung – „Die KI hat es mir gesagt“ – ist keine Verteidigung, sondern ein Geständnis. Die neue Verteidigung ist ein Stück Papier, das Sie geschrieben haben, bevor Sie das Tool eingeschaltet haben.”

Die zweiseitige persönliche Richtlinie (für den sorgfältigen Einzelnen)

Für eine Person, die KI am eigenen Körper einsetzt, bedeutet „vertretbar“ nicht bürokratisch. Es bedeutet zwei Seiten, die Sie tatsächlich geschrieben haben und wiederfinden können. Seite eins ist Absicht und Grenze. Wofür Sie das Tool verwenden – zielgerichtete Suche bei Forschungsfragen, umfassendes Lesen eigener Notizen, Entwurf von Fragen für Ihren Hausarzt. Wofür Sie es niemals verwenden – Dosisentscheidungen, Symptom-Triage bei einem akuten Problem, Materialien für psychische Krisen, alles, was Sie von einer verschriebenen Behandlung ohne Einbeziehung eines Klinikers abbringen würde.

Seite zwei ist Überprüfung und Aufzeichnung. Welchem Kliniker Sie die Entwürfe vorlegen, wie oft und was Sie aufbewahren – eine laufende Notiz dessen, was das Modell vorgeschlagen hat, was Sie dazu gefragt haben und was entschieden wurde. Kein Rechtsdokument. Eine Gewohnheit, aufgeschrieben, damit sie den Moment überdauert, in dem Sie müde werden. Diese Gewohnheit, mehr als jede einzelne Prompt-Technik, ist das, was den KI-Einsatz in Ihrer eigenen Gesundheit von einem privaten Glücksspiel in etwas verwandelt, das eine sorgfältige Person bewusst tut.

Die Solopreneur-Version (höhere Einsätze, gleiche Form)

Für einen allein arbeitenden Kliniker, Coach oder Gesundheitsfachkraft hat die Richtlinie die gleiche Form und leistet mehr. Absicht und Begrenzung werden zu einem schriftlichen Anwendungsbereich: welche Tools auf der Liste stehen, welche Klientendaten in sie eingefügt werden dürfen, welche nicht, und welche Entscheidungen die KI entwerfen und nicht entscheiden darf. Überprüfung und Aufzeichnung werden zu einem Sitzungsprotokoll: welche Entwürfe einen Fall des Klienten berührten, was der menschliche Kliniker übersteuerte, was gesendet wurde. Eine Einverständniserklärung in Ihrem Aufnahmeformular – kurz, ehrlich, verständlich –, die besagt, dass KI in der Vorbereitung verwendet wird und niemals anstelle Ihres Urteils.

Zwei Dinge halten einen praktizierenden Kliniker davon ab, diese Richtlinie zu verfassen: die Angst, dass die Anerkennung des KI-Einsatzes Klienten verunsichern wird, und die Angst, dass ein schriftlicher Anwendungsbereich wie ein Geständnis wirkt. Beide Ängste verkehren sich ins Gegenteil, sobald die Richtlinie existiert. Klienten, denen klar gesagt wird, wofür ein Tool ist und wo das menschliche Urteilsvermögen liegt, vertrauen mehr, nicht weniger. Und ein ehrlich angewandter schriftlicher Anwendungsbereich ist genau das Artefakt, das „Ich benutze es nur für die Verwaltung“ von einem hoffnungsvollen Satz in einen verteidigungsfähigen verwandelt.

Wo das in den Stack passt

Die „3-Layer Method“ hat immer einen Menschen an ihrem Ende angenommen: Die Protokoll-Ebene erzeugt eine bessere Frage, nicht die Verschreibung. Governance ist die Ebene, die diese Annahme durchsetzbar macht. Recherche ist das, was das Modell lesen kann; Ledger ist das, woran es sich erinnern kann; Protokoll ist das, was es entwerfen kann; Governance ist das, was besagt, welche dieser Entwürfe den Raum verlassen dürfen und unter wessen Unterschrift. Überspringen Sie es, und der Stack funktioniert immer noch – bis zu dem Tag, an dem jemand fragt, wer entschieden hat. Fügen Sie es hinzu, und die gleichen Tools verrichten die gleiche Arbeit ohne die Risiken.

Was diese Woche zu tun ist

Öffnen Sie ein leeres Dokument. Schreiben Sie vier Sätze: wofür Ihre KI-Tools sind, wofür sie niemals sind, wer die Ausgaben überprüft, bevor sie etwas ändern, und wo die Aufzeichnung dieser Überprüfung lebt. Wenn Sie eine Einzelperson sind, ist das Ihre persönliche Richtlinie. Wenn Sie ein Solopreneur sind, ist das der erste Entwurf des KI-Anwendungsbereichs Ihrer Klinik. Drucken Sie es aus, kleben Sie es über Ihren Schreibtisch, überprüfen Sie es in neunzig Tagen. Dieses einzige Artefakt, mehr als jeder Prompt, ist das, was der WHO-Bericht und der AI Act stillschweigend von jedem ernsthaften Nutzer von KI im Gesundheitswesen verlangen.

Häufig gestellte Fragen

Gilt der EU AI Act für mich, wenn ich als Einzelperson ChatGPT für meine eigene Gesundheit nutze? Nicht direkt – der Act richtet sich an Anbieter und Betreiber, nicht an Sie als Privatperson. Aber Ihr Hausarzt, Ihre Klinik und jeder Praktizierende, mit dem Sie zusammenarbeiten, sind Betreiber, sobald sie KI in Ihrer Versorgung einsetzen, und ihre Verpflichtungen werden zu Ihrer Dokumentation.

Ist ChatGPT nach dem Gesetz ein hohes Risiko? Das allgemeine Modell selbst ist nicht automatisch ein hohes Risiko. Der Einsatz ist es. Sobald es eine medizinische Entscheidung in einem professionellen Umfeld wesentlich beeinflusst, ist der Einsatz ein hohes Risiko, und die Pflichten obliegen demjenigen, der es dort eingesetzt hat.

Verstoße ich gegen eine Regel, wenn ich meine eigenen Labordaten in einen KI-Chat einfüge, um sie selbst zu verstehen? Nein. Die persönliche Nutzung Ihrer eigenen Daten in einem universellen Tool ist nicht das Ziel des Gesetzes. Die Governance-Frage ist, ob Sie diesen Chat in einem Raum mit Ihrem Kliniker zur Sprache bringen möchten – und ob Sie eine schriftliche Anweisung haben, was Sie als Nächstes mit dem Gesagten tun.

Wenn ein allein praktizierender Arzt KI nur für Verwaltungsaufgaben verwendet, gelten die Verpflichtungen des AI Act dann immer noch? Echte Verwaltungsaufgaben (Terminplanung, Notizenformatierung, Marketingtexte) sind von geringem Risiko. Die Schwierigkeit besteht darin, dass „Verwaltung“ leise in „Zusammenfassung der Aufnahme eines Klienten“ und dann in „Entwurf seines Plans“ übergeht. Ein schriftlicher Anwendungsbereich sorgt dafür, dass dieser Übergang ehrlich bleibt.

TL;DR

• Der WHO-Bericht und der EU AI Act konzentrieren sich auf eine Frage: Wer ist verantwortlich, wenn KI Gesundheitsentscheidungen beeinflusst.
• Für Einzelpersonen: eine zweiseitige persönliche Richtlinie – Absicht + Grenze, Überprüfung + Aufzeichnung – ist der gesamte persönliche Governance-Stack.
• Für Solopreneure: ein schriftlicher Anwendungsbereich, eine Einverständniserklärung des Klienten und ein Sitzungsprotokoll machen den KI-Einsatz von einer Haftung zu einer verteidigungsfähigen Praxis.
• Die „3-Layer Method“ benötigt eine Governance-Schicht: Sie bestimmt, welche Entwürfe den Raum verlassen dürfen.
• Verfassen Sie diese Woche vier Sätze. Dieses einzige Artefakt ist es, was beide Dokumente stillschweigend von jedem ernsthaften Nutzer von KI im Gesundheitswesen verlangen.

Quellen

• WHO Europe – Readiness assessment for the use of artificial intelligence in health (2026 update)
• Europäisches Parlament und Rat – Verordnung über künstliche Intelligenz (der AI Act), Bestimmungen für Hochrisikosysteme (Anhang III)
• The Lancet – commentary on governance of AI in clinical practice (2026)