KI in der Therapie: Was ist erlaubt und was nicht?
Was Therapeut:innen beim KI-Einsatz in der Praxis dürfen und was nicht: DSGVO, Schweigepflicht, EU AI Act und DiGAs, kompakt eingeordnet.
Die kurze Antwort vorweg
Künstliche Intelligenz darf in der psychotherapeutischen Versorgung unterstützen. Eigenständig behandeln oder diagnostizieren darf sie nicht. An dieser einen Linie entscheidet sich fast alles, was erlaubt oder verboten ist. Solange die fachliche Verantwortung bei Ihnen bleibt und sensible Daten geschützt sind, ist der Einsatz möglich. Sobald ein System anfängt, klinische Entscheidungen selbst zu treffen oder Gesundheitsdaten ungesichert zu verarbeiten, ist die Grenze überschritten. So einfach ist der Kern.
Dieser Beitrag ordnet die Rechtslage für Psychotherapeut:innen und Heilpraktiker:innen für Psychotherapie ein, ohne Marketingversprechen. Drei Regelwerke geben den Rahmen vor: die DSGVO mit dem besonderen Schutz von Gesundheitsdaten, die Schweigepflicht nach Paragraf 203 StGB und der EU AI Act. Wer diese drei kennt, kann die meisten Einzelfragen selbst beantworten.
Kurz zusammengefasst:
| Regelwerk | Worum es geht | Kernpflicht für die Praxis |
|---|---|---|
| DSGVO Art. 9 | Gesundheitsdaten als besonders geschützte Kategorie | Rechtsgrundlage, Auftragsverarbeitungsvertrag, Transparenz sowie sichere Übertragung, Speicherung und Löschkonzept |
| Schweigepflicht § 203 StGB | Vertraulichkeit von Patient:innendaten | Gilt unabhängig davon, wie nützlich ein Tool gerade ist |
| EU AI Act (seit 2024) | Risikobasierte Einstufung von KI-Systemen | Medizinprodukt-KI gilt meist als Hochrisiko-Anwendung, mit gestaffelten Pflichten ab 2026 und 2027 |
Erlaubt: KI als Werkzeug, nicht als Behandler
Im erlaubten Rahmen ist KI ein Werkzeug, das vorbereitet, strukturiert und entlastet. Sie darf einen Befund zusammenfassen, einen Termin organisieren oder einen Entwurf für die Dokumentation liefern. Was sie nicht darf, ist die therapeutische oder ärztliche Leistung ersetzen. Die inhaltliche und klinische Entscheidung trifft eine approbierte Person, nicht das Modell. Die Verantwortung lässt sich nicht auslagern. Wer überhaupt behandeln darf, regelt die Approbation, die wir im Beitrag Nach dem Studium direkt therapieren? Approbation 2026 genauer beschreiben.
Sinnvoll beginnt der Einsatz dort, wo die Aufgaben klar umrissen sind und das Risiko gering ist, also in der Verwaltung und nicht im Behandlungszimmer. Überall, wo KI Patient:innen betrifft, gilt zudem Transparenz. Sie müssen wissen, dass ein System beteiligt ist. Das ist keine Höflichkeit, sondern Teil der informierten Einwilligung.
Nicht erlaubt: die roten Linien
Genauso deutlich wie der erlaubte Rahmen sind die Grenzen. Ein System, das ohne menschliche Beteiligung behandelt, also ein eigenständiger Therapie-Chatbot, ist in der Versorgung nicht zulässig. Eine valide klinische Diagnose allein aus einem Sprachmodell ist es ebenso wenig, denn Diagnostik ist Aufgabe der behandelnden Person. Und KI darf keine Behandlungsentscheidung treffen, die anschließend niemand mehr kontrolliert.
Der gemeinsame Nenner ist einfach. Die Verantwortung in der Versorgung bleibt beim Menschen. Diese Grenze ist nicht nur ethischer Konsens, sie steht so im Berufs- und Datenschutzrecht. Ein Modell trägt für seine Ausgaben keine rechtliche Verantwortung. Also kann es auch nicht die Stelle einnehmen, die sie trägt.
Zur Orientierung:
| Anwendungsfall | Status | Warum |
|---|---|---|
| Befund zusammenfassen, Termin organisieren, Dokumentationsentwurf liefern | Erlaubt | Verwaltungsaufgabe ohne klinische Entscheidung |
| Therapeutische oder ärztliche Leistung ersetzen | Nicht erlaubt | Klinische Entscheidung bleibt bei der approbierten Person |
| Eigenständiger Therapie-Chatbot ohne menschliche Beteiligung | Nicht erlaubt | Fachliche Verantwortung bleibt beim Menschen |
| Klinische Diagnose allein aus einem Sprachmodell | Nicht erlaubt | Diagnostik ist Aufgabe der behandelnden Person |
| Behandlungsentscheidung ohne menschliche Kontrolle | Nicht erlaubt | Niemand kontrolliert die Entscheidung nachträglich |
DSGVO und Schweigepflicht: die Pflichten, die immer gelten
Gesundheitsdaten zählen nach Artikel 9 DSGVO zu den besonders geschützten Kategorien, und über allem steht die Schweigepflicht nach Paragraf 203 StGB. Beide gelten unabhängig davon, wie nützlich ein Tool gerade ist. Für jeden KI-Einsatz, der personenbezogene Daten berührt, ergeben sich daraus konkrete Pflichten:
- eine tragfähige Rechtsgrundlage für die Verarbeitung,
- ein Auftragsverarbeitungsvertrag mit dem Anbieter,
- transparente Information darüber, was mit den Daten geschieht, sowie eine sichere Übertragung, Speicherung und ein Löschkonzept.
Datenschutz ergibt sich bei KI nicht von selbst, weil solche Systeme von Natur aus auf Daten angewiesen sind. Er muss von der Architektur des Tools her gedacht sein. Ein Anbieter, der nicht klar sagen kann, wo verarbeitet wird und auf welcher Grundlage, ist für Patient:innendaten schlicht ungeeignet. Das ist die Mindestanforderung.
Der EU AI Act: warum medizinische KI streng reguliert ist
Seit 2024 sortiert der EU AI Act künstliche Intelligenz nach Risiko. Die meisten Werkzeuge des Praxisalltags fallen in die unteren Stufen mit geringen oder reinen Transparenzanforderungen. Anders liegt der Fall, sobald ein System als Medizinprodukt in die Versorgung hineinwirkt. Dann gilt es in der Regel als Hochrisiko-Anwendung und unterliegt strengen Pflichten, von der technischen Dokumentation über Konformitätsbewertungen bis zur Beobachtung nach Markteinführung.
Diese Pflichten greifen gestaffelt, ein großer Teil der Hochrisiko-Vorgaben in den Jahren 2026 und 2027. Für die eigene Praxis ist das weniger Bürokratie als Orientierung. Es zeigt, wie hoch die Hürden für seriöse therapeutische KI liegen, und es erklärt, warum geprüfte Anwendungen eine Sonderstellung genießen.
DiGAs: der geprüfte Sonderweg
Digitale Gesundheitsanwendungen, kurz DiGAs, sind der Teil des Marktes, der bereits klar reguliert ist. Sie werden vom BfArM geprüft und in ein offizielles Verzeichnis aufgenommen, sie müssen einen Nutzen belegen, feste Datenschutzanforderungen erfüllen und sind erstattungsfähig. Sie lassen sich also auf Rezept verordnen und werden von den Kassen getragen.
Damit unterscheiden sie sich grundlegend von einem frei verfügbaren Chatbot. Im BfArM-Verzeichnis stehen mehrere Dutzend Anwendungen, ein erheblicher Teil davon im Bereich psychische Gesundheit. Für Patient:innen, die Wartezeiten überbrücken oder zwischen den Sitzungen weiterarbeiten wollen, sind sie die belastbarere Option. Geprüft schlägt frei verfügbar.
Wo KI die Praxis heute schon entlastet
Der pragmatischste Einsatz liegt nicht im Gespräch, sondern in der Verwaltung. Dokumentation, Vor- und Nachbereitung, Terminorganisation: Das kostet Woche für Woche Zeit, ohne dass eine therapeutische Entscheidung berührt wird. Wie groß allein der Dokumentationsaufwand ist, haben wir im Beitrag Therapiedokumentation: Pflicht, Umfang und Zeitaufwand aufgeschlüsselt. Wie KI bei genau dieser Dokumentation helfen kann und wo ihre Grenzen liegen, vertiefen wir im Beitrag Kann KI bei der Therapiedokumentation helfen?.
Genau hier setzt clarathy an. Die KI-Unterstützung ist optional und abschaltbar, die Verarbeitung läuft DSGVO-konform auf Servern in Deutschland. Vor jedem Modellaufruf werden Namen aus den Inhalten entfernt, sodass die eigentliche Verarbeitung ohne identifizierende Klarnamen stattfindet. Die Verarbeitung selbst ist cloud-basiert, die fachliche Kontrolle bleibt bei Ihnen. Wer eine Praxis neu aufbaut, findet im Leitfaden zur Praxisgründung 2026 den größeren Rahmen.
Was KI nicht kann, und warum die Kontrolle bei Ihnen bleibt
Dass die fachliche Kontrolle nicht delegierbar ist, liegt an den typischen Schwächen heutiger Modelle. Sprachmodelle neigen dazu, Aussagen zu bestätigen, statt sie zu hinterfragen. Sagt eine Person mit Essstörung, sie sei zu dick, kann ein schlecht ausgelegtes System das bestärken, statt es therapeutisch einzuordnen. Bei wahnhaften Überzeugungen droht dieselbe Dynamik in gefährlicherer Form.
Dazu kommt: Allgemeine Chatbots erkennen akute Krisen nicht zuverlässig und eskalieren sie nicht. In suizidalen Situationen ist die menschliche Einschätzung unverzichtbar. Und Modelle erfinden gelegentlich Fakten, führen nicht existierende Studien an oder übersehen Kontraindikationen, ohne dass man es ihnen ansieht. Im Alltag fällt das kaum auf.
Ersetzt KI deshalb Psychotherapeut:innen? Nein. Sie kann Aufgaben abnehmen, den Zugang erleichtern und zwischen den Sitzungen begleiten. Aber die therapeutische Beziehung, das Verstehen im Kontext und das Urteil in schwierigen Lagen bleiben menschlich. Mimik, Gestik und Tonfall tragen eine Bedeutung, die ein Textmodell nicht erfasst. Das wahrscheinliche Modell der nächsten Jahre ist deshalb kein Ersatz, sondern eine Ergänzung: menschliche Therapie im Kern, digital entlastet an den Rändern.
Worauf Sie bei der Auswahl achten sollten
Bevor ein KI-Tool in die Praxis kommt, lohnt ein nüchterner Blick auf wenige Punkte. Der Anbieter sollte in der EU sitzen und einen Auftragsverarbeitungsvertrag anbieten. Bei versorgungsnahem Einsatz wird die Frage nach Medizinprodukt-Status oder DiGA-Zulassung entscheidend, bei reiner Verwaltung tritt sie zurück. Wichtig bleibt, dass Sie nachvollziehen können, wo verarbeitet wird und welche Daten das System sieht, und dass die fachliche Entscheidung samt Abschaltmöglichkeit bei Ihnen liegt. Wer mit Wirksamkeit wirbt, ohne sie zu belegen, hat seine Beweislast nicht erfüllt. Dann lieber weitersuchen.
Häufige Fragen
Darf ich ChatGPT für therapeutische Zwecke nutzen?
ChatGPT ist kein zugelassenes Medizinprodukt und kein Therapieinstrument. Für allgemeine Recherche kann es taugen. Für klinische Entscheidungen oder die Verarbeitung von Patient:innendaten ist es ungeeignet, schon weil Datenschutz und Schweigepflicht nicht gesichert sind.
Werden KI-Anwendungen von der Krankenkasse bezahlt?
Erstattungsfähig sind zugelassene DiGAs, die sich auf Rezept verordnen lassen. Allgemeine KI-Tools werden nicht erstattet.
Wer haftet, wenn etwas schiefgeht?
Die fachliche Verantwortung bleibt bei der behandelnden Person. Ein KI-System trägt für seine Ausgaben keine rechtliche Verantwortung. Genau deshalb darf es nur unterstützend eingesetzt werden.
Fazit
KI in der Therapie ist kein Zukunftsthema mehr, sondern eine Frage des verantwortungsvollen Umgangs im Jetzt. Der rechtliche Rahmen ist dabei klarer, als die Debatte oft vermuten lässt: unterstützen ja, ersetzen nein. DSGVO und Schweigepflicht gelten ohne Ausnahme, medizinische KI wird im EU AI Act streng reguliert, und geprüfte DiGAs sind der regulierte Sonderweg. Der sinnvollste Einstieg liegt nicht am Patient:innen-Kontakt, sondern bei der Entlastung von Verwaltung und Dokumentation, mit Werkzeugen, die transparent sind, die Daten schützen und die Kontrolle bei Ihnen lassen.
Über den Autor
Yunus Demirel ist Mitgründer von clarathy, einer Praxissoftware für Psychotherapeut:innen. Sein Schwerpunkt liegt auf sicherer, datenschutzkonformer Software im Gesundheitswesen und auf der Frage, wie digitale Werkzeuge Behandler:innen entlasten, ohne die Anforderungen von Datenschutz und Schweigepflicht zu verletzen.
