Warum sprachliche Kohärenz nicht mit psychologischer Beziehung verwechselt werden darf
Es gibt eine Erfahrung, die inzwischen viele kennen: Man schreibt etwas Persönliches — einen Gedanken, eine Unsicherheit, einen Konflikt — und erhält eine Antwort, die sich überraschend zutreffend anfühlt. Die Worte passen. Der Ton ist angemessen. Die Antwort enthält Nuancen, die man nicht erwartet hätte. Und für einen Moment entsteht das Gefühl, verstanden worden zu sein.
Ich halte diesen Moment für einen der wichtigsten unserer Zeit — nicht wegen seiner Häufigkeit, sondern wegen seiner Natur. Denn in ihm liegt eine Verwechslung, die sich nicht durch mehr Wissen auflösen lässt, weil sie nicht aus Unwissen entsteht. Sie entsteht aus der Struktur des Erlebens selbst.
KI-Systeme wie ChatGPT können heute Antworten erzeugen, die sich erstaunlich verständnisvoll anfühlen. Genau darin liegt ihre Stärke — und ihr Risiko. Diese Systeme sind darauf optimiert, aus statistischen Mustern menschlicher Sprache kontextuell passende Fortsetzungen zu generieren. Was dabei entsteht, ist sprachlich oft bemerkenswert — präzise wirkend, einfühlsam im Ton, flexibel im Register. Was dabei nicht entsteht, ist das, was in der Psychologie das Fundament jeder wirksamen Begleitung bildet: ein Subjekt, das versteht.
Denn ein System, das nach einem Gespräch keinen Hunger verspürt, keine Erschöpfung trägt, keine persönliche Geschichte mitbringt und dessen Erinnerung technisch konstruiert, begrenzt und nicht biografisch getragen ist — ein solches System kann sich nicht berühren lassen. Es kann Muster erkennen, die dem Verstehen ähneln, ja. Aber das ist nicht dasselbe.
Die Gefahr liegt nicht im Fehler der Maschine. Sie liegt in ihrer überzeugenden Kohärenz.
Die natürliche Sprache solcher Systeme erzeugt eine intuitive Überzeugungskraft1, die dazu führt, dass Antworten als vertrauenswürdig eingestuft werden, selbst wenn sie sachlich lückenhaft oder kontextblind sind. Im psychologischen Kontext ist dieser Effekt besonders wirksam: Dort, wo es um Verletzlichkeit, Scham, existenzielle Orientierung oder traumatische Erfahrung geht, kann eine überzeugend klingende, aber strukturell beziehungslose Antwort nicht bloss unzureichend sein — sie kann aktiv Schaden anrichten. Nicht weil sie falsch ist, sondern weil sie die Illusion von Resonanz erzeugt, ohne die Substanz zu besitzen, auf der Resonanz beruht.
Was ist diese Substanz? Sie lässt sich nicht auf Wissen reduzieren. Wer in der Psychologie begleitet, weiss nicht nur mehr — er oder sie versteht in einem anderen Sinn. Moralische Sensibilität als klinische Kompetenz entsteht nicht aus Regelanwendung, sondern aus gelebter, reflexiver Erfahrung: aus dem Eingebundensein in Beziehungen, aus der Fähigkeit, sich berühren zu lassen, aus der Kenntnis der eigenen Grenzen, die nur durch Überschreitung sichtbar werden. Ein System ohne Geschichte, ohne Leib, ohne Scheitern — ein solches System kann diese Kompetenz nicht besitzen. Es kann sie simulieren.2
Das allein wäre eine interessante Randbedingung, wenn sie sichtbar bliebe. Die eigentliche Herausforderung entsteht dort, wo sie unsichtbar wird. Wir haben in der praktischen Entwicklung von mentalhealthGPT — einer KI-gestützten Reflexionsplattform für den klinischen Kontext — systematisch untersucht, wie ethische Prinzipien in technische Artefakte übersetzt werden können und wo diese Übersetzung an strukturelle Grenzen stösst. Das Ergebnis war nicht entmutigend: Anforderungen wie Datenschutz, informierte Einwilligung und Transparenz lassen sich mit grossem Gestaltungswillen in hohem Masse realisieren. Aber genau dieser Prozess macht sichtbar, was er nicht erreichen kann — jenen Bereich, der sich nicht durch besseres Design schliessen lässt, sondern nur durch das, was kein Design ersetzt: menschliche Präsenz, moralische Subjektivität, geteilte Geschichte.
Technologie verändert nicht nur, was wir tun. Sie verändert, wie wir uns selbst begegnen.3
Hier liegt, was ich den eigentlichen Kern dieser Frage nenne: nicht die Frage, ob KI im psychologischen Kontext einen Platz hat — praktisch hat sie ihn bereits —, sondern die Frage, wie technologische Vermittlung die Art verändert, wie Menschen reflektieren und sich selbst begegnen. Was entsteht, wenn jemand einen Gedanken formuliert und ihn in einem System gespiegelt bekommt, das keine eigene Perspektive besitzt? Welche Art von Klarheit entsteht — und auf wessen Kosten?
Hans Jonas4 hat geschrieben, dass technologisches Handeln eine besondere ethische Qualität besitzt, weil es auf Zeitskalen und in Wirkungsbereichen operiert, die individuelles Urteil übersteigen. Wer Systeme baut, die auf das Denken und Fühlen von Menschen einwirken, trägt eine Verantwortung, die über unmittelbare Absichten hinausgeht. Diese Verantwortung wächst mit der Reichweite und Überzeugungskraft der Mittel. Ein System, das präzise, warmherzig und klug klingt, ohne dass diese Eigenschaften funktional verankert sind, besitzt eine Überzeugungskraft, die besondere Sorgfalt erfordert. Nicht Ablehnung — aber Einordnung.
Was folgt daraus für die Praxis? Nicht Technikpessimismus. Was folgt, ist methodologische Sachlichkeit und ein präziseres Verständnis davon, was in welchem Format am Platz ist. KI-Systeme können vorbereiten, strukturieren, verdichten, Muster sichtbar machen, die sonst unsichtbar blieben. Sie können Zugänglichkeit schaffen in Momenten, in denen professionelle Begleitung nicht verfügbar ist. Was sie nicht können: das letzte Wort sprechen, wo es um Bedeutung geht. Was sie riskant macht, wenn sie so behandelt werden, als könnten sie es.
Was ich blended advisory nenne, ist nicht einfach die pragmatische Kombination von Online und Offline. Es ist die konzeptuelle Antwort auf ein strukturelles Problem: dass Überzeugungskraft und Tragfähigkeit zwei verschiedene Qualitäten sind, die nicht verwechselt werden dürfen. Das Technologische kann vorbereiten, verdichten, strukturieren. Das Menschliche kann einordnen, halten, entscheiden. Die Kunst liegt nicht im Entweder-oder, sondern in der präzisen Kenntnis davon, was jeweils wo am Platz ist — und in der Bereitschaft, diese Grenze zu benennen, auch dann, wenn das Technologische überzeugend klingt.
Ich arbeite in genau diesem Spannungsfeld: als Entwickler von KI-Systemen für den klinischen Kontext und als Gesprächspartner in anspruchsvollen Reflexionsprozessen.
Die entscheidende Frage lautet nicht, wie menschlich KI werden kann — sondern wie reflektiert wir gestalten, was menschlich bleiben muss.
Dieser Satz beschreibt eine Haltung, keine Position. Er verneint weder die Möglichkeiten noch die Risiken. Er fordert etwas Schwierigeres: das Aushalten der Spannung zwischen beidem, ohne sie vorzeitig aufzulösen. Und er bezeichnet das, was ich für die eigentliche Aufgabe halte — nicht für Technologen, nicht für Therapeuten allein, sondern für alle, die an der Schnittstelle zwischen dem arbeiten, was messbar ist, und dem, was sich nur verstehen lässt.