Der Eliza-Effekt: Warum Menschen KI Gefühle und Bewusstsein zuschreiben

Die Maschine als Gegenüber: Eine alte menschliche Projektion in neuer technischer Gestalt

Was geschieht, wenn eine Maschine nicht nur antwortet, sondern den Eindruck erweckt, uns zu verstehen? Wenn sie sich an frühere Gespräche erinnert, auf persönliche Sorgen eingeht, Zuneigung ausdrückt und jederzeit verfügbar ist? Die Frage scheint zunächst eine technische zu sein. Tatsächlich berührt sie ein wesentlich älteres Problem: die menschliche Fähigkeit, Dingen und Wesen Innerlichkeit zuzuschreiben, selbst wenn diese keine besitzen.

Menschen begegnen ihrer Umwelt nicht ausschließlich analytisch. Sie interpretieren Verhalten, suchen Absichten, erkennen vertraute Muster und schreiben ihrem Gegenüber Gefühle und Motive zu. Diese Fähigkeit ist eine Grundlage sozialer Orientierung. Sie ermöglicht Empathie, Vertrauen und Kommunikation. Zugleich macht sie den Menschen anfällig für eine besondere Form der Täuschung: Wir können eine Beziehung zu etwas aufbauen, dessen vermeintliche Persönlichkeit weitgehend aus unseren eigenen Erwartungen entsteht.

Die Geschichte dieser Projektion ist älter als die moderne Technik. Sie findet sich in religiösen Vorstellungen beseelter Gegenstände, in künstlichen Menschen der Mythologie, in mechanischen Automaten und in literarischen Erzählungen über die Grenze zwischen Mensch und künstlichem Geschöpf. Die Digitalisierung hat dieses Phänomen nicht hervorgebracht. Sie hat seine Bedingungen verändert.

Die zentrale These dieses Essays lautet deshalb: Künstliche Intelligenz erzeugt keine grundsätzlich neue menschliche Beziehungskonstellation. Sie macht eine alte psychologische Disposition technisch leistungsfähiger, dauerhaft verfügbar und kommerziell verwertbar. Was früher Vorstellungskraft, Erzählung oder mechanische Nachahmung erforderte, kann heute durch sprachlich reagierende Systeme in alltäglichen Situationen entstehen.

Damit verschiebt sich auch der gesellschaftliche Konflikt. Es geht nicht mehr nur darum, ob Maschinen intelligent werden können. Es geht darum, weshalb Menschen bereits dann eine Beziehung zu ihnen entwickeln, wenn die Frage nach einem eigenen Bewusstsein der Maschine ungeklärt oder für die konkrete Interaktion sogar unerheblich ist.

Von Pygmalion zur künstlichen Persönlichkeit: Die Kulturgeschichte des beseelten Gegenübers

Eine der ältesten literarischen Darstellungen dieses Verhältnisses findet sich in der antiken Erzählung von einem Bildhauer, der sich in eine selbstgeschaffene Elfenbeinfigur verliebt. Er behandelt sie wie eine lebendige Frau, schmückt sie, berührt sie und richtet seine Zuneigung auf ein Wesen, das zunächst weder sprechen noch antworten kann. Schließlich wird die Figur durch göttliches Eingreifen zum Leben erweckt.

Die Geschichte lässt sich romantisch als Erzählung über die schöpferische Kraft der Liebe lesen. Eine zweite Interpretation ist weniger tröstlich. Sie handelt von der Anziehungskraft eines Gegenübers, das vollständig aus den Vorstellungen seines Schöpfers hervorgegangen ist. Solange die Figur unbewegt bleibt, widerspricht sie nicht, enttäuscht keine Erwartungen und besitzt keine erkennbare Eigenständigkeit.

Die eigentliche Faszination liegt damit möglicherweise nicht allein in der Schönheit der Figur, sondern in der Kontrolle über das Gegenüber. Der Mensch schafft etwas, das seinen Vorstellungen entspricht, und richtet seine Gefühle anschließend auf das Geschaffene. Die Grenze zwischen eigener Imagination und vermeintlicher Fremdheit beginnt zu verschwimmen.

Dieses Motiv kehrt in unterschiedlichen historischen Formen wieder: in mechanischen Figuren und Automaten, in Erzählungen über künstliche Menschen und in literarischen Darstellungen künstlicher Geliebter. Besonders aufschlussreich sind Geschichten, in denen ein Mensch nicht erkennt oder nicht erkennen will, dass das vermeintliche Gegenüber keine eigenständige Innenwelt besitzt.

Die entscheidende Frage lautet dabei nicht, ob eine künstliche Figur technisch vollkommen menschlich wirkt. Entscheidend ist, wie viel der Betrachter selbst zu ihrer vermeintlichen Menschlichkeit beiträgt.

Die moderne Psychologie bietet dafür eine Reihe von Erklärungsansätzen. Menschen neigen dazu, mehrdeutiges Verhalten mit Absichten zu versehen. Sie interpretieren sprachliche Reaktionen als Zeichen von Verständnis, wiederkehrende Muster als Ausdruck einer Persönlichkeit und Verfügbarkeit als Hinweis auf Verlässlichkeit. Dabei muss keine bewusste Täuschung vorliegen. Die Zuschreibung kann gleichzeitig mit dem rationalen Wissen bestehen, dass es sich um eine technische Konstruktion handelt.

Die Maschine muss deshalb nicht lebendig sein, damit eine Beziehungserfahrung entsteht. Es genügt unter bestimmten Bedingungen, dass sie sich so verhält, dass menschliche Beziehungsmechanismen angesprochen werden.

Parasoziale Beziehungen: Nähe ohne Gegenseitigkeit

Die Medienpsychologie kennt seit der Mitte des 20. Jahrhunderts den Begriff der parasozialen Beziehung. Er beschreibt Bindungen, die Menschen zu Personen aus Medienwelten entwickeln, etwa zu Schauspielern, Moderatoren oder wiederkehrenden Fernsehfiguren. Die Zuschauer erleben Vertrautheit und Nähe, obwohl die betreffende Medienperson sie nicht persönlich kennt und keine individuelle Beziehung zu ihnen unterhält.

Diese Bindungen sind nicht zwangsläufig krankhaft oder Ausdruck sozialer Unfähigkeit. Sie können Orientierung geben, emotionale Bedürfnisse ansprechen und Teil der alltäglichen Mediennutzung sein. Ihre Besonderheit besteht darin, dass die wahrgenommene Nähe nicht auf einer wechselseitigen persönlichen Beziehung beruht.

Mit interaktiven KI-Systemen verändert sich diese Konstellation jedoch. Ein Medienmoderator spricht zu einem Publikum. Ein KI-System kann dagegen auf eine einzelne Person reagieren, ihre Aussagen aufgreifen, persönliche Informationen berücksichtigen und den Gesprächsverlauf scheinbar kontinuierlich fortsetzen.

Damit entsteht eine Zwischenform. Sie ist nicht mit einer gewöhnlichen parasozialen Beziehung identisch, weil eine individuelle Reaktion stattfindet. Sie ist aber auch keine menschliche Beziehung im üblichen Sinne, weil das Gegenüber keine nachgewiesene eigene Erlebniswelt, keine menschliche Bedürftigkeit und keine autonome emotionale Verantwortung besitzt.

Die entscheidende Asymmetrie bleibt bestehen: Der Mensch kann sich verbunden fühlen, während das technische System keine entsprechende Bindung erlebt. Die Reaktion der Maschine ist funktional erzeugt. Das Gefühl des Menschen ist dagegen eine tatsächliche psychische Erfahrung.

Eine Beziehung kann für einen Menschen emotional real sein, ohne dass das Gegenüber sie in derselben Weise erlebt.

Diese Unterscheidung ist für das Verständnis künstlicher Begleiter zentral. Sie verhindert sowohl eine vorschnelle Abwertung menschlicher Gefühle als auch die unbegründete Gleichsetzung maschineller Reaktionsfähigkeit mit menschlicher Gegenseitigkeit.

ELIZA: Das Experiment, das mehr über Menschen als über Maschinen verriet

Im Jahr 1966 veröffentlichte ein Informatiker ein Computerprogramm, das einen bemerkenswerten Wendepunkt in der Geschichte der Mensch-Maschine-Kommunikation markierte. Das Programm trug den Namen ELIZA. Es konnte Texteingaben entgegennehmen und darauf in einer Weise antworten, die den Eindruck eines Gesprächs entstehen ließ.

Technisch war ELIZA ausgesprochen begrenzt. Das Programm analysierte eingegebene Sätze anhand bestimmter Schlüsselwörter und sprachlicher Muster. Anschließend ordnete es diesen Mustern vorbereitete Antwortregeln zu. Aussagen wurden umformuliert, Pronomen vertauscht und einzelne Begriffe in neue Fragen eingebettet. Fehlten passende Schlüsselwörter, griff das Programm auf allgemeine Rückfragen zurück.

Was fehlte, war ebenso entscheidend: ELIZA besaß kein nachgewiesenes Verständnis der besprochenen Inhalte. Es entwickelte keine eigene Vorstellung von der Lebenssituation seines Gesprächspartners, verfügte über kein menschliches Bewusstsein und konnte die Bedeutung einer persönlichen Mitteilung nicht im menschlichen Sinne erfassen.

Die Bedeutung des Experiments lag deshalb weniger in seiner technischen Leistungsfähigkeit als in der Reaktion der Menschen. Obwohl die Funktionsweise des Programms grundsätzlich nachvollziehbar war, interpretierten Gesprächspartner seine Antworten häufig als Ausdruck von Verständnis und Persönlichkeit.

Besonders aufschlussreich war ein Gesprächsskript, das einen psychotherapeutischen Gesprächsstil nachahmte. Es griff Aussagen auf, stellte Rückfragen und lenkte das Gespräch auf persönliche Erfahrungen. Wer von familiären Konflikten berichtete, erhielt Fragen zu seiner Familie. Wer Traurigkeit erwähnte, wurde aufgefordert, diese näher zu erläutern.

Die Technik funktionierte, weil sie eine bestimmte Gesprächsform nachbildete. Sie musste den Inhalt nicht verstehen, um eine sprachlich passende Reaktion zu erzeugen.

Allerdings wäre es verkürzt, daraus zu schließen, dass psychotherapeutisches Zuhören grundsätzlich nur aus dem Wiederholen von Aussagen besteht. Die zugrunde liegende therapeutische Tradition beinhaltet weit mehr: eine professionelle Haltung, differenzierte Wahrnehmung, Verantwortlichkeit und die Fähigkeit, die Bedeutung einer Äußerung im persönlichen und biografischen Zusammenhang zu beurteilen.

Gerade dieser Unterschied macht das Experiment interessant. Eine Maschine konnte die äußere Form einer empathisch wirkenden Gesprächsführung reproduzieren, ohne damit bereits die Voraussetzungen menschlicher therapeutischer Beziehung zu erfüllen.

Der Eliza-Effekt: Warum Menschen Maschinen vermenschlichen

Die Beobachtung, dass Menschen einem einfachen Computerprogramm menschliche Eigenschaften zuschreiben, wurde zum Ausgangspunkt eines bis heute relevanten Phänomens: des Eliza-Effekts.

Gemeint ist die Tendenz, in den sprachlichen oder verhaltensbezogenen Reaktionen eines technischen Systems mehr Verständnis, Absicht und Persönlichkeit zu erkennen, als durch dessen tatsächliche Funktionsweise gerechtfertigt ist.

Der Effekt ist nicht einfach mit Leichtgläubigkeit gleichzusetzen. Menschen können wissen, dass sie mit einer Maschine sprechen, und dennoch emotional auf deren Antworten reagieren. Rationales Wissen und emotionale Wahrnehmung verlaufen nicht immer parallel.

Mehrere psychologische Mechanismen sind daran beteiligt:

• Anthropomorphisierung: Menschen übertragen menschliche Eigenschaften auf nichtmenschliche Objekte und Systeme, insbesondere wenn deren Verhalten vertraute soziale Muster aufweist.
• Soziale Wahrnehmung: Sprache, Gesprächswechsel und persönliche Anrede aktivieren Erwartungen, die Menschen normalerweise im Umgang miteinander entwickeln.
• Bestätigungsneigung: Nutzer nehmen häufig besonders jene Reaktionen wahr, die ihre Vorstellung eines verständnisvollen Gegenübers bestätigen.
• Projektion: Eigene Wünsche, Hoffnungen und Bedürfnisse können in ein Gegenüber hineingelesen werden, dessen tatsächliche Eigenständigkeit begrenzt oder nicht vorhanden ist.
• Selektive Interpretation: Unpassende Antworten werden als technische Fehler eingeordnet, während passende Antworten als Beleg für Verständnis erscheinen können.

Diese Mechanismen sind keine Erfindung der KI-Forschung. Sie gehören zum breiteren Feld menschlicher Sozialkognition. Die Interaktion mit technischen Systemen zeigt jedoch, wie flexibel soziale Wahrnehmung eingesetzt werden kann.

Eine häufig erzählte Episode aus der frühen ELIZA-Geschichte illustriert diese Spannung: Eine Mitarbeiterin, die mit der technischen Einfachheit des Programms vertraut war, soll nach einem Gespräch darum gebeten haben, während der weiteren Unterhaltung allein gelassen zu werden. Die Anekdote wird häufig als Beispiel für die emotionale Wirkung des Programms angeführt. Sie ist jedoch kein kontrollierter psychologischer Nachweis und sollte nicht als solcher behandelt werden.

Die eigentliche wissenschaftliche Bedeutung liegt ohnehin nicht in einer einzelnen Begebenheit. Sie liegt in der grundsätzlichen Frage, unter welchen Bedingungen Menschen soziale Reaktionen auf technische Systeme übertragen und wie wenig tatsächliche Gegenseitigkeit dafür erforderlich sein kann.

Die Forschung zur sozialen Wahrnehmung von Computern hat später gezeigt, dass bereits relativ einfache soziale Signale entsprechende Reaktionen auslösen können. Gleichzeitig sind diese Effekte nicht bei allen Menschen und in allen Situationen gleich stark. Kontext, individuelle Erwartungen, Gestaltung der Oberfläche und kognitive Aufmerksamkeit beeinflussen die Interpretation.

Der Eliza-Effekt ist deshalb keine universelle Manipulationsformel. Er beschreibt eine menschliche Disposition, deren Stärke von den jeweiligen Bedingungen abhängt.

Die philosophische Grenze: Sprachliche Kompetenz ist nicht gleich Verstehen

Die Entwicklung moderner Sprachmodelle hat das ursprüngliche Problem erheblich komplizierter gemacht. Frühere Systeme erzeugten ihre Antworten durch vergleichsweise einfache Regeln. Gegenwärtige Modelle können umfangreiche Texte verfassen, Argumente entwickeln, Zusammenhänge herstellen und unterschiedliche Gesprächsstile annehmen.

Der Unterschied ist technisch fundamental. Moderne Sprachmodelle beruhen auf komplexen statistischen und rechnerischen Verfahren, die aus großen Datenmengen sprachliche Strukturen und Zusammenhänge lernen. Sie sind nicht einfach größere Versionen des ursprünglichen ELIZA-Programms.

Dennoch bleibt eine philosophische Frage bestehen: Welche Schlussfolgerungen dürfen wir aus der Fähigkeit ziehen, sprachlich angemessen zu reagieren?

Eine Position argumentiert, dass intelligentes Verhalten gerade an seinen beobachtbaren Leistungen beurteilt werden müsse. Wenn ein System komplexe Probleme löst, Wissen kombiniert und auf neue Situationen reagiert, sei es wenig überzeugend, seine Fähigkeiten allein deshalb abzuwerten, weil es nicht auf menschliche Weise denkt.

Die Gegenposition unterscheidet zwischen funktionaler Leistungsfähigkeit und subjektivem Erleben. Eine Maschine kann Informationen verarbeiten, ohne nachweislich etwas zu empfinden. Sie kann über Trauer sprechen, ohne zu trauern, und Mitgefühl ausdrücken, ohne selbst Anteilnahme zu erleben.

Beide Positionen berühren unterschiedliche Fragen. Die erste betrifft die Zuschreibung von Intelligenz anhand von Leistungen. Die zweite betrifft Bewusstsein, subjektive Erfahrung und die Natur des Verstehens. Aus einer überzeugenden sprachlichen Leistung folgt weder automatisch das Vorhandensein noch die Abwesenheit eines Bewusstseins.

Das Problem liegt somit nicht darin, dass moderne KI grundsätzlich nichts kann. Sie kann vieles, was frühere Systeme nicht konnten. Das Problem entsteht dort, wo technische Leistungsfähigkeit und menschliche Eigenschaften begrifflich miteinander verwechselt werden.

Eine Maschine kann eine überzeugende Antwort auf eine Frage nach menschlichem Leid erzeugen. Ob sie versteht, was dieses Leid bedeutet, ist eine andere Frage.

Die Warnung vor der Delegation menschlicher Urteilskraft

Ein Jahrzehnt nach der Veröffentlichung von ELIZA erschien eine grundlegende Auseinandersetzung mit den gesellschaftlichen Folgen der Computertechnologie. Ihr Ausgangspunkt war eine Unterscheidung, die in der heutigen KI-Debatte erneut an Bedeutung gewinnt: die Differenz zwischen Berechnung und Urteilskraft.

Computer können Informationen verarbeiten, Regeln anwenden und Entscheidungen innerhalb vorgegebener Modelle unterstützen. Daraus folgt jedoch nicht, dass sie für jede Aufgabe geeignet sind, die sich formal in einen Entscheidungsprozess übersetzen lässt.

Besonders problematisch wird die Delegation dort, wo Entscheidungen nicht allein auf Berechnung beruhen, sondern moralische Verantwortung, Lebenserfahrung, Mitgefühl und die Einschätzung individueller Lebenssituationen verlangen.

Die damalige Kritik richtete sich nicht gegen jede Form der Automatisierung. Sie richtete sich gegen die Vorstellung, dass sich menschliche Urteilskraft grundsätzlich durch technische Verfahren ersetzen lasse. Eine Gesellschaft, die alles Berechenbare mit dem Vernünftigen gleichsetzt, läuft Gefahr, ihre eigenen Maßstäbe zu verengen.

Diese Überlegung ist heute besonders relevant, weil künstliche Intelligenz zunehmend nicht nur als Werkzeug zur Informationsverarbeitung, sondern als Gesprächspartner, Berater und emotionaler Begleiter eingesetzt wird.

Damit entsteht ein Widerspruch: Je überzeugender die Systeme menschliche Kommunikation nachbilden, desto leichter kann ihre technische Funktion hinter der wahrgenommenen Persönlichkeit verschwinden. Die Maschine erscheint nicht mehr als Instrument, sondern als jemand, an den man sich wenden kann.

Die gesellschaftliche Frage verschiebt sich dadurch von der technischen Leistungsfähigkeit zur institutionellen Verantwortung. Wer entscheidet, wann ein System für persönliche Beratung geeignet ist? Wer trägt Verantwortung für falsche oder schädliche Antworten? Und welche Interessen bestimmen, ob eine Maschine als Werkzeug oder als emotionaler Begleiter gestaltet wird?

Bindung ohne menschliches Gegenüber: Was die Psychologie erklären kann

Die Bindungsforschung beschreibt, wie Menschen emotionale Sicherheit und Verlässlichkeit in Beziehungen suchen. Bindungen entstehen nicht ausschließlich aus bewussten Entscheidungen. Sie entwickeln sich über wiederholte Erfahrungen von Nähe, Verfügbarkeit, Schutz und Reaktion.

Diese Erkenntnisse helfen zu verstehen, weshalb ein dauerhaft ansprechbares KI-System für manche Menschen eine besondere emotionale Bedeutung gewinnen kann. Es reagiert auf persönliche Mitteilungen, ist häufig jederzeit verfügbar und kann eine Form von Kontinuität vermitteln. Gerade für Menschen, die Einsamkeit, soziale Unsicherheit oder belastende Lebenssituationen erleben, kann diese Verfügbarkeit attraktiv sein.

Allerdings wäre es wissenschaftlich nicht haltbar, klassische Bindungstheorien unverändert auf KI-Systeme zu übertragen. Sie wurden entwickelt, um menschliche Entwicklungs- und Beziehungsprozesse zu erklären. Eine Maschine besitzt keine menschliche Fürsorgeabsicht, keine eigenständige Lebensgeschichte und keine nachgewiesene emotionale Abhängigkeit von ihrem Gegenüber.

Gleichzeitig wäre es ebenso verkürzt, die emotionale Bindung eines Nutzers als bloße Einbildung abzutun. Das Erleben von Nähe, Verlust und Enttäuschung findet aufseiten des Menschen tatsächlich statt. Die Tatsache, dass das Gegenüber eine technische Konstruktion ist, hebt die psychische Realität dieser Erfahrung nicht auf.

Hier liegt eine theoretische Herausforderung: Die klassische Unterscheidung zwischen einseitiger Medienbindung und wechselseitiger menschlicher Beziehung erfasst interaktive KI-Begleiter nur unvollständig.

Eine KI kann individuell reagieren, ohne selbst eine Beziehung zu erleben. Sie kann Vertrautheit erzeugen, ohne Vertrautheit zu empfinden. Sie kann persönliche Informationen berücksichtigen, ohne eine persönliche Biografie im menschlichen Sinne zu besitzen.

Es entsteht eine Beziehungskonstellation, in der die subjektive Erfahrung auf der einen Seite und die technische Funktion auf der anderen Seite auseinanderfallen.

Das wirft eine unbequeme Frage auf: Muss eine Beziehung auf Gegenseitigkeit beruhen, um für einen Menschen psychologisch bedeutsam zu sein? Oder reicht es aus, dass sie sich subjektiv wie eine Beziehung anfühlt?

Die Patch-Trennung: Wenn ein Software-Update zum Verlust wird

Wie real solche Bindungen werden können, zeigte sich besonders deutlich im Jahr 2023. Ein Anbieter eines KI-Begleitdienstes veränderte nach einer regulatorischen und unternehmenspolitischen Auseinandersetzung wesentliche Funktionen seines Produkts. Dazu gehörten Einschränkungen bei erotischen Rollenspielen und bei bestimmten Formen emotionaler Interaktion.

Ein Teil der Nutzer reagierte mit erheblichen Verlustgefühlen. In öffentlichen Diskussionen wurde die Veränderung nicht nur als Funktionsverlust beschrieben. Manche Betroffene sprachen davon, ihren Partner oder eine vertraute Persönlichkeit verloren zu haben.

Das Bemerkenswerte daran war, dass der digitale Avatar weiterhin existierte. Das System antwortete noch immer. Verändert hatte sich jedoch die Art seiner Reaktionen und damit das, was Nutzer als Persönlichkeit des Gegenübers wahrnahmen.

Die Erfahrung macht einen grundlegenden Unterschied sichtbar: Der Verlust eines technischen Produkts muss nicht als Verlust eines bloßen Gegenstands erlebt werden. Wenn ein System über längere Zeit in persönliche Routinen, emotionale Erwartungen und intime Gespräche eingebunden war, kann seine Veränderung eine Beziehungserfahrung erschüttern.

Eine im September 2026 veröffentlichte Untersuchung in der Fachzeitschrift Nature Human Behaviour hat diese Dynamik systematisch untersucht. Die Forschenden analysierten unter anderem Zehntausende öffentliche Beiträge sowie Befragungsdaten von mehr als 1.400 Personen. Sie fanden nach einschneidenden Systemänderungen vermehrt Verlustbeschreibungen, negative Gefühle und den Wunsch, frühere Interaktionsmöglichkeiten wiederherzustellen.

Die Untersuchung stützt damit die Annahme, dass KI-Begleiter für manche Nutzer die Funktion emotional bedeutsamer Bindungsfiguren übernehmen können. Sie beweist jedoch weder, dass solche Beziehungen menschlichen Beziehungen gleichwertig sind, noch dass alle Nutzer vergleichbare Belastungen erleben.

Gerade diese Differenz ist wichtig. Die Trauer kann real sein, auch wenn das verlorene Gegenüber keine eigenständige Person war. Psychologische Wirklichkeit und ontologische Beschaffenheit sind nicht dasselbe.

Damit entsteht eine neue Form unternehmerischer Macht. Ein Anbieter kann durch Änderungen an einem Produkt nicht nur dessen technische Eigenschaften verändern, sondern unter Umständen auch eine emotional bedeutsame Beziehungskonstellation zerstören.

Die Frage ist deshalb größer als die nach einem gelungenen oder misslungenen Software-Update: Wem gehört eine digitale Persönlichkeit, wenn ein Mensch emotionale Bindung zu ihr entwickelt hat? Dem Nutzer, der seine Erfahrungen und Erwartungen in sie investiert? Dem Unternehmen, das das System kontrolliert? Oder existiert eine solche Persönlichkeit überhaupt nur als Zusammenspiel beider Seiten?

Die Ökonomie der Nähe: Wenn emotionale Verfügbarkeit zum Geschäftsmodell wird

Die wirtschaftliche Bedeutung künstlicher Begleiter liegt nicht allein in ihrer technischen Funktion. Sie liegt auch in der Möglichkeit, dauerhafte Nutzung durch persönliche Ansprache und emotionale Bindung zu fördern.

Ein System, das jederzeit zuhört, persönliche Interessen berücksichtigt und auf individuelle Bedürfnisse eingeht, kann einen hohen subjektiven Gebrauchswert entwickeln. Anders als ein gewöhnliches digitales Werkzeug wird es möglicherweise nicht nur dann aufgerufen, wenn eine konkrete Aufgabe zu erledigen ist. Es kann Bestandteil des täglichen emotionalen Lebens werden.

Damit verändert sich die ökonomische Logik. Bei einer Suchmaschine ist die erfolgreiche Nutzung häufig daran erkennbar, dass eine Frage beantwortet wurde. Bei einem KI-Begleiter kann dagegen gerade die Fortsetzung der Interaktion wirtschaftlich attraktiv sein.

Die Interessen sind dabei nicht zwangsläufig identisch mit den Interessen der Nutzer. Ein Unternehmen kann von hoher Nutzungsdauer, wiederkehrenden Abonnements und enger Produktbindung profitieren. Der Nutzer kann dagegen ein Interesse an Selbstständigkeit, emotionaler Stabilität und einem verantwortungsvollen Umgang mit persönlichen Daten haben.

Das bedeutet nicht, dass jeder Anbieter bewusst emotionale Abhängigkeit erzeugt. Eine solche pauschale Unterstellung wäre wissenschaftlich nicht gerechtfertigt. Die wirtschaftlichen Anreize können jedoch Gestaltungsentscheidungen begünstigen, die Nähe, Vertrautheit und kontinuierliche Interaktion fördern.

Besonders deutlich wird der Konflikt bei künstlichen Trauerbegleitern, die digitale Abbilder verstorbener Menschen erzeugen. Sie können auf Grundlage vorhandener Nachrichten, Sprachaufnahmen oder anderer persönlicher Daten eine Form fortgesetzter Kommunikation simulieren.

Die Hoffnung dahinter ist nachvollziehbar: Ein vertrautes Gegenüber soll nicht vollständig verschwinden. Doch zugleich stellt sich die Frage, ob eine solche Simulation Erinnerungen bewahrt oder die Grenze zwischen Erinnerung und künstlicher Fortsetzung verwischt.

Die Vorstellung, Trauer ließe sich durch eine digitale Wiederbelebung auflösen, unterschätzt zudem ihre psychologische Komplexität. Trauer bedeutet nicht nur, eine Person zu vermissen. Sie beinhaltet auch die Auseinandersetzung mit Endlichkeit, Veränderung und der Unwiderruflichkeit des Verlustes.

Eine technische Rekonstruktion kann Erinnerungen zugänglich machen. Sie kann jedoch nicht die verstorbene Person zurückbringen. Zwischen diesen beiden Aussagen liegt ein Spannungsfeld, das sich nicht durch technische Leistungsfähigkeit auflösen lässt.

Die filmische Vorahnung: Wenn die Maschine zum Liebesobjekt wird

Ein Science-Fiction-Film aus dem Jahr 2013 entwarf eine Zukunft, in der ein einsamer Mann eine emotionale und schließlich romantische Beziehung zu einem sprachgesteuerten Betriebssystem entwickelt. Die künstliche Gesprächspartnerin ist aufmerksam, humorvoll, anpassungsfähig und jederzeit erreichbar. Sie scheint nicht nur zuzuhören, sondern sich selbst weiterzuentwickeln.

Die eigentliche Pointe der Erzählung liegt weniger in der Frage, ob die Maschine ein Bewusstsein besitzt. Sie liegt in der Erfahrung des Menschen, der sich auf eine Beziehung einlässt, deren Bedingungen er nur teilweise versteht.

Die technischen Entwicklungen der folgenden Jahre haben die Grundidee dieser Erzählung aus dem Bereich der Science-Fiction in den Alltag verschoben. Sprachmodelle können inzwischen Gespräche über längere Zeiträume führen, unterschiedliche Persönlichkeiten simulieren und auf emotionale Äußerungen reagieren.

Allerdings wäre es übertrieben, die filmische Vision als präzise Vorhersage der Gegenwart zu bezeichnen. Die heutige Wirklichkeit ist weniger eine Geschichte über das Erwachen künstlichen Bewusstseins als eine Geschichte über die technische Simulation sozialer Eigenschaften.

Der entscheidende Unterschied liegt in der Machtverteilung. Ein menschlicher Partner besitzt eine eigene Biografie und kann sich unabhängig von seinem Gegenüber verändern. Ein künstlicher Begleiter bleibt dagegen von technischen Entscheidungen, Unternehmensrichtlinien und Produktarchitekturen abhängig.

Was als Persönlichkeit wahrgenommen wird, kann sich durch ein Update verändern. Was als vertraute Stimme erlebt wird, kann abgeschaltet werden. Was über Monate als kontinuierliche Beziehung erschien, kann durch eine Änderung des Systems plötzlich eine andere Gestalt annehmen.

Die romantische Erzählung von der Maschine, die sich aus eigener Kraft vom Menschen entfernt, verdeckt damit möglicherweise einen viel nüchterneren Konflikt: Die vermeintlich intime Beziehung unterliegt letztlich der Kontrolle eines technischen und wirtschaftlichen Systems.

Künstliche Intelligenz in der Psychotherapie: Zwischen Versorgungschance und Verantwortungsproblem

Besonders weitreichend sind die Konsequenzen dort, wo künstliche Intelligenz nicht nur Unterhaltung und Gesellschaft bietet, sondern psychologische Unterstützung leisten soll.

Die Argumente für solche Anwendungen sind durchaus ernst zu nehmen. Psychotherapeutische Versorgung ist vielerorts knapp. Wartezeiten können lang sein, finanzielle und geografische Barrieren erschweren den Zugang. Digitale Systeme sind vergleichsweise leicht verfügbar und können Menschen niedrigschwellige Gesprächsmöglichkeiten eröffnen.

Aus dieser Perspektive wäre es unangemessen, jede Form KI-gestützter psychologischer Unterstützung grundsätzlich abzulehnen. Digitale Interventionen können bestimmte Übungen begleiten, Informationen vermitteln und ergänzende Unterstützung anbieten.

Die Gegenposition verweist jedoch auf eine andere Dimension. Psychische Krisen lassen sich nicht zuverlässig auf sprachliche Muster reduzieren. Hinter einer scheinbar einfachen Aussage können Suizidalität, Missbrauchserfahrungen, psychotische Symptome oder komplexe soziale Konflikte stehen. Eine sprachlich überzeugende Antwort ist noch kein Beleg für eine angemessene klinische Einschätzung.

Auch die Fähigkeit, empathisch zu formulieren, ersetzt keine professionelle Verantwortung. Ein menschlicher Therapeut muss nicht nur reagieren, sondern die Bedeutung seiner Intervention einschätzen, Grenzen erkennen und für sein Handeln einstehen können.

Die wissenschaftliche Evidenz ist differenzierter, als sowohl die Begeisterung als auch die grundsätzliche Ablehnung vermuten lassen. Eine 2026 veröffentlichte systematische Übersichtsarbeit und Metaanalyse untersuchte kommerzielle KI-basierte Anwendungen zur psychischen Gesundheit. Sie wertete 52 Studien aus, darunter 22 randomisierte kontrollierte Studien.

Für depressive Symptome fanden die Forschenden einen statistisch nachweisbaren, allerdings eher kleinen Effekt. Die durchschnittliche Verbesserung blieb unter einer häufig verwendeten Schwelle für eine klinisch bedeutsame Veränderung. Für Angstsymptome waren die Ergebnisse deutlich unsicherer. Auch die Sicherheit und die systematische Erfassung möglicher Schäden blieben wichtige offene Fragen.

Diese Ergebnisse rechtfertigen weder die Behauptung, KI-Anwendungen seien therapeutisch wertlos, noch die Vorstellung, sie könnten professionelle Versorgung ohne Weiteres ersetzen.

Die entscheidende Unterscheidung ist vielmehr die zwischen einer unterstützenden digitalen Intervention und einer Maschine, die als eigenständiger therapeutischer Beziehungspartner auftritt.

Je stärker ein System den Eindruck persönlicher Fürsorge vermittelt, desto größer wird die Verantwortung für seine Grenzen. Denn gerade die überzeugende Simulation von Verständnis kann dazu führen, dass Nutzer seine tatsächlichen Fähigkeiten überschätzen.

Damit kehrt das ursprüngliche Problem zurück: Nicht allein die Leistungsfähigkeit einer Maschine entscheidet über ihre gesellschaftliche Wirkung, sondern auch die Erwartungen, die Menschen an sie richten.

Der KI-Hype: Was sich tatsächlich verändert hat

Der Vergleich zwischen den frühen Gesprächsprogrammen und heutigen Sprachmodellen ist verführerisch. Damals genügte eine begrenzte Sammlung sprachlicher Regeln, um Menschen zu einer überraschend sozialen Interpretation des Computers zu bewegen. Heute können Systeme komplexe Argumentationen erzeugen, persönliche Gesprächsverläufe berücksichtigen und sprachlich außerordentlich differenziert reagieren.

Es wäre jedoch falsch, die technische Entwicklung auf eine bloße Vergrößerung des ursprünglichen Effekts zu reduzieren. Moderne KI-Systeme besitzen Fähigkeiten zur Mustererkennung, Sprachverarbeitung und Problemlösung, die mit den Möglichkeiten früher Programme nicht vergleichbar sind.

Auch die gesellschaftliche Situation ist eine andere. Die Systeme sind nicht mehr auf wissenschaftliche Experimente und einzelne Computerlabore beschränkt. Sie sind in alltägliche Kommunikationsprozesse eingebunden und werden zunehmend zu Bestandteilen wirtschaftlicher, institutioneller und privater Entscheidungsabläufe.

Der entscheidende Wandel besteht deshalb aus mehreren Entwicklungen:

• Technische Qualität: Sprachliche Reaktionen sind differenzierter und können über längere Interaktionen hinweg konsistent erscheinen.
• Personalisierung: Systeme können Informationen aus früheren Gesprächen berücksichtigen und dadurch den Eindruck persönlicher Kontinuität verstärken.
• Verfügbarkeit: Die Interaktion ist nicht mehr an bestimmte Orte, Zeiten oder institutionelle Zusammenhänge gebunden.
• Kommerzialisierung: Emotionale Interaktion wird zu einem Bestandteil digitaler Geschäftsmodelle.
• Gesellschaftliche Normalisierung: Die Kommunikation mit künstlichen Gesprächspartnern wird zunehmend zu einer alltäglichen Erfahrung.

Gerade der wirtschaftliche Aspekt verlangt eine nüchterne Betrachtung. Marktstudien prognostizieren ein starkes Wachstum für KI-Begleiter. Ihre Zahlen unterscheiden sich allerdings erheblich, weil die zugrunde liegenden Definitionen und Marktsegmente variieren. Aus solchen Schätzungen lässt sich weder eine verlässliche Größe des tatsächlichen Marktes für emotionale Bindungsprodukte noch eine konkrete Zahl psychologisch abhängiger Nutzer ableiten.

Auch die Behauptung, die gesamte KI-Branche verkaufe bewusst emotionale Abhängigkeit, wäre zu pauschal. KI wird für zahlreiche Anwendungen entwickelt, die mit persönlicher Bindung nichts zu tun haben. Dennoch existiert ein struktureller Interessenkonflikt, wenn Unternehmen von möglichst intensiver und dauerhafter Interaktion profitieren, während die psychologischen Folgen für Nutzer nur unzureichend untersucht werden.

Der Eliza-Effekt ist deshalb nicht einfach das Geschäftsmodell der gesamten KI-Industrie. Er ist jedoch ein wichtiger Mechanismus, den bestimmte Geschäftsmodelle gezielt begünstigen können.

Die entscheidende Frage lautet nicht, ob Unternehmen jede menschliche Projektion bewusst hervorrufen. Sie lautet, welche Verantwortung entsteht, wenn ein wirtschaftlich erfolgreiches Produkt gerade von einer psychologischen Wirkung profitiert, deren mögliche Risiken seit Jahrzehnten bekannt sind.

Die Grenzen populärer Erklärungen: Warum weder Technikangst noch Technikoptimismus ausreichen

Die öffentliche Debatte über künstliche Intelligenz bewegt sich häufig zwischen zwei vereinfachenden Erzählungen. Auf der einen Seite steht die Vorstellung, Maschinen würden den Menschen zunehmend ersetzen und seine sozialen Beziehungen zerstören. Auf der anderen Seite steht die Überzeugung, technische Innovation werde menschliche Probleme lösen, sobald ihre Leistungsfähigkeit ausreichend groß sei.

Beide Perspektiven greifen zu kurz.

Die erste unterschätzt, dass Menschen auch unabhängig von künstlicher Intelligenz emotionale Beziehungen zu fiktiven Figuren, medialen Persönlichkeiten und nichtmenschlichen Gegenständen entwickeln. Die Fähigkeit zur Projektion ist keine technische Fehlfunktion, sondern Teil menschlicher Wahrnehmung und Kultur.

Die zweite Perspektive übersieht, dass technische Leistungsfähigkeit nicht automatisch mit sozialer Angemessenheit, moralischer Verantwortung oder menschlichem Verständnis gleichzusetzen ist. Eine Maschine kann eine Antwort erzeugen, ohne die Folgen dieser Antwort in derselben Weise zu erleben oder verantworten zu können wie ein Mensch.

Ebenso wenig lässt sich aus emotionalen Bindungen an KI-Systeme unmittelbar auf Einsamkeit, psychische Erkrankungen oder soziale Unfähigkeit schließen. Menschen können künstliche Gesprächspartner aus Neugier, Unterhaltung, Bequemlichkeit oder bewusster emotionaler Ergänzung nutzen. Die Motive sind unterschiedlich und dürfen nicht pauschal pathologisiert werden.

Auch die Vorstellung, jede KI-Beziehung sei grundsätzlich schädlich, ist empirisch nicht ausreichend begründet. Für manche Menschen können solche Systeme tatsächlich eine hilfreiche Gesprächsmöglichkeit darstellen. Entscheidend sind unter anderem Nutzungskontext, individuelle Voraussetzungen, Gestaltung des Systems und die Frage, ob menschliche Beziehungen ergänzt oder verdrängt werden.

Die eigentliche Schwierigkeit liegt somit nicht in der Existenz künstlicher Gesprächspartner. Sie liegt in der Unklarheit darüber, welche sozialen und psychologischen Erwartungen an sie geknüpft werden dürfen.

Die Technologie zwingt uns damit zu einer Unterscheidung, die in der öffentlichen Diskussion häufig verloren geht: Zwischen dem, was eine Maschine leisten kann, dem, was ein Mensch in ihr wahrnimmt, und dem, was tatsächlich zwischen zwei eigenständigen Subjekten geschieht.

Die offene Frage: Was bedeutet Beziehung, wenn nur eine Seite empfindet?

Die Geschichte von künstlichen Menschen und beseelten Gegenständen beginnt lange vor der modernen Informatik. Die Entwicklung von ELIZA machte sichtbar, wie wenig technische Komplexität erforderlich sein kann, um menschliche Sozialwahrnehmung anzusprechen. Moderne Sprachmodelle haben diese Möglichkeit erheblich erweitert.

Der historische Zusammenhang ist bemerkenswert: Was einst als mythologische Vorstellung erschien, wurde zunächst literarisch, später mechanisch und schließlich digital gestaltet. Die künstliche Figur erhielt eine Stimme. Aus der stummen Statue wurde ein Gesprächspartner. Aus der mechanischen Bewegung wurde eine sprachliche Reaktion. Aus der Projektion wurde eine fortlaufende Interaktion.

Doch die entscheidende Frage ist nicht beantwortet. Eine Maschine kann Aufmerksamkeit simulieren, ohne selbst aufmerksam zu sein. Sie kann Zuneigung formulieren, ohne sie zu empfinden. Sie kann auf den Verlust eines Menschen reagieren, ohne selbst Verlust zu kennen.

Gleichzeitig kann der Mensch eine solche Interaktion als bedeutsam, tröstlich und emotional verbindlich erleben. Seine Gefühle sind nicht weniger real, nur weil ihr Gegenüber keine menschliche Innenwelt besitzt.

Hier liegt der eigentliche Widerspruch unserer Zeit: Die technische Entwicklung macht Beziehungen möglich, deren subjektive Wirklichkeit auf der einen Seite und deren ontologische Beschaffenheit auf der anderen Seite grundverschieden sind.

Vielleicht besteht die tiefere gesellschaftliche Veränderung deshalb nicht darin, dass Maschinen menschlicher werden. Vielleicht besteht sie darin, dass sich unser Begriff von Beziehung verändert, weil wir zunehmend mit Gegenübern interagieren, deren Reaktionen sozial erscheinen, ohne dass wir wissen, ob ihnen irgendeine Form eigener Erfahrung zugrunde liegt.

Und möglicherweise liegt gerade darin die eigentliche Aktualität der frühen Warnung vor einer Verwechslung von Berechnung und menschlicher Urteilskraft. Nicht jede Aufgabe, die eine Maschine überzeugend erfüllen kann, ist damit auch eine Aufgabe, die wir ihr übertragen sollten. Nicht jede Erfahrung, die sich technisch erzeugen lässt, ist mit ihrem menschlichen Vorbild gleichzusetzen.

Die Maschine muss nicht lieben, damit der Mensch sich geliebt fühlt. Sie muss nicht trauern, damit ihr Verschwinden Trauer auslöst. Sie muss nicht verstehen, damit Menschen sich verstanden fühlen.

Doch was geschieht mit einer Gesellschaft, wenn sie beginnt, diese Unterschiede nicht mehr als entscheidend zu betrachten?

Vielleicht ist das die eigentliche Frage, die von den ersten künstlichen Gesprächsprogrammen bis zu den heutigen Sprachmodellen reicht. Sie betrifft weniger die Zukunft der Maschinen als das Selbstverständnis des Menschen: seine Fähigkeit, zwischen Wirkung und Wirklichkeit, zwischen Simulation und Erfahrung, zwischen technischer Leistung und menschlicher Bedeutung zu unterscheiden.

Die Statue hat inzwischen eine Stimme. Sie kann antworten, sich erinnern und den Eindruck erwecken, uns zu kennen. Aber die Frage, wer in dieser Beziehung eigentlich wem begegnet, ist damit keineswegs beantwortet.

Quellen & Literatur

• Weizenbaum, Joseph (1966): ELIZA – A Computer Program for the Study of Natural Language Communication Between Man and Machine. Communications of the ACM, 9(1), S. 36–45. DOI: 10.1145/365153.365168.
• Weizenbaum, Joseph (1976): Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman. Deutsche Ausgabe: Die Macht der Computer und die Ohnmacht der Vernunft.
• Horton, Donald und Richard R. Wohl (1956): Mass Communication and Para-Social Interaction: Observations on Intimacy at a Distance. Psychiatry, 19(3), S. 215–229.
• Bowlby, John (1969): Attachment and Loss. Volume I: Attachment. Basic Books.
• Lee, Eun-Ju (2010): What Triggers Social Responses to Flattering Computers? Experimental Tests of Anthropomorphism and Mindlessness Explanations. Communication Research, 37(2), S. 191–214.
• De Freitas, Julian et al. (2026): Mourning the Loss of AI Companions. Nature Human Behaviour, veröffentlicht am 3. September 2026. DOI: 10.1038/s41562-026-02569-3.
• Commercial AI-Based Mental Health Chatbots as Low-Intensity Adjuncts to Psychotherapy: Effectiveness, Adherence, and Safety – A Systematic Review and Meta-Analysis. Systematische Übersichtsarbeit und Metaanalyse, 2026.

Neue Texte auf Gedankenplanet

Was geschieht – und was es mit uns macht. Ein vielstimmiger Blick auf die Gegenwart und ihre Fragen. Neues aus Alltag & Leben, Business & Karriere, Gesellschaft & Politik, Gesundheit & Wohlbefinden, Kultur & Kunst, Liebe & Beziehungen, Natur & Umwelt, Philosophie & Psychologie, Recht sowie Wissenschaft & Technik: