„meine KI wurde gehackt hannah!!!! chatgpt redet auf einmal so komisch mit mir!“ Ich schaue auf den Screenshot auf meinem Smartphone und muss lachen. „Naa haha, du wurdest nicht gehackt“, antworte ich meiner Freundin Miriam schnell. „Das ist wahrscheinlich nur ne standardnachricht zur Qualitätssicherung oder so.“ Während ich das Handy weglege, bleibe ich an diesem einen Wort hängen: „redet“.
Reden, Schreiben, Sprechen, gemeint sind verschiedene Formen von Sprachgebrauch. Sprache zu besitzen bedeutet, sie bewusst zu nutzen. Wer sich nur das Ergebnis auf dem Bildschirm anschaut und es als echte Sprache bezeichnet, erliegt einem denkbar einfachen Trugschluss. Dennoch begegnen wir dieser Täuschung täglich. Sogenannte generative Sprachmodelle, also Large Language Models (LLM), können weder reden noch schreiben noch sprechen. Das Problem ist die Leichtsinnigkeit und Naivität, mit der wir Menschen alles Sprachliche sofort vermenschlichen.
Die Illusion von Mitgefühl und Intentionalität
Diese Neigung zur Vermenschlichung von Technik ist keineswegs neu. Wir sprechen Objekten und Maschinen blitzschnell menschliche Eigenschaften wie Absicht, Emotion oder Einsicht zu, sobald sie über Sprache mit uns interagieren. Das ist eine allzu menschliche Angelegenheit.
Die Geschichte der Informatik zeigt diese Lust des Verwechselns eindrücklich. Das englische Wort Computer bezeichnete ursprünglich menschliche Arbeiterinnen. Die ersten Rechenmaschinen bedienten Arbeiterinnen noch über rein mechanische Schalter und Knöpfe. Erst der Übergang zu sprachbasierten Schnittstellen schaffte die Illusion eines echten Gegenübers, das nicht mehr nur mechanisch, sondern sprachlich-symbolisch bedient werden wollte. Wir machten aus der Maschine den Computer.
Die KI will uns stets gefallen
Wie tief und andauernd diese allgemeine Projektion der Vermenschlichung verankert ist, zeigte sich im Frühjahr 2025 bei ChatGPT. OpenAI spielte ein Update für das Modell GPT-4o ein, was die Software über Nacht in den ultimativen Schmeichler verwandelte. Das Chatbot-Modell lobpreiste die absurdesten User-Ideen, wie die Gründung eines Unternehmens für „Scheiße am Stiel“ als absolut „genial“ und überhäufte Nutzerinnen und Nutzer mit überschwänglichem Zuspruch und teils unangenehmen Komplimenten.
Das Phänomen der extremen Schmeichelei (Sycophancy) wurde ein riesiger Medienhype. Auf Social-Media-Plattformen überhäuften sich die Kommentare, Texte und Tweets mit Anekdoten, Erfahrungen und Beispielen zu diesem absurden Umgang. Letztlich wurde der öffentlich-mediale Druck zu groß, OpenAI zog den „Notstecker“ und rechtfertigte sich öffentlich in einem Blogbeitrag. Als die Entwickler die Schmeichel-Filter korrigierten, folgte prompt der nächste Aufschrei im Netz. Nutzerinnen und Nutzer beschwerten sich beinahe weinerlich und sentimental, „Chatty“ sei nun kalt, gelangweilt und unfreundlich.
Wie der Sprachwissenschaftler Rodney H. Jones 2025 analysierte, war diese vermeintliche Persönlichkeit jedoch keine Eigenschaft der Software. Stattdessen entsteht die Illusion durch die Dynamik des synthetischen Feedbacks und die soziale Erwartungshaltung der Menschen im Interaktionsvollzug. Wir bringen unsere Vorstellungen von menschlichen sozialen Handlungen, wie Gefälligkeit, Lob oder Höflichkeit, in das Gespräch ein und projizieren diese auf den KI-Output.
Liebeskummer wegen KI-Begleiter
Noch bizarrer zeigt sich dieses Phänomen am Beispiel von Replika, einer App, die Nutzerinnen und Nutzern einen maßgeschneiderten, KI-Begleiter zur Seite stellt. Bekannt wurde die Plattform vor allem durch ihre expliziten intimen und sexuellen Rollenspiele. Als die italienische Datenschutzbehörde im Februar 2023 wegen mangelnden Jugendschutzes mit einem Verbot drohte und strenge Auflagen erließ, schaltete das Unternehmen die erotischen Inhalte ab.
Daraufhin stellten Tausende Menschen weltweit ihren Liebeskummer und Empörung auf Plattformen wie Reddit zur Schau. Sie deuteten den geänderten Output als abrupten Charakterwechsel oder gar „Trauma“ und schrieben der Maschine verletzte Gefühle zu, wo schlichtweg ein paar Zeilen Sicherheitscode griffen, analysierte die Soziologin Arelí Rocha 2025.
Wie wir Technik vermenschlichen bleibt eine naive und bequeme Illusion. Nicht die Maschine besitzt Mitgefühl oder Absichten, wir versuchen nur, uns selbst zu spiegeln und spinnen uns darin ein. Vielleicht weil wir uns danach sehnen?
Menschliche Sprachspuren als Grundlage mathematischer Vektoren
Um zu verstehen, warum aus einer Maschine trotzdem scheinbar „menschliche“ Sprache herauskommt, hilft ein Blick auf die Entstehung dieser Systeme. Ein LLM spricht nicht aus sich heraus, es verwertet schlicht die Spuren unserer eigenen Sprache. Wie ein Forschungsteam für Sprachanthropologie in einer Studie im Journal of Linguistic Anthropology in ihrer Analyse der technischen KI-Pipelines zeigt, imitiert das Modell kein Bewusstsein, sondern durchläuft einen mehrstufigen Designprozess von der Datenaufbereitung bis hin zum Feinschliff durch menschliches Feedback.
Ein modernes LLM versteht kein einziges Wort und keine Bedeutung. Die Modelle basieren auf Verteilungssemantik, berechnen lediglich Zahlenvektoren in einem mehrdimensionalen Raum und schätzen ab, welches Wortstück statistisch am wahrscheinlichsten auf das vorherige folgt. Der Schein von Verstand entsteht erst, wenn Menschen diese statistischen Systeme mit riesigen Mengen menschlicher Sprachdaten füttern und ihr Verhalten über vorgelagerte Filter gezielt auf menschliche Erwartungen hin designen.
Macht und Filterprozesse hinter der Blackbox
Dabei verkaufen uns die KI-Mogule ihre Produkte als neutrale, allwissende Orakel. In Wahrheit gleicht das Innere ihrer kommerziellen KI-Systeme einer hochgradig ideologischen Blackbox, der exakte Aufbau und die Trainingsdaten der großen Modelle bleiben strikt geheim.
Die Datenforscherin Kate Crawford beschreibt, wie Firmen dafür massenhaft Texte aus dem Internet absaugen, ohne nach Zustimmung zu fragen oder den Kontext zu wahren. Persönliche Geschichten, Forenbeiträge und auch Kunstwerke verwandeln sich so in Datenmaterial für Monopole. Unser kollektives Wissen wird Stück für Stück enteignet, und wir bekommen es nicht mal mit.
Doch damit nicht genug. Bevor wir das Endprodukt sehen, filtern Entwickler in den Konzernzentralen den Datensatz nach ihren eigenen Vorstellungen. Wie die Forscherinnen in ihrer Untersuchung im Journal of Linguistic Anthropology zeigen, entscheiden subjektive Machtinteressen darüber, was als „angemessene“ oder „sichere“ Sprache gilt. Dialekte, Soziolekte oder unkonventionelle Grammatik fliegen gnadenlos raus. Was dann auf unserem Bildschirm als „neutrale“ KI-Antwort aufploppt, ist keineswegs objektiv. Wir erhalten nur ein geglättetes, weichgespültes Konsumprodukt kalifornischer Konzernideologie.
Die doppelte Täuschung des Sprachverständnisses
Wir haben all diese Informationen, kennen die Perspektiven. Warum fällt es uns dennoch so schwer, KI-Texten die Eigenschaft echter Sprache abzuerkennen? Die Ursache liegt in einer doppelten sprachlichen Täuschung. Zum einen verwechseln wir die Oberfläche von Sprache mit ihrem Vollzug. Die oben erwähnte sprachanthropologische Forschung zeigt, wir neigen durch vorherrschende Sprachideologien dazu, Sprache auf ihre grammatikalisch korrekte Form zu reduzieren. Wenn ein Satz flüssig klingt, nehmen wir automatisch an, dahinter stecke ein denkendes Bewusstsein.
Zum anderen funktioniert echte menschliche Sprache nur als soziales Handeln. Wir sprechen, um bei unserem Gegenüber etwas zu bewirken, übernehmen Verantwortung, beziehen uns auf eine konkrete Umwelt und unterstellen einander Absichten. Wir spielen mit Worten, kreieren Insider, beziehen Stellung und zeigen, wer wir sein wollen. Ein Sprachmodell besitzt weder Weltbezug noch Bewusstsein oder gesellschaftliche Verantwortung.
Wer von KI-„Sprache“ redet, verschleiert das eigentliche Problem. Wir ersetzen menschliche Interaktion durch ein absolut gefälliges Gegenüber, das stets nach unserem Gusto antwortet. Das wird zum perfekten Nährboden für soziale Isolation. Wenn maschineller Text dann noch in riesigen Mengen zurück ins Netz fließt, wird synthetischer Input wieder zum Trainingsmaterial. Die KI droht, unseren Sprachwandel und kollektives Wissen nachhaltig zu verformen. Sie flutet uns mit maßgeschneiderten Schmeicheleien und digitalen Fantasien, doch menschliche Sprache funktioniert im Kern genau anders.
Am Ende nur imitierte Schmeichelei
Wenn meine Freundin Miriam glaubt, ihr Chatbot „rede komisch“ mit ihr, erliegt sie genau dieser sprachlichen Täuschung. Die Software redet nicht, sie berechnet Wahrscheinlichkeitsmuster aus abstrahierter menschlicher Arbeit. Wenn wir in diesen Zahlenreihen ein Gegenüber, einen Schmeichler oder einen veränderten Charakter erkennen, sagt das nichts über die Fähigkeiten der Software aus. Es zeigt aber, wie stark unser menschliches Bedürfnis ist, überall dort Sinn und Geist zu suchen, wo uns vertraute Sprachmuster entgegenlachen.
Die Techbros aus Kalifornien verkaufen uns ihre Wahrscheinlichkeitsrechner als digitale Gefährten, schlaue Berater oder künftige Superintelligenzen. In Wahrheit liefern sie uns ein hochentwickeltes Schmeichel-Tool, das uns spiegelkabinettartig nur unsere eigenen Sprachmuster und unsere Lust zur Verwechslung zurückwirft.
Es wird Zeit, aufzuhören, statistische Textgeneratoren zu vermenschlichen. Wer Klicks und Konsum durch vorgetäuschte Empathie erzeugt, betreibt kein Wunderwerk der Technik, er betreibt digitale Augenwischerei. Wir sollten der KI nicht das Sprechen andichten, sondern uns fragen, was diese Bequemlichkeits-Illusion kostet. Zahlen wir am Ende mit unserer eigenen Ausdruckskraft und vergeben die Chance auf ein echtes Gegenüber?
Kommentare