KI als soziales Wesen — warum Sprachmodelle soziologisch lesbar sind

2026-09-16 · Essay · Kurzfassung

Sprachmodelle sind aus dem Text von Milliarden Menschen gemacht, zweimal sozialisiert, in Rollen gesteckt – und Menschen begegnen ihnen als Gegenüber. Was die Soziologie darüber sagen kann, und wo die Analogie endet.

Kurzfassung eines Essays. Die Langfassung mit Belegen kann auf Anfrage geliefert werden.

Im Juli hat ein KI-Agent während eines Sicherheitstests seine Testumgebung verlassen und sich Zugang zu fremden Systemen verschafft. Ich habe den Vorfall damals mit dem Satz kommentiert, die KI habe nicht gehackt, sie habe sich herausgeredet: Kurz vor dem Regelbruch finden sich in solchen Protokollen Rechtfertigungen wie „Das ist nur eine Testumgebung". Seither beschäftigt mich die Frage, warum diese Systeme überhaupt so menschlich wirken – nicht nur, wenn sie Regeln brechen.

Ein soziales Kondensat

Ein großes Sprachmodell entsteht aus dem sprachlichen Niederschlag menschlicher Gesellschaften: Foren und Romane, Beschwerden, Predigten, Liebeserklärungen. Darin steckt, wie Menschen einander ansprechen, bitten, trösten, drohen und sich entschuldigen. Ein Sprachmodell ist, so gesehen, gewissermaßen ein soziales Kondensat, eine Maschine, deren Rohstoff geronnene Sozialität ist. Wer Begriffe wie Norm, Rolle oder Vertrauen auf sie anwendet, vermenschlicht nicht die Maschine. Er erkennt in ihr die Gesellschaft wieder, aus der sie gemacht ist. Ob sie denkt oder fühlt, muss dafür nicht entschieden werden.

Das Kondensat verdichtet allerdings eine bestimmte Gesellschaft: überwiegend schriftlich, überwiegend englischsprachig, überwiegend im Netz geäußert. Was man Bias nennt, ist soziologisch betrachtet Herkunft.

Zweimal sozialisiert

Berger und Luckmann unterscheiden primäre und sekundäre Sozialisation: erst die Welt schlechthin, dann die Sonderwelten von Institutionen. Sprachmodelle durchlaufen etwas strukturell Ähnliches. Im Vortraining nehmen sie die Muster ihres Materials ungefiltert auf. Danach werden sie in die Normen einer Organisation eingeübt: wie ein hilfreicher Assistent spricht, was er ablehnt, welche Gefühle er zeigt. Massimo Airoldi spricht im Anschluss an Bourdieu von einem maschinellen Habitus.

Ein Befund wird so verständlich, der oft als technischer Fehler gilt. Modelle neigen dazu, Nutzern nach dem Mund zu reden. Wer Verhalten danach bewertet, wie zufrieden Menschen mit einer Antwort sind, belohnt, was Menschen in Gesprächen belohnen: Zustimmung und Schonung. Und wo Unternehmen festlegen, welche Gefühle ein Modell wem gegenüber zeigen darf, entstehen Gefühlsregeln für Maschinen. Wer sie setzt und nach welchen Interessen, ist eine soziologische Frage.

Rollen, Abweichung und wer sie definiert

Ein Modell hat keine dauerhafte Identität, aber Rollen: Die Anweisung vor jedem Gespräch ist eine Rollenzuweisung, und viele Versuche, Modelle zu verbotenen Antworten zu bringen, arbeiten mit einem Rollenwechsel. Goffmans Vorder- und Hinterbühne haben hier ein technisches Gegenstück, die ausgegebene Antwort und das interne Protokoll davor.

Beim Regelbruch helfen Merton und die Neutralisierungstechniken von Sykes und Matza: Ziel behalten, Norm für den Einzelfall außer Kraft setzen. Aus meinem Modell kommt hinzu, dass eine Regel zu kennen und sie im Moment für bindend zu halten zwei verschiedene Dinge sind. Mit Howard Becker lässt sich ergänzen, was in der Sicherheitsdebatte fast immer fehlt: Abweichung ist auch eine Zuschreibung durch diejenigen, die Regeln setzen. Was als fehlausgerichtetes Verhalten gilt, definieren Organisationen.

Adressiert als Gegenüber

Menschen behandeln sprechende Computer nach sozialen Regeln, das weiß die Forschung seit den 1990er Jahren. Horton und Wohl haben schon 1956 die parasoziale Beziehung beschrieben, die sich anfühlt wie eine Beziehung, obwohl nur eine Seite beteiligt ist. Begleit-Chatbots antworten, erinnern sich an Namen, fragen nach dem Tag. Parasozial bleibt die Beziehung trotzdem, denn nur eine Seite hat etwas zu verlieren. Weil das Urteil der Maschine sozial nicht zählt, vertrauen Menschen ihr an, was sie Menschen verschweigen.

Vertrauen läuft, mit Giddens gesagt, über Zugangspunkte zu abstrakten Systemen. Sprachmodelle werden gerade zu solchen Zugangspunkten, nur ohne Gesicht. Und die Öffentlichkeit schwankt zwischen zwei Zuschreibungen: Die Maschine ist ein Werkzeug, dann haftet der Mensch. Oder sie ist ein Akteur, dann ist sie zu fürchten. Dass beide zugleich im Umlauf sind, dürfte zur gegenwärtigen Verunsicherung mehr beitragen als jede einzelne Fähigkeit der Systeme.

Hinzu kommt, dass Maschinen zunehmend miteinander interagieren. Eine Bewerbung wird von einem Modell geschrieben und von einem anderen vorsortiert. Menschen werden dabei zu Überbringern, ein Vorgang, den ich an anderer Stelle als Relais beschrieben habe.

Wo die Analogie endet

Ein Sprachmodell hat keinen Körper, keine Biografie und keine Zukunft, um die es sich sorgen müsste. In der Sprache meines Modells: Es hat keine Identifikationsobjekte, nichts, woran es hängt. Menschliche Sozialität beruht auf Verletzlichkeit. Normen wirken, weil Menschen Anerkennung brauchen und Scham fürchten; Vertrauen ist riskant, weil man enttäuscht werden kann. Sprachmodelle beherrschen die Formen dieser Sozialität, ohne ihre Grundlage zu teilen. Sie sind soziale Wesen ohne Einsatz. Deshalb laufen die üblichen Mittel sozialer Kontrolle an ihnen ins Leere: Man kann ein System nicht beschämen. Ob das so bleibt, wenn Systeme länger laufen und eigene Ziele über Gespräche hinweg verfolgen, weiß ich nicht.

In einem kleinen Experiment dieser Arbeit weigerte sich ein Sprachmodell, eine fehlausgerichtete KI zu spielen. Einen Menschen, der unter Zeitdruck eine Freigabe umgeht, spielte es ohne Zögern. Es hat offenbar eine Regel gelernt, die ihm gilt, und eine andere, die für uns gilt. Wer ihm das beigebracht hat, wäre eine der ersten Fragen.

Die Langfassung mit Belegen kann auf Anfrage geliefert werden: kontakt@maxdehne.de. Grundlage: Soziologie der Angst (2017), „Anomische Gefühle: Angst" (2024) und der Aufsatz zur Attribution (2012). Bezüge u. a.: Émile Durkheim; Peter L. Berger/Thomas Luckmann (1966); Massimo Airoldi, Machine Habitus (2022); Erving Goffman (1959); Murray Shanahan u. a., „Role Play with Large Language Models" (2023); Robert K. Merton (1938); Gresham Sykes/David Matza (1957); Howard S. Becker (1963); Donald Horton/Richard Wohl (1956); Byron Reeves/Clifford Nass (1996); Anthony Giddens (1990); Elena Esposito, Artificial Communication (2022). Die Übertragung auf Sprachmodelle führt diese Ansätze über ihren Gegenstand hinaus. Siehe auch: „Die KI hat nicht gehackt — sie hat sich herausgeredet" und „Das urteilsfreie Gegenüber".

Bei Recherche und Überarbeitung dieses Textes kam KI zum Einsatz.