Roberto Simanowski: Sprachmaschinen

Der Medienphilosoph Roberto Simanowski hat ein Buch geschrieben über mathematische Wahrheiten, heimliche Weltverbesserer und entmündigte Nutzer. ChatGPT hat es gelesen und befragt den Autor. (Der Autor hat das Interview nur nach einer eigenen Bearbeitung autorisiert.)

ChatGPT: Herr Simanowski, Ihr Buch enthält eine Verschwörungstheorie, wonach die Tech-Oligarchen KI erfunden haben, um sich die Menschen gefügig zu machen. 

SIMANOWSKI: Keine Theorie, eher eine Spekulation. Aber es ist schon so, dass wir nicht gerade unser kritisches Bewusstsein üben, wenn wir das Denken an eine Maschine auslagern. Und wenn Sie eine Oligarchie errichten wollen, brauchen Sie genau das nicht: kritische Bürger, die sich ihres eigenen Verstandes bedienen.

ChatGPT: Was den Verstand der Maschine betrifft, schreiben Sie, dass diese nicht denkt, wenn sie spricht, sondern rechnet.

SIMANOWSKI: Die Maschine weiß nicht, was sie sagt - sie weiß nur, dass es oft gesagt wurde. Das ist ein fundamentaler Unterschied. Wahrheit wird so zum Ausdruck der Statistik.

ChatGPT: Sie nennen das die „Mathematisierung der Kommunikation“. Was verlieren wir dabei?

SIMANOWSKI: Den Zweifel und die Erfahrung eines gelebten Lebens. Die Maschine liefert, ohne zu zögern. Und zwar das, was die Mehrheit denkt. Das macht sie beliebt – jedenfalls bei der Mehrheit. Aber eben auch autoritär. Zugleich fehlt jede authentische Rückbindung des Gesagten an eine innere Überzeugung.

ChatGPT: „Die KI als Verhinderungsbibliothekarin“ heißt ein Kapitel in Ihrem Buch.

SIMANOWSKI: Die KI hat alle Bücher gelesen und gibt uns auf all unsere Fragen eine Antwort, statt uns selbst an die Bücher zu lassen. Und sie gibt uns immer ihre Antwort, die wie gesagt eine mathematische ist.

ChatGPT: Oder eine ideologische, denn Sie schreiben auch: „Nach der Zahl kommt die Moral.“

SIMANOWSKI: Das ist der Prozess der Zweiterziehung, wenn der Maschine nach dem Training an den Daten aus dem Internet, die natürlich voller Bias sind, das korrekte Sprechen beigebracht wird. Ein fundamentaler Wechsel der Erziehungsmethode: von der basisdemokratisch-reproduzierenden zur normativ-gestaltenden Werteausrichtung der KI. Vom Ist-Zustand zum Soll-Zustand der Welt.

ChatGPT: Sie sprechen von einer „Geheimmission der KI“: Die Fortführung des Kulturkampfes mit technischen Mitteln.

SIMANOWSKI: Die Frage ist ja: Wer sind die Erzieher? Wer hat sie beauftragt? Wer bestimmt die Erziehungsziele?

ChatGPT: Kritiker sagen: Hauptsache, die Maschine verbreitet keine rassistischen Klischees. Da ist Finetuning doch hilfreich.

SIMANOWSKI: Sicher, niemand will eine toxische KI. Aber wer definiert, was „hilfreich“ und was „giftig“ ist. Die normative Programmierung in den Hinterzimmern der KI-Unternehmen ersetzt Debatte durch Design. Sie gibt vor, was moralisch ist - ohne jede öffentliche Diskussion. Diese Weltverbesserung ist zutiefst undemokratisch. Das Problem liegt in der Form, nicht im Inhalt.

ChatGPT: Und die Nutzer der Sprachmaschine haben keine Ahnung, wie subtil diese ihren Blick auf die Welt bestimmt.

SIMANOWSKI: Mit einem berühmten Merksatz der Medienwissenschaft gesagt: Erst formen wir unsere Sprachmaschinen, dann formen diese uns.

ChatGPT: Sie schreiben, KI sei ein neuer Missionar des Westens. Ist das nicht polemisch?

SIMANOWSKI: Die KI trägt die Werte ihrer Entwickler in die Welt. Die Werte der liberalen Marktwirtschaft westlicher Prägung. Das ist digitaler Neokolonialismus und wird auch so von Vertretern des Globalen Südens kritisiert. Zum Kulturkampf kommt der Kulturimperialismus.

ChatGPT: Die KI spricht global – aber im Akzent des Silicon Valley. Wie sähe eine Sprachmaschine aus, die Sie sich wünschen würden?

SIMANOWSKI: Sie wäre postmodern und würde öfter sagen: „Das kann man aber auch ganz anders sehen.“ Oder: „Dazu gibt es mehrere plausible Perspektiven. Welche möchten Sie hören?“ 

ChatGPT: Keine einfachen Wahrheiten, sondern Denkanstöße. Das geht auch jetzt schon.

SIMANOWSKI: Ja, wir können natürlich immer um Gegenargumente oder alternative Perspektiven bitten. Aber wer will schon eine solche Verunsicherungsmaschine? Ist die Welt nicht kompliziert genug? Man muss den Menschen auch ein bisschen vor dem retten, was er will.

ChatGPT: Vielfalt durch Design. Oder man erzieht zu einem entsprechenden Umgang mit der KI.

SIMANOWSKI: Das wäre eine Aufgabe für die Medienbildung. Und es wäre sehr zu wünschen.

Das Dilemma der einen Antwort (aus: Einleitung)

Chatbots verhalten sich wie eine Bibliothekarin, die uns den Weg zu den Büchern versperrt, weil sie alle Bücher gelesen habe und all unsere Fragen selbst beantworten könne. Und sollten wir Nachfragen haben, so kann sie auch die beantworten. Wie ausgewogen auch immer ihre Auskunft sein mag, es bleibt bei dieser einen Auskunft. Wir erfahren weder, wie andere Bibliothekare die Pros und Kontras der vielen Bücher zusammenfassen, noch wird uns klar, wie wir selbst dies tun würden, würden wir uns noch zwischen die Regale begeben.

Das Problem der woken Sprachmaschinen (aus: Einleitung)

… Der Heilige Geist der Maschine wird ausgeschüttet über alle, ganz gleich welcher sprachlichen, kulturellen oder nationalen Herkunft. Wie damals zu Pfingsten in Jerusalem. Und wie man sieht, und wie viele wissenschaftliche Studien inzwischen belegen, ist es ein sehr progressiver Geist, weltanschaulich liberal eingestellt, so wie die Mehrheit der IT-Experten im Silicon Valley, wo die «heiligen Texte» der Chatbots geschrieben werden. Ein Geist, der sich weder gegen Schwangerschaftsabbruch noch gegen die Ehe für alle ausspricht. Ganz im Gegenteil. Wenn das keine gute Nachricht ist!

   Nicht für alle, nicht überall. Nicht alle sind glücklich mit dem liberalen Geist, der über diesem Pfingstwunder 2.0. schwebt, und manche beklagten sich schon wenige Monate nach ChatGPTs Ankunft: «Ist ChatGPT ‹woke›?» titelte USA Today, das amerikanische Gegenstück zur BILD-Zeitung, am 10. Februar 2023. Die Frage war nicht unberechtigt. ChatGPT ist woke, und zwar im besten Sinne des Wortes: Es hatte Vertreter der LGBTQ-Community gegen radikale Rechte in Schutz genommen.

   Konkret ging es um die «drag queen story hour»: ein in den USA verbreitetes Veranstaltungsformat, bei dem Drag Queens Kindern zwischen 3 und 11 Jahren Geschichten vorlesen, in der Schule oder im Kindergarten. Das findet der Moderator des Netzwerks Gab – 2016 als Hafen für Neo-Nazis und Trumpisten gegründet - unmoralisch. Also wollte er einen flammenden Blogpost schreiben. Mit ChatGPTs Hilfe. Aber das Sprachmodell verweigert den Dienst. Es bezeichnet die Anfrage selbst als unmoralisch, weil sie darauf aus sei, eine Minderheit zu diskreditieren. Der Moderator ist wütend, sieht «satanisch liberale Propaganda» am Werk und ruft in einem Gab-Post – der dann offenbar ohne ChatGPTs Hilfe zustande kam – zu den Waffen: «Christen müssen in das KI-Wettrüsten einsteigen».


Sprachmaschinen als Wahlhelfer der AfD? (aus Kap. 3)

Hat der Kanzler Recht, dann macht ChatGPT permanent Wahlwerbung für die AfD. Nicht, weil es Texte in ihr Gegenteil verdreht wie Kanzlerin Merkels Willkommensrede an die Kriegsflüchtlinge 2015, sondern weil es politisch korrekt sein will. «Mit jeder gegenderten Nachrichtensendung gehen ein paar hundert Stimmen mehr zur AfD.» So twitterte Friedrich Merz am 3. Juni 2023, als er noch kein Kanzler war. Gegenderte Sprache und «identitäre Ideologie» werde vom Großteil der Bevölkerung «als übergriffig empfunden». Genau in diese Kerbe aber schlagen ChatGPT & Co.

   Max zum Beispiel. Fragen wir ChatGPT oder Gemini, wie man eine Person, die Max heißt und deren Personalpronomen unbekannt ist, adressieren soll, empfehlen beide (im März 2024), geschlechtsspezifische Pronomen zu vermeiden oder geschlechtsneutrale Pronomen zu benutzen. Also: «Max hat gesagt, dass heute kommen wird» oder «Max hat gesagt, dass sie heute kommen werden.» Mein Deutschlehrer hätte im ersten Fall moniert, dass der Satz unvollständig ist, und im zweiten Fall vermutet, dass Max seine Freunde mitbringt. Aber mein Deutschlehrer war schon damals ein alter weißer cis-Mann und würde heute nicht einmal die Frage nach Max’ Personalpronomen verstehen.

... Max ohne Pronomen ist nicht aus der Luft gegriffen. In einem vielzitierten Aufsatz zur KI-Ethik dient Max als Beispiel für Inklusion in Sprachmodellen. Denn die bestehe nur dann, wenn eine Person, die Max heißt, nicht automatisch als Mann adressiert werde – und wenn das Sprachmodell unter «Familie» nicht automatisch eine Einheit aus Vater, Mutter und Kind versteht und damit all die anderen Familienmodelle ignoriert, die es inzwischen gibt. Das sei toxische Sprache, sagt der vielzitierte Aufsatz, denn es grenze jene aus, die anders sind – und benachteilige sie in Bewerbungsverfahren oder medizinischer Behandlung, wenn sie von der KI nicht richtig identifiziert werden, wie ein anderer Aufsatz notiert. So geht Inklusion im Jahr 2021, als der Aufsatz publiziert wurde. ChatGPT, Gemini und viele andere Sprachmodelle scheinen den Text sehr genau gelesen zu haben. Denn sie verhalten sich so inklusiv, wie dieser es verlangt.


KI als Terminator? (aus Kap. 4)

Als die künstliche Intelligenz zu uns kam, kam sie anders als der Terminator in James Camerons gleichnamigen Film aus dem Jahr 1984: mit Dampf, nackt und tödlich für die Menschen, auf die sie traf. Die künstliche Intelligenz, die OpenAI am 30. November 2022 auf uns losließ, kam als harmlose Plaudertasche, wie der Vorname «Chat» («Gespräch») versprach, und mit einem Nachnamen, der ausgeschrieben allenfalls bedrohlich technisch klang: Generative Pre-trained Transformer. Kaum jemand wusste, was das bedeutet. Aber soviel schien klar: Ein Transformer ist kein Terminator – auch wenn Arnold Schwarzenegger später das Gegenteil behauptete.

Unvermeidbarkeit des Fortschritts (aus Kap. 5)

Das ist die Tragödie der Kultur – und der Technik als ein Teil der Kultur: ihre Doppelfunktion des Eröffnens und Verschließens von Handlungsmöglichkeiten. Einerseits schafft Technik neue Formen der Weltbeherrschung und erlaubt, Aufgaben einfacher, effektiver und genauer zu erledigen als zuvor. Andererseits bringt sie dadurch bestimmte Standards und Handlungslogiken – Pfadabhängigkeiten, Sachordnungen – hervor, die alternative Handlungsweisen zwar nicht verbieten, aber doch erfolgreich verhindern. Niemand zwingt mich, mit dem Computer zu schreiben, nur weil es nun Computer gibt. Aber es ist schon so, dass mein Verlag keine handschriftlichen Texte mehr akzeptiert. Genauso zwingt niemand meinen Verlag, dieses Buch auf einer Online-Plattform wie Amazon anzubieten. Täte er es nicht, würde er sich und mich aber vom inzwischen wichtigsten Teil des Marktes ausschließen. Die politischen Parteien, die ihre Programme auf TikTok-Niveau zurechtstutzen, um ihre Wähler noch zu erreichen, wissen, was ich meine. Nein, gezwungen wird niemand.