China versucht, Amerikaner gegen ihre eigenen KI-Firmen aufzuwiegeln

Open AI hat mehrere Chat-GPT-Konten gesperrt, weil die Nutzer damit Material für eine politische Einflusskampagne generiert hatten. Dies gibt das Unternehmen in einem neuen Bericht bekannt. So sollen chinesische IT-Unternehmen im Auftrag einer chinesischen Provinzregierung Profile in dem sozialen Netzwerk X betrieben haben, die polarisierende Inhalte posteten.

Unter anderem hatten die chinesischen Akteure eine Comic-Zeichnung mit Chat-GPT generiert. Sie zeigt, wie die Stromkosten für eine Familie steigen, weil in der Nähe ein neues Datenzentrum errichtet wird. «Das ist unfair», sagt der Familienvater im Comic mit schockiertem Gesicht und abspringenden Schweissperlen, während der Betreiber des Datenzentrums Säcke voll Geld in den Händen hält und zufrieden strahlend eine Zigarre raucht.

Die chinesischen Akteure hatten versucht, das Comic-Bild in dem sozialen Netzwerk X zirkulieren zu lassen. Weiter hatten sie Kommentare und Postings mit Chat-GPT generiert, in denen sie Schreckensszenarien auf den Bau von neuen Rechenzentren zurückführen. In einem Beitrag sei prognostiziert worden, dass es nun häufiger zu Stromausfällen komme, schreibt Open AI.

Die Postings kommen zu einem heiklen Zeitpunkt. In den USA wehren sich immer mehr Menschen gegen KI. Sie kanalisieren ihren Unmut in den Kampf gegen Datenzentren. Der Widerstand gegen neue Bauprojekte wird zunehmend politisch: Viele Demokraten kritisieren, dass die Datenzentren allzu viel Strom und Wasser verbrauchten. Laut Berechnungen der Nichtregierungsorganisation Data Center Watch haben sie allein in den ersten drei Monaten des Jahres 75 Bauprojekte gestoppt. Mehrere Gliedstaaten haben Moratorien gegen den Bau von neuen Datenzentren verhängt.

Tech-Firmen und viele Republikaner bedauern dies. Sie warnen davor, dass die USA den KI-Wettlauf gegen China verlören, falls zu wenig neue Datenzentren gebaut würden.

Nun scheint China diesen bereits bestehenden Graben in der Bevölkerung für seine eigene Zwecke nutzen zu wollen – ähnlich wie es auch Russland mit seinen Desinformationskampagnen tut. Ziel ist es, die amerikanische Bevölkerung weiter zu spalten und den technologischen Fortschritt von führenden KI-Firmen wie Open AI zu verlangsamen.

Experten für Desinformation und Einflussnahme warnen seit Jahren vor dem Szenario, dass ausländische Akteure dank KI-Tools massenhaft Inhalte generieren, um die öffentliche Meinung in Demokratien zu manipulieren.

Inwiefern das tatsächlich gelingt, ist umstritten. Die Postings der Kampagne, die Open AI nun aufgedeckt hat, erreichten kaum amerikanisches Publikum. Die einzelnen Posts hätten «wenig oder gar kein authentisches Engagement generiert», schreibt Open AI. Das ist üblich bei Einflusskampagnen: Bekannt werden sie oft erst, wenn etablierte Medien über sie berichten.

Die kleine Reichweite der manipulierten Posts bedeutet einen Flop für die Auftraggeber: Sie hatten sich die Zeit genommen, um ein Bot-Netzwerk mit mehreren Profilen aufzubauen und um Content wie die Comic-Zeichnung zu generieren. Nun ist nicht nur ihre Kampagne ungesehen verpufft, sondern es wurde auch aufgedeckt, dass China bei der amerikanischen Diskussion um Datenzentren mitmischt. Das schwächt die Gegner von Datenzentren – was wiederum den Interessen Chinas zuwiderläuft.

Für Daria Impiombato, Expertin für die globalen Einflussoperationen Chinas beim Mercator Institute for China Studies (Merics), bedeutet das aber nicht, dass die Kampagne für China ein kompletter Misserfolg gewesen wäre. «Im Informationsbereich finden manche Experimente wenig Anklang, doch Akteure können dennoch daraus lernen. Sie können diese Erfahrungen nutzen, um ihre Strategie zu verfeinern und künftig effektiver Einfluss auszuüben.»

Tatsächlich zeigt der Report von Open AI auch, dass die chinesischen Akteure ein gutes Verständnis dafür entwickelt haben, wie sie westliche soziale Netzwerke austricksen können. Konkret haben sie mit Chat-GPT einen Bericht generiert, der zeigt, wie Einflusskampagnen die automatischen Detektionssysteme von Facebook umgehen könnten.

Open AI zitiert aus dem Report der chinesischen Akteure. Es liest sich wie ein Lehrbuch für Desinformanten: Ihr Ziel ist es, Profile aufzubauen, die so aussehen, als gehörten sie zu lauter echten, voneinander unabhängigen US-Bürgern, die sich für ein gemeinsames Ziel einsetzen.

Die Methode ist als Astroturfing bekannt: Dabei lassen es ausländische Agenten so aussehen, als wäre in den sozialen Netzwerken eine Bürgerinitiative entstanden. In Wahrheit wird die Bewegung aber im Verborgenen gesteuert, um die öffentliche Meinung zu manipulieren. Wenn es nach den chinesischen Akteuren geht, sollen echte amerikanische Nutzer die Posts anschauen und dann den Eindruck bekommen, dass die Wut über neue Datenzentren weit verbreitet ist.

Dass die chinesischen Akteure statt chinesischer Modelle mit Open AI ausgerechnet eine amerikanische Firma dafür verwendeten, um Berichte über ihre Einflusskampagnen zu schreiben, sei «ironisch», schreibt Open AI.

Der Report von Open AI zeigt, wie stark sich Chinas Einflusskampagnen inzwischen mit jenen Russlands überschneiden. Moskau und Peking wollten beide den Zusammenhalt von westlichen Gesellschaften untergraben, die Demokratie schwächen, das öffentliche Vertrauen zu zerstören, schreibt das Zentrum für Europäische Politikanalyse (Cepa). «Sie verstärken ihre Botschaften gegenseitig.»

Für China ist dieses aggressive Vorgehen in den sozialen Netzwerken noch eher neu. Bis zum Jahr 2019 ist das Land eher defensiv aufgetreten und hat sich dem Westen als stabiler und harmloser Wirtschaftspartner präsentiert. Dennoch habe China auch damals schon Einfluss auf den Informationsraum ausgeübt, insbesondere entlang der politischen roten Linien, sagt Impiombato. «China versucht seit langem, Debatten um ‹die drei T› zu unterdrücken: Tibet, Taiwan, Tiananmen.»

Nach und nach kamen weitere solche Themen dazu: Hongkong, Covid-19, die Menschenrechtslage in Xinjiang. Während der grossen Proteste in Hongkong im Jahr 2019 begann Peking, massenhaft Social-Media-Konten zu fälschen. Seitdem entdecken Plattformen wie X oder Facebook immer wieder verdeckte Kampagnen, die sie auf die chinesische Regierung zurückführen, und blockieren deswegen Tausende von nichtauthentischen Profilen.

«Unter Xi Jinping wurde China zunehmend selbstsicher», erklärt Impiombato. Heute wollten die führenden Köpfe des Landes, dass China als globale Supermacht wahrgenommen werde. Eine ihrer obersten Prioritäten sei es, den technologischen Wettbewerb mit den USA zu gewinnen.

Diese Einschätzung erklärt den Fokus der chinesischen Einflusskampagne auf die Datenzentren. Offenbar verspricht sich China einen handfesten wirtschaftlichen Gewinn daraus, wenn die USA ihre Datenzentren weniger schnell ausbauen als geplant.

Der gescheiterte Manipulationsversuch zeigt nun deutlich: Die Ära, in der sich Chinas digitale Einflussnahme auf die Botschaft «Schaut her, wir haben die schönsten Brücken» fokussierte, ist vorbei. Peking agiert zunehmend aggressiv – und adaptiert dafür das russische Drehbuch zur gezielten Spaltung.