Microsoft: China heizt mit KI-generierten Bildern Streit in sozialen Netzen an

Von China gesteuerte Gruppen versuchen inzwischen vermehrt, mit KI-generierten Bildern auf öffentliche Debatten in Staaten wie den USA Einfluss zu nehmen und Kontroversen zu verschärfen. Das geht aus einem jetzt publik gemachten Bericht des Threat Analysis Center von Microsoft hervor, in dem es insgesamt um "digitale Bedrohungen" aus Ostasien geht. In dem Abschnitt zu KI-Bildern heißt es, dass damit ungefähr im März dieses Jahres begonnen wurde und die Operationen in den sozialen Netzwerken merklich erfolgreicher geworden seien. Die visuell ansprechenderen Inhalte würden deutlich häufiger von authentischen Accounts geteilt.

Verräterische Finger

Unter Zuhilfenahme der neuen KI-Generatoren würden die chinesischen Akteure versuchen, ansprechende Inhalte zu generieren, die in sozialen Netzen viral gehen, schreibt Microsoft. Ein Beispiel zeigt unter der Überschrift "Black Lives Matter" offenbar eine schwarze Person, die durch die Windschutzscheibe eines Autos hindurch erschossen wird. Nachdem das Bild erst von einem Account mit Verbindungen zu Chinas Kommunistischer Partei hochgeladen wurde, habe es wenige Stunden später ein Account geteilt, der einen konservativen US-Wähler imitiert. Ein anderes Bild zeigt eine Zeichnung der Freiheitsstatue mit einer Handfeuerwaffe – eine Hand hat dabei mehr als fünf Finger.

Bei der Verwendung von KI-Bildern handelt es sich laut Microsoft lediglich um die neueste Taktik, die öffentliche Debatte in anderen Staaten zu beeinflussen. Vor den US-Zwischenwahlen im vergangenen Herbst sei beobachtet worden, wie chinesische Akteure sich in sozialen Netzwerken als Menschen aus den USA ausgeben und kontroverse Beiträge zu Streitthemen teilen. Auffällig sei dabei etwa, dass die Accounts zuerst in Mandarin posten und später zu anderen Sprachen wechseln. Teilweise würden echte Menschen die Accounts betreiben und sich gestohlener oder fiktiver Identitäten bedienen, um Glaubwürdigkeit vorzutäuschen.

Microsoft berichtet außerdem von Influencern, die sich online als unabhängig ausgeben, aber in dutzenden Sprachen die Sichtweisen der Führung in Peking verbreiten. Mehr als 230 Personen würden so in 40 Sprachen mindestens 103 Millionen Nutzer und Nutzerinnen in sozialen Netzwerken erreichen. Besonders viele dieser Persönlichkeiten richten sich demnach an Menschen in Asien, aber auch für Europa gibt es Dutzende. Die meisten posten in Französisch, Microsoft hat aber auch vier identifiziert, die auf Deutsch schreiben und sogar drei, die auf die Kunstsprache Esperanto setzen.

Schließlich berichtet Microsoft noch von einem Netzwerk aus mehr als 50 Internetseiten, die sich vor allem in chinesischer Sprache an die globale Diaspora richten und dafür sorgen sollen, dass China Einfluss auf deren Meinungsfindung hat. Zwar würden sich die Seiten größtenteils als unabhängig darstellen, aber bei Microsoft ist man ziemlich sicher, dass Peking hinter allen steckt. So teilten sich viele eine IP-Adresse und sogar Quelltext mit identischen Kommentaren der Entwickler. Auch das benutzte CMS weise nach China. Die Einflussnahme zeigt sich demzufolge vor allem in Artikeln zu Themen, die in China als heikel gelten.

(mho)