Russische "Trolle" wenden sich für ihre Desinformationskampagnen an westliche KI

Russische Internet-Trolle wurden dabei erwischt, wie sie mit Hilfe westlicher KI Desinformationen über Moskaus Einmarsch in der Ukraine generierten und verbreiteten. Russlands eigene KI-gestützte Dienste sind dieser Aufgabe nicht gewachsen, da sie so programmiert sind, dass sie die Beantwortung von Fragen im Zusammenhang mit dem Krieg verweigern, um nicht gegen strenge militärische Zensurgesetze zu verstoßen.

• In den letzten drei Monaten hat OpenAI - der Erfinder von ChatGPT - fünf verdeckte Beeinflussungskampagnen aufgedeckt, darunter zwei, die von Gruppen mit Sitz in Russland durchgeführt wurden, die künstliche Intelligenz eingesetzt hatten, um eine große Menge an Inhalten zum Krieg in der Ukraine zu erstellen. In einem der Fälle nutzten russische Trolle das Sprachmodell von OpenAI, um Kommentare auf Englisch, Französisch, Deutsch, Italienisch und Polnisch zu schreiben, die dann auf X und der Plattform 9GAG veröffentlicht wurden. In einem anderen Fall, den OpenAI "Bad Grammar" nannte, nutzten die Trolle OpenAI, um kurze politische Kommentare auf Englisch und Russisch zu verfassen und auf Telegram-Kanälen zu posten, wobei sich die Inhalte an ein Publikum in der Ukraine, Molova, den baltischen Staaten und den Vereinigten Staaten richteten.
• Russische Trolle sind gezwungen, auf ausländische KI-Dienste zurückzugreifen, da ihre russischen Pendants im Wesentlichen zensiert sind. Von russischen IT-Unternehmen entwickelte Chatbots weigern sich, Fragen über den Krieg in der Ukraine zu beantworten. Sprachassistenten können beispielsweise nicht sagen, was in Bucha passiert ist, einer Stadt in der Nähe von Kiew, in der russische Soldaten bekanntermaßen Zivilisten abgeschlachtet haben.
• Alexander Krainov, ein Top-Manager von Yandex (dem so genannten russischen Google), sagte, dass der Dienst die Antwort verweigert, wenn sich eine Frage auf ein Thema bezieht, zu dem einige Antworten oder Meinungen die Gefahr strafrechtlicher Verfolgung bergen. Er fügte hinzu, dies sei das Beste, was sein Unternehmen tun könne. "Denn wenn wir schlecht geantwortet hätten, wären wir höchstwahrscheinlich gesperrt worden", so Krainov.

Warum sich die Welt darum kümmern sollte

Russische Chatbots müssen unter Zensurbedingungen arbeiten, was dazu führt, dass bestimmte Themen aus ihren generativen Modellen gelöscht werden. Das bedeutet nicht, dass der durchschnittliche russische Internetnutzer nicht herausfinden kann, was in Bucha passiert ist - die russische Zensur ist noch weit von der Großen Firewall in China entfernt.