Wie Russland das Rennen um die KI verliert

Russland hat seine eigene Selbstfahrtechnologie, eine Suchmaschine, die mit Google konkurrieren kann, und Sprachassistenten und intelligente Lautsprecher, die bessere Konversationsfähigkeiten als Alexa oder Siri haben. Aber es hat keine generativen neuronalen Netze, die mit den neuesten Versionen von ChatGPT konkurrieren oder alle überraschen könnten wie Chinas DeepSeek. Wie konnte es dazu kommen, und bedeutet dies, dass Russland das KI-Rennen bereits verloren hat?

• Nach dem Erfolg von ChatGPT Ende 2022 begannen russische Unternehmen, sich ernsthaft mit Sprachmodellen zu beschäftigen. Damals erkannten die russischen Entwickler, dass die Zukunft in der Texterstellung liegt, anstatt Sprachmodelle für bestimmte Aufgaben zu trainieren, und in "Transformatoren" - einer speziellen Architektur, die es einem Sprachmodell ermöglicht, den gesamten Kontext auf einmal zu sehen und zu verstehen, wie Wörter miteinander in Beziehung stehen. Davor verstanden neuronale Netze den Text Wort für Wort und konnten Informationen "vergessen", wenn der Text lang war. 
• Das Auftauchen von ChatGPT hat den russischen Markt in Bewegung gebracht, und die Entwickler haben reagiert. Sber, die größte russische Bank, hat ihre Investitionen in die Entwicklung von Chatbots stark erhöht, so zwei Marktquellen gegenüber The Bell. Allein diese Investition bedeute für den russischen Markt viel Geld, sagte eine der Quellen, ohne eine Zahl zu nennen. Aber der russische Markt war nicht bereit für diesen Boom. Der Krieg in der Ukraine erschwerte die Beschaffung von Hardware, und niemand kaufte im Vorfeld teure GPUs, moderne Videokarten für das Training neuronaler Netze, die 30.000-40.000 Dollar pro Stück kosten können. Jetzt sind sie in Russland aufgrund der zusätzlichen Logistikkosten durch Parallelimporte noch teurer. Viele russische Entwickler mussten sich mit ihrer eigenen Hardware begnügen, da diese in Russland nicht zu mieten ist und westliche Anbieter den Markt verlassen haben.
• Ein weiteres Problem, mit dem Yandex und Sber konfrontiert waren, war die Personalausstattung. Nur wenige Leute sind in der Lage, etwas Revolutionäres zu schaffen, und die meisten von ihnen arbeiten bereits für OpenAI oder andere US-amerikanische Konkurrenten. "Ich weiß, dass zumindest ein paar Leute von Yandex, die wichtige Positionen im LLM-Entwicklungsteam innehatten, ins Ausland gegangen sind, und einige von ihnen sind bei OpenAI gelandet", sagte eine der Quellen von The Bell. "Wenn man die nötigen Fähigkeiten hat, kann man in Russland sehr gut leben. Aber es ist nicht vergleichbar mit dem, was man bekommt, wenn man in den Westen geht und dort arbeitet, was das Geld oder die berufliche Zufriedenheit angeht. Es ist also keine Überraschung, dass es zu dieser Abwanderung gekommen ist", so eine andere Quelle.
• Zensur ist ein weiteres Problem. Russische KI-Chatbots können nicht über "problematische" Themen wie den Krieg, LGBT-Rechte oder Kritik an Wladimir Putin diskutieren. Sber hat zum Beispiel ein spezielles Zensurmodell, das aber so streng ist, dass der GigaChat-Bot einfach unbrauchbar ist. 

Warum sich die Welt darum kümmern sollte

Der russische Markt für Sprachmodelle hinkt nach Ansicht aller Entwickler und Experten, die mit The Bell gesprochen haben, ewig hinterher. "Wir sind bereits etwa anderthalb Generationen zurück. Und angesichts der hohen Zinssätze wird sich das noch verschlimmern: Wir brauchen große Investitionen, Geld ist teuer und es gibt keine Liquidität", sagte Valery Babushkin, Autor des Buches "Machine Learning System Design".