Fast tausend Twitter-Konten, die von einer großen Bot-Farm kontrolliert wurden, die russische Propaganda verbreitete, sowie Domains, die zur Registrierung der Bots verwendet wurden, wurden in einer gemeinsamen internationalen Strafverfolgungsoperation unter der Leitung des US-Justizministeriums abgeschaltet.
Organisiert und verwaltet von einem stellvertretenden Chefredakteur der staatlichen russischen Nachrichtenorganisation Russia Today (RT) und einem russischen FSB-Offizier, verbreiteten die Bots seit 2022 mithilfe einer KI-gestützten Software namens Meliorator Desinformationen an Twitter-Nutzer weltweit.
RT-Mitglieder nutzten Meliorator, um authentisch aussehende Social-Media-Konten zu erstellen, die sich als reale Personen aus mehreren Ländern weltweit ausgaben, um falsche Geschichten zu verbreiten und den russischen Einfluss auf Twitter zu stärken.
Die Bot-Farm in den sozialen Medien ermöglichte RT eine weite Verbreitung von Informationen, was dem Ziel der RT-Führung entspricht, die Informationsverbreitung über die traditionellen Fernsehsendungen hinaus zu erweitern.
"Bereits 2022 hatte RT Zugang zu Meliorator, einer KI-gestützten Software zur Erzeugung und Verwaltung von Bot-Farmen, um Desinformationen in und über eine Reihe von Ländern zu verbreiten, darunter die Vereinigten Staaten, Polen, Deutschland, die Niederlande, Spanien, die Ukraine und Israel", so das FBI.
"Meliorator wurde entwickelt, um in sozialen Netzwerken massenhaft 'authentisch' erscheinende Personen zu schaffen und so die Verbreitung von Desinformationen zu ermöglichen, die Russland dabei helfen könnten, Unfrieden zu stiften und die öffentliche Meinung im Rahmen von Informationsoperationen zu verändern."
Im Juni 2024 funktionierte Meliorator nur mit X (früher bekannt als Twitter), doch Analysen deuten darauf hin, dass seine Betreiber die Funktionalität wahrscheinlich auf andere soziale Netzwerke ausweiten werden.
Die Bot-Farm registrierte neue Twitter-Bots über private E-Mail-Server unter den Domains mlrtr[.]com und otanmail[.]com, die im Rahmen der vom DOJ geführten Operation beschlagnahmt wurden [Affidavit].
X schaltete auch 968 Social-Media-Profile [Affidavit] aus, die als Teil der Bot-Farm von RT identifiziert wurden und oft vorgaben, zu Personen in den Vereinigten Staaten zu gehören.
"Die heutigen Maßnahmen stellen eine Premiere bei der Zerschlagung einer von Russland gesponserten, durch generative KI unterstützten Social-Media-Bot-Farm dar", sagte FBI-Direktor Christopher Wray am Dienstag.
"Russland beabsichtigte, diese Bot-Farm zu nutzen, um KI-generierte ausländische Desinformationen zu verbreiten und ihre Arbeit mit Hilfe von KI zu skalieren, um unsere Partner in der Ukraine zu untergraben und geopolitische Narrative zu beeinflussen, die für die russische Regierung günstig sind."
Das FBI und die Cyber National Mission Force (CNMF) veröffentlichten eine gemeinsame Mitteilung [PDF] mit weiteren technischen Details zur Meliorator-Software, die die Bot-Farm in Zusammenarbeit mit dem Canadian Centre for Cyber Security (CCCS), dem niederländischen Allgemeinen Nachrichten- und Sicherheitsdienst (AIVD), dem niederländischen Militärischen Nachrichten- und Sicherheitsdienst (MIVD) und der niederländischen Polizei antreibt.
