Рубріки: Новини

OpenAI заявила про використання росією ШІ в масштабній кампанії дезінформації

Ігор Шелудченко

31.05.2024 13:27

Російська кампанія Doppelganger за допомогою штучного інтелекту від OpenAI створювала антиукраїнські коментарі в соціальній мережі X.

Про це йдеться в матеріалі The New York Times, який посилається на звіт OpenAI.

OpenAI виявила кампанії прихованого впливу, до яких долучилися державні структури та приватні компанії в Росії, Китаї, Ірані та Ізраїлі.

Зокрема, йдеться про п’ять онлайн-кампаній. Під час них ШІ генерував маніпулятивні коментарі з метою впливу на громадську думкою в усьому світі.

Doppelganger — операція впливу, спрямована на припинення підтримки України міжнародними партнерами. За оцінкою Meta, це наймасштабніша російська дезінформаційна кампанія з 2017 року.

Операції використовували технологію OpenAI для:

створення постів у соціальних мережах,
перекладу та редагування статей,
написання заголовків
налагодження комп’ютерних програм.

Дослідники соцмереж зазначили, що це перший випадок, коли велика ШІ-компанія повідомляє про використання своїх технологій в зловмисних цілях.

У своєму звіті OpenAI заявила, що її інструменти використовувалися в кампаніях впливу, які дослідники відстежували роками, зокрема й російську кампанію під назвою Doppelganger і китайську кампанію під назвою Spamouflage.

Кампанія Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів, які були розміщені на платформі X англійською, французькою, німецькою, італійською та польською мовами.

Інструменти OpenAI також використовувалися для перекладу та редагування статей, які підтримували росію у війні в Україні, а також для конвертації антиукраїнських матеріалів в пости на Facebook.

У рамках цієї роботи також використовувалися інструменти OpenAI для налагодження комп’ютерного коду, який, очевидно, був розроблений для автоматичної публікації інформації в телеграмі.

Тим не менш, в OpenAI підкреслюють, що хоча ШІ і може допомогти зробити кампанії більш ефективними, потоку переконливої дезінформації так і не було створено.

«Це свідчить про те, що деякі з наших найбільших побоювань щодо операцій впливу за допомогою ШІ та дезінформації за допомогою ШІ поки що не справдилися», — заявив директор з розвідки компанії Graphika (відстежує маніпуляції в соціальних мережах) Джек Стаббс.