Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів

Люди продовжують знаходити нові способи використання ChatGPT. Одним із останніх є наповнення соціальних мереж спам-ботами та контентом, створеним штучним інтелектом, що може ще більше погіршити якість інформації в інтернеті.

Про це розповів Insider з посиланням на дослідження, опубліковане минулого місяця дослідниками з Обсерваторії соціальних медіа Університету Індіани.

В ньому вчені як розбирають як зловмисники користуються перевагами чат-бота ChatGPT від OpenAI

Дослідження виявили, що здатність ChatGPT генерувати текст використовується для запуску ботнетів на Twitter.

Що таке ботнети і чим вони шкідливі?

Ботнети – це мережі сотень шкідливих ботів, які можуть не помітити фільтри захисту від спаму.

Ботнети намагаються переконати людей інвестувати у підроблені криптовалюти та навіть можуть викрасти з їхніх існуючих криптовалютних гаманців.

Мережа, яку дослідники знайшли на Twitter, містила понад 1000 активних ботів. Боти стежили за публікаціями один одного та відповідали на них. Часто публікували селфі, які були в профілях реальних користувачів.

Виявлені дослідниками ШІ-боти в мережі в основному публікували повідомлення про шахрайські криптовалютні кампанії та рекламували підозрілі веб-сайти на подібні теми, які самі, ймовірно, були написані за допомогою ChatGPT.

ШІ створює цілі вебсайти з дезінформацією

Окрім соціальних медіа, інструменти, подібні до ChatGPT, створили загальні новинні веб-сайти зі спамом, багато з яких публікують відверту неправду.

Приватна компанія NewsGuard, яка оцінює надійність новинних та інформаційних веб-сайтів, наразі знайшла понад 400 таких веб-сайтів, створених штучним інтелектом, у рамках своїх поточних перевірок з квітня.

Ці веб-сайти отримують дохід від реклами завдяки автоматизованим рекламним технологіям, які купують рекламний простір на веб-сайтах незалежно від їх якості чи характеру.

Поки що ми все ще можемо знаходити ШІ-спам

Експерти побоюються, що чат-боти зможуть краще імітувати людей і це значно ускладнить відстеження контенту, створеного ШІ.

Занепокоєння дослідників незабаром можуть стати реальністю. В політичних структурах ЄС прогнозують , що до 2026 року 90% інтернет-контенту буде створено ШІ.

Без регулювання, і з низькими витратами на створення контенту, зловмисники завжди будуть попереду.

«Це схоже на воду в пластикових пляшках. Ми знаємо, що це катастрофа для навколишнього середовища, але поки вона буде дешевою і без великих штрафів, вона буде широко поширена», — заявляють дослідники.

Читайте також:

«Повністю мене знищило»: модератори контенту не можуть оговтатися від роботи з ChatGPT

ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами

40% працівників змушені перекваліфікуватися в найближчі роки через ШІ — дослідження IBM