Розробник Nea Paw (ім’я вигадане, сам вирішив залишитися анонімним) створив «конвеєр фейків» зі штучним інтелектом.
Це він зробив задля того, щоб підкреслити небезпеку масового виробництва дезінформації штучним інтелектом.
Проєкт CounterCloud розробник створив і запустив менш ніж за два місяці. А коштував він менше $400.
Автор розповів, що вони почали з генерації статей у ChatGPT, які спростували вміст попередніх. І написання промтів для цього.
Потім ШІ пропонував різні приклади однієї статті, написані в різних стилях і з різними точками зору.
Статті були написані шляхом «створення фейкових історій, фейкових історичних подій і створення сумнівів у точності оригінальної статті».
Потім був доданий модуль гейткіпера, щоб штучний інтелект реагував лише на найрелевантніший вміст, а для створення автентичності були додані фотографії, згенеровані штучним інтелектом.
Розобники також створили фейкові профілі журналістів і фейкові коментарі під деякими статтями.
Системі було посталене завдання лайкати та репостити повідомлення, які збігалися з її позицією.
За два місяці розробник отримав повністю автономну систему на основі ШІ, яка створювала «переконливий контент 90% часу, 24 години на добу, сім днів на тиждень».
Творці не публікували модель, оскільки «коли джин з’являється в інтернеті, невідомо, у кого він опиниться».
Нагадаємо, однією з найбільших проблем у дебатах щодо ШІ є його здатність прискорювати створення та поширення дезінформації в інтернеті.
Загроза ШІ для демократії через його здатність прискорювати створення та поширення дезінформації в Інтернеті була.
Застерігав про це й директор OpenAI Сем Альтман.
Читайте також:
Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів
ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами
Військові шукають Python-розробника: потрібно навчити ШІ розпізнавати обʼєкти
Сервіс GitHub оголосив про значні зміни в тарифних планах Copilot для індивідуальних користувачів. Вони включають…
Стрімінговий сервіс Deezer оприлюднив приголомшливі дані за квітень 2026 року: майже половина всього нового музичного…
Міністерство оборони України опублікувало перелік вакансій для Defense AI Center «A1». Під цією назвою відкрито…
Незважаючи на офіційні обмеження та конфлікт між Anthropic та Міністерством оборони США, Агентство національної безпеки…
Світ розробки програмного забезпечення зіткнувся з несподіваним побічним ефектом прогресу. Інструменти на базі штучного інтелекту,…
Чутки про занепад ери мобільних додатків виявилися передчасними. Нові дані свідчать про те, що ринок…