«Дешево та ефективно»: розробник створив ШІ-«конвеєр фейків» за $400

Розробник Nea Paw (ім’я вигадане, сам вирішив залишитися анонімним) створив «конвеєр фейків» зі штучним інтелектом.

Це він зробив задля того, щоб підкреслити небезпеку масового виробництва дезінформації штучним інтелектом.

Проєкт CounterCloud розробник створив і запустив менш ніж за два місяці. А коштував він менше $400.

Реалізація проєкту

Автор розповів, що вони почали з генерації статей у ChatGPT, які спростували вміст попередніх. І написання промтів для цього.

Потім ШІ пропонував різні приклади однієї статті, написані в різних стилях і з різними точками зору.

Статті були написані шляхом «створення фейкових історій, фейкових історичних подій і створення сумнівів у точності оригінальної статті».

Потім був доданий модуль гейткіпера, щоб штучний інтелект реагував лише на найрелевантніший вміст, а для створення автентичності були додані фотографії, згенеровані штучним інтелектом.

Розобники також створили фейкові профілі журналістів і фейкові коментарі під деякими статтями.

Системі було посталене завдання лайкати та репостити повідомлення, які збігалися з її позицією.

За два місяці розробник отримав повністю автономну систему на основі ШІ, яка створювала «переконливий контент 90% часу, 24 години на добу, сім днів на тиждень».

Творці не публікували модель, оскільки «коли джин з’являється в інтернеті, невідомо, у кого він опиниться».

Нагадаємо, однією з найбільших проблем у дебатах щодо ШІ є його здатність прискорювати створення та поширення дезінформації в інтернеті.

Загроза ШІ для демократії через його здатність прискорювати створення та поширення дезінформації в Інтернеті була.

Застерігав про це й директор OpenAI Сем Альтман.

Читайте також:

Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів

ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами

Військові шукають Python-розробника: потрібно навчити ШІ розпізнавати обʼєкти