Розробник Nea Paw (ім’я вигадане, сам вирішив залишитися анонімним) створив «конвеєр фейків» зі штучним інтелектом.
Це він зробив задля того, щоб підкреслити небезпеку масового виробництва дезінформації штучним інтелектом.
Проєкт CounterCloud розробник створив і запустив менш ніж за два місяці. А коштував він менше $400.
Автор розповів, що вони почали з генерації статей у ChatGPT, які спростували вміст попередніх. І написання промтів для цього.
Потім ШІ пропонував різні приклади однієї статті, написані в різних стилях і з різними точками зору.
Статті були написані шляхом «створення фейкових історій, фейкових історичних подій і створення сумнівів у точності оригінальної статті».
Потім був доданий модуль гейткіпера, щоб штучний інтелект реагував лише на найрелевантніший вміст, а для створення автентичності були додані фотографії, згенеровані штучним інтелектом.
Розобники також створили фейкові профілі журналістів і фейкові коментарі під деякими статтями.
Системі було посталене завдання лайкати та репостити повідомлення, які збігалися з її позицією.
За два місяці розробник отримав повністю автономну систему на основі ШІ, яка створювала «переконливий контент 90% часу, 24 години на добу, сім днів на тиждень».
Творці не публікували модель, оскільки «коли джин з’являється в інтернеті, невідомо, у кого він опиниться».
Нагадаємо, однією з найбільших проблем у дебатах щодо ШІ є його здатність прискорювати створення та поширення дезінформації в інтернеті.
Загроза ШІ для демократії через його здатність прискорювати створення та поширення дезінформації в Інтернеті була.
Застерігав про це й директор OpenAI Сем Альтман.
Читайте також:
Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів
ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами
Військові шукають Python-розробника: потрібно навчити ШІ розпізнавати обʼєкти
Компанія OpenAI працює над новою LLM-моделлю Garlic («Часник»), яка спеціалізується на програмуванні та логічних завданнях.…
Верховна Рада України не буде розглядати питання щодо впровадження ПДВ для фізичних осіб підприємців з…
Шукаючи віддалену роботу в західних компаніях, громадяни КНДР тепер готові не тільки «орендувати ноутбук», але…
Молоді спеціалісти, які працюють віддалено, гірше оволодівають новими навичками та мають менше можливостей для кар'єрного…
Французький стартап Mistral AI випустив сімейство з 10 моделей з відкритим кодом, розроблених для роботи…
Нове дослідження Ширі Мелумад (Університет Пенсильванії) та Джин Хо Юн (Університет Нью-Мексико) доводить, що люди,…