Розробник Nea Paw (ім’я вигадане, сам вирішив залишитися анонімним) створив «конвеєр фейків» зі штучним інтелектом.
Це він зробив задля того, щоб підкреслити небезпеку масового виробництва дезінформації штучним інтелектом.
Проєкт CounterCloud розробник створив і запустив менш ніж за два місяці. А коштував він менше $400.
Автор розповів, що вони почали з генерації статей у ChatGPT, які спростували вміст попередніх. І написання промтів для цього.
Потім ШІ пропонував різні приклади однієї статті, написані в різних стилях і з різними точками зору.
Статті були написані шляхом «створення фейкових історій, фейкових історичних подій і створення сумнівів у точності оригінальної статті».
Потім був доданий модуль гейткіпера, щоб штучний інтелект реагував лише на найрелевантніший вміст, а для створення автентичності були додані фотографії, згенеровані штучним інтелектом.
Розобники також створили фейкові профілі журналістів і фейкові коментарі під деякими статтями.
Системі було посталене завдання лайкати та репостити повідомлення, які збігалися з її позицією.
За два місяці розробник отримав повністю автономну систему на основі ШІ, яка створювала «переконливий контент 90% часу, 24 години на добу, сім днів на тиждень».
Творці не публікували модель, оскільки «коли джин з’являється в інтернеті, невідомо, у кого він опиниться».
Нагадаємо, однією з найбільших проблем у дебатах щодо ШІ є його здатність прискорювати створення та поширення дезінформації в інтернеті.
Загроза ШІ для демократії через його здатність прискорювати створення та поширення дезінформації в Інтернеті була.
Застерігав про це й директор OpenAI Сем Альтман.
Читайте також:
Дешеві та ефективні: дослідники занепокоєні темпами росту ШІ спам-ботів
ШІ-пошук Google розповідає про «переваги рабства і геноциду» та пропонує страви з отруйними грибами
Військові шукають Python-розробника: потрібно навчити ШІ розпізнавати обʼєкти
Міністерство цифрової трансформації оголосило конкурс для бажаючих взяти участь у розробці та навчанні української великої…
Наступного місяця OpenAI запровадить батьківський контроль у ChatGPT. Також компанія співпрацюватиме з Експертною радою з…
Компанія JetBrains оголосила, що середовище розробки RubyMine, яке використовується багатьма програмістами в екосистемах Ruby та…
Аналіз роботи нової моделі Grok Code Fast 1 від компанії xAI виявив, що вона має…
Платформа для веб-публікацій WordPress представила ранню версію нового інструменту розробки на основі штучного інтелекту під…
Нещодавнє опитування Stack Overflow 2025 виявило цікаві тенденції в розробці ПЗ, на які в своєму…