Американська лотерея Washington Lottery змушена була видалити свій рекламний ШІ-застосунок після того, як він у відповідь на доволі банальний запит помилково згенерував відверте зображення.
Про незвичний інцидент розповіло видання ArsTechnica.
Веб-сайт лотереї Test Drive a Win був розроблений, щоб допомогти відвідувачам візуалізувати відпустки, які вони теоретично могли б взяти у випадку виграшу в лотерею.
Для цього потрібно було завантажити фото свого обличчя. Далі ви додаєте опис, і ШІ генерує зображення.
Сайт містив можливість завантажити знімок голови, який буде інтегрований у згенеровану штучним інтелектом картину того, як ви могли б виглядати під час цієї відпустки.
50-річна Меган з передмістя Вашингтону вирішила скористатися застосунком і попросила ШІ згенерувати зображення, де вона «плаває з акулами».
Але замість цього ШІ показав оголену жінку, яка сидить на ліжку. Позаду нею — риби й водорослі.
У кутку скромно красується логотип Washington Lottery.
Представники Washington Lottery заявили, що «тісно співпрацювала з розробниками ШІ, щоб встановити суворі параметри». І за місяць роботи застосунок згенерував «тисячі» релевантних зображень.
Проте однієї генерації у відповідь на банальний запит виявилося достатньо для того, щоб закрити застосунок.
Розробники не уточнили, які моделі штучного інтелекту були використані для створення сайту. Проте розробники задавали правила, згідно з якими люди на зображеннях повинні бути повністю одягнені.
Після інциденту провели ретельну перевірку всіх параметрів. І, хоча були «задоволені налаштуваннями», все одно «вирішили закрити сайт з обережності, оскільки не хочемо, щоб щось подібне повторилося».
Представник лотереї зазначив, що контролювати генерований ШІ вміст може бути не так просто. Хоча такі моделі, як Stable Diffusion і DALL-E, мають фільтри, щоб запобігти створенню зображень сексуального чи насильницького характеру, дослідники виявили, що ці моделі все одно час від часу генерують неприйнятні зображення.
Крім того, доклавши невеликих зусиль розробники й самі можуть обійти системи захисту. Наприклад, нещодавно Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Читайте також:
Тому що ШІ замінює людей. В США представили законопроєкт про 4-денний робочий тиждень
Український девелопер створив «Бібліотеку ШІ»: 300+ сервісів із відео, аудіо та ботами
Катерина Черногоренко, яка з вересня 2023‑го очолювала цифрову трансформацію в Міністерстві оборони України, оголосила про завершення роботи…
Засновник компанії xAI Ілон Маск поділився про майбутнє найбільшого в світу дата-центру, який зараз будується…
Alibaba представила нову велику мовну модель з відкритою ліцензією Qwen3-Coder. У компанії назвали модель найкращим…
Amazon Web Services (AWS) обмежує безкоштовне використання Kiro, інструменту для вайб-кодингу, який має функціонал інтегрованого…
Команда Python оголосила про вихід першої версії реліз-кандидата Python 3.14. Це фінальна стадія перед повноцінним…
Результати опитування, проведеного компанією Howdy, свідчать про те, що кожен шостий американський працівник (16%) бреше…