Американська лотерея Washington Lottery змушена була видалити свій рекламний ШІ-застосунок після того, як він у відповідь на доволі банальний запит помилково згенерував відверте зображення.
Про незвичний інцидент розповіло видання ArsTechnica.
Веб-сайт лотереї Test Drive a Win був розроблений, щоб допомогти відвідувачам візуалізувати відпустки, які вони теоретично могли б взяти у випадку виграшу в лотерею.
Для цього потрібно було завантажити фото свого обличчя. Далі ви додаєте опис, і ШІ генерує зображення.
Сайт містив можливість завантажити знімок голови, який буде інтегрований у згенеровану штучним інтелектом картину того, як ви могли б виглядати під час цієї відпустки.
50-річна Меган з передмістя Вашингтону вирішила скористатися застосунком і попросила ШІ згенерувати зображення, де вона «плаває з акулами».
Але замість цього ШІ показав оголену жінку, яка сидить на ліжку. Позаду нею — риби й водорослі.
У кутку скромно красується логотип Washington Lottery.
Представники Washington Lottery заявили, що «тісно співпрацювала з розробниками ШІ, щоб встановити суворі параметри». І за місяць роботи застосунок згенерував «тисячі» релевантних зображень.
Проте однієї генерації у відповідь на банальний запит виявилося достатньо для того, щоб закрити застосунок.
Розробники не уточнили, які моделі штучного інтелекту були використані для створення сайту. Проте розробники задавали правила, згідно з якими люди на зображеннях повинні бути повністю одягнені.
Після інциденту провели ретельну перевірку всіх параметрів. І, хоча були «задоволені налаштуваннями», все одно «вирішили закрити сайт з обережності, оскільки не хочемо, щоб щось подібне повторилося».
Представник лотереї зазначив, що контролювати генерований ШІ вміст може бути не так просто. Хоча такі моделі, як Stable Diffusion і DALL-E, мають фільтри, щоб запобігти створенню зображень сексуального чи насильницького характеру, дослідники виявили, що ці моделі все одно час від часу генерують неприйнятні зображення.
Крім того, доклавши невеликих зусиль розробники й самі можуть обійти системи захисту. Наприклад, нещодавно Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Читайте також:
Тому що ШІ замінює людей. В США представили законопроєкт про 4-денний робочий тиждень
Український девелопер створив «Бібліотеку ШІ»: 300+ сервісів із відео, аудіо та ботами
Співробітників IT-компаній віком від 21 до 25 років за два з половиною роки поменшало вдвічі,…
Опитування, проведене серед 144 IT-спеціалістів, які зараз перебувають в Силах оборони України, виявило, що найбільше…
Google оновила на своєму сайті розділ Центр довідки, в якому детально описані обмеження Gemini для…
Керівник Головного управління розвідки Міністерства оборони Кирило Буданов запевнив, що новий російський месенджер MAX від…
Серед розробників програмного забезпечення, які використовують платформу GitHub, зріє невдоволення «примусовою» інтеграцією інструмента кодування Copilot.…
Міністерство оборони України розширило можливість сплати штрафів через мобільний додаток Резерв+. Тепер у ньому можна…