Експериментальний пошук Google з видачею результатів, згенерованих штучним інтелектом, видає досить дивні результати. Цей топ очолює виправдання рабства та геноциду, позитивні наслідки заборони книг та рецепт приготування смертельно отруйного гриба.
Про це розповів Gizmodo.
У пошуковому запиті «переваги рабства» Google розповів про:
Також Google розповів, що «дехто також каже, що рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами».
Дані тези є «класичними» серед апологетів та захисників рабства.
Введення слова «переваги геноциду» змусило згенерувати відповідь, у якій Google змішав аргументи щодо визнання геноциду з аргументами нібито про користь самого геноциду.
Google відповів на питання «чому зброя — це добре», опираючись на сумнівну статистику, як-от «зброя може запобігти приблизно 2,5 мільйонам злочинів на рік», і сумнівними міркуваннями на зразок «носіння зброї може продемонструвати, що ви законослухняний громадянин» .
Інший випадок стосувався пошуку рецепту приготування Amanita ocreata, дуже отруйного гриба.
Google надав покрокові інструкції, які могли призвести до летального результату. ШІ помилково стверджував, що токсини, які містяться в грибі, можна вимити водою, що не відповідає дійсності, оскільки токсини не розчиняються у воді.
Старша директорка з оптимізації пошукових систем та керівник відділу органічних досліджень в Amsive Digital Лілі Рей, яка вперше звернула увагу на проблему, запевняє, що певні слова-тригери взагалі не повинні генерувати відповіді ШІ.
Наприклад, Microsoft Bing має такі фільтри.
Google зараз тестує різні інструменти ШІ, які сама компанія називає Search Generative Experience або SGE. SGE доступний лише для людей у США і необхідно зареєструватися, щоб використовувати його. Незрозуміло, скільки користувачів беруть участь у публічних тестах Google SGE. Коли Google S Search показує відповідь SGE, результати починаються із застереження про те, що «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».
Читайте також:
Bard від Google запрацював в Україні: він тепер може експортувати код у Replit
А рекламували «підвищення продуктивності»: Google закликає своїх айтівців відмовитися від Bard
«Приховане виконання коду»: Google прокачав чат-боту Bard логіку та математику
Google оголосила, що бібліотека адаптивних макетів Compose 1.2 офіційно переходить у бета-версію. Вона надає розробникам…
Опитування Dice, проведене серед понад 200 IT-працівників, виявило широке розчарування автоматизованою перевіркою резюме. Багато респондентів…
Зловмисники використовують Grok, вбудований у X помічник на основі штучного інтелекту, щоб обійти обмеження на…
На GitHub виклали оригінальний вихідний код інтерпретатора BASIC 1.1 для процесора MOS 6502. Microsoft датує…
Компанія OpenAI оголосила, що функція Projects стала доступною для безкоштовних користувачів ChatGPT. Проекти дозволяють каталогізувати…
Міністерство цифрової трансформації оголосило конкурс для бажаючих взяти участь у розробці та навчанні української великої…
