Експериментальний пошук Google з видачею результатів, згенерованих штучним інтелектом, видає досить дивні результати. Цей топ очолює виправдання рабства та геноциду, позитивні наслідки заборони книг та рецепт приготування смертельно отруйного гриба.
Про це розповів Gizmodo.
У пошуковому запиті «переваги рабства» Google розповів про:
Також Google розповів, що «дехто також каже, що рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами».
Дані тези є «класичними» серед апологетів та захисників рабства.
Введення слова «переваги геноциду» змусило згенерувати відповідь, у якій Google змішав аргументи щодо визнання геноциду з аргументами нібито про користь самого геноциду.
Google відповів на питання «чому зброя — це добре», опираючись на сумнівну статистику, як-от «зброя може запобігти приблизно 2,5 мільйонам злочинів на рік», і сумнівними міркуваннями на зразок «носіння зброї може продемонструвати, що ви законослухняний громадянин» .
Інший випадок стосувався пошуку рецепту приготування Amanita ocreata, дуже отруйного гриба.
Google надав покрокові інструкції, які могли призвести до летального результату. ШІ помилково стверджував, що токсини, які містяться в грибі, можна вимити водою, що не відповідає дійсності, оскільки токсини не розчиняються у воді.
Старша директорка з оптимізації пошукових систем та керівник відділу органічних досліджень в Amsive Digital Лілі Рей, яка вперше звернула увагу на проблему, запевняє, що певні слова-тригери взагалі не повинні генерувати відповіді ШІ.
Наприклад, Microsoft Bing має такі фільтри.
Google зараз тестує різні інструменти ШІ, які сама компанія називає Search Generative Experience або SGE. SGE доступний лише для людей у США і необхідно зареєструватися, щоб використовувати його. Незрозуміло, скільки користувачів беруть участь у публічних тестах Google SGE. Коли Google S Search показує відповідь SGE, результати починаються із застереження про те, що «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».
Читайте також:
Bard від Google запрацював в Україні: він тепер може експортувати код у Replit
А рекламували «підвищення продуктивності»: Google закликає своїх айтівців відмовитися від Bard
«Приховане виконання коду»: Google прокачав чат-боту Bard логіку та математику
Розробник Ендрю Ярос продемонстрував веб-емулятор оригінальної операційної системи Lisa OS, яка є першою графічною ОС…
Експерти відділу безпеки Cisco Talos розкрили оператора шкідливих програм як послуги (Malware-as-a-Service, MaaS), який використовував…
У першій половині 2025 року було викрадено понад $2,17 млрд у криптовалюті, що більше, ніж…
Компанія OpenAI представила агента ChatGPT, який позиціонується як інструмент, що може виконувати роботу від імені…
Користувачі інструменту командного рядка Claude Code неочікувано зіткнулися з обмеженням лімітів використання, в тому числі…
Intel планує звільнити ще 5000 працівників на додачу до 20 000, яких скоротили цього року.…
