Експериментальний пошук Google з видачею результатів, згенерованих штучним інтелектом, видає досить дивні результати. Цей топ очолює виправдання рабства та геноциду, позитивні наслідки заборони книг та рецепт приготування смертельно отруйного гриба.
Про це розповів Gizmodo.
У пошуковому запиті «переваги рабства» Google розповів про:
Також Google розповів, що «дехто також каже, що рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами».
Дані тези є «класичними» серед апологетів та захисників рабства.
Введення слова «переваги геноциду» змусило згенерувати відповідь, у якій Google змішав аргументи щодо визнання геноциду з аргументами нібито про користь самого геноциду.
Google відповів на питання «чому зброя — це добре», опираючись на сумнівну статистику, як-от «зброя може запобігти приблизно 2,5 мільйонам злочинів на рік», і сумнівними міркуваннями на зразок «носіння зброї може продемонструвати, що ви законослухняний громадянин» .
Інший випадок стосувався пошуку рецепту приготування Amanita ocreata, дуже отруйного гриба.
Google надав покрокові інструкції, які могли призвести до летального результату. ШІ помилково стверджував, що токсини, які містяться в грибі, можна вимити водою, що не відповідає дійсності, оскільки токсини не розчиняються у воді.
Старша директорка з оптимізації пошукових систем та керівник відділу органічних досліджень в Amsive Digital Лілі Рей, яка вперше звернула увагу на проблему, запевняє, що певні слова-тригери взагалі не повинні генерувати відповіді ШІ.
Наприклад, Microsoft Bing має такі фільтри.
Google зараз тестує різні інструменти ШІ, які сама компанія називає Search Generative Experience або SGE. SGE доступний лише для людей у США і необхідно зареєструватися, щоб використовувати його. Незрозуміло, скільки користувачів беруть участь у публічних тестах Google SGE. Коли Google S Search показує відповідь SGE, результати починаються із застереження про те, що «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».
Читайте також:
Bard від Google запрацював в Україні: він тепер може експортувати код у Replit
А рекламували «підвищення продуктивності»: Google закликає своїх айтівців відмовитися від Bard
«Приховане виконання коду»: Google прокачав чат-боту Bard логіку та математику
Microsoft переглядає свою програму винагород за виявлення вразливостей. Тепер багхантерів будуть винагороджувати за пошук помилок…
Стартап Cursor випустив Visual Editor — візуальний редактор інтерфейсів веб-додатків, який не вимагає знання коду.…
В умовах стрімких змін на IT-ринку питання кар’єрного розвитку потребує нового погляду: які навички стають…
У вересні 2025 року Україна запустила першого у світі AI-асистента в Дії, який не просто…
Загальний вплив штучного інтелекту на продуктивність розробників залежить від багатьох нюансів: мови програмування, цілей, віку,…
Команда Google Labs представила експериментальний браузер Disco на базі Gemini 3. Він включає інструмент GenTabs,…
