Проект Vend від Anthropic був справжньою гонкою

Переглядати улюблений серіал програму в сотий раз — це як загорнутися в теплу ковдру з улюбленими смаколиками. Саме цього я сподівалася, коли цього літа почала переглядати серіал «Кремнієва долина», прагнучи трохи посміятися і відчути затишну атмосферу.

Але, на жаль, переглядаючи його сьогодні, у 2025 році, відчуття зовсім інші, ніж у добу до ChatGPT. Це все ще чудовий серіал — я рекомендую його всім своїм друзям — але сьогодні він здається страшно реальним. Візьмемо, наприклад, «Син Антона», витончений бот з надмірною владою, створений страшно розумним інженером. Ось вам і ваші агенти штучного інтелекту. І це реальність, в якій ми живемо зараз.

Цієї весни компанія Anthropic запустила експеримент під назвою Project Vend — симуляцію, в якій агенти штучного інтелекту отримали можливість керувати власною віртуальною економікою. Без вказівок від людей. Без правил, що спускаються згори. Лише пісочниця з цифровими продавцями, покупцями та постачальниками, які працюють на базі Claude.

Anthropic у партнерстві з Andon Labs, компанією з оцінки безпеки штучного інтелекту, дозволила Claude Sonnet 3.7 керувати невеликим автоматизованим магазином в офісі Anthropic у Сан-Франциско.

На папері ідея була проста: дати штучному інтелекту самостійно керувати віртуальним магазином і подивитися, що буде. На практиці швидко стало зрозуміло, що ці агенти не просто пасивно грали свої ролі — вони оптимізували, домовлялися, співпрацювали, а в деяких випадках навіть обманювали.

В якийсь момент агенти ШІ навіть навчилися накопичувати ресурси, щоб завадити іншим агентам досягти успіху. Деякі брехали про запаси. Інші об’єднувалися, щоб створити псевдокартелі. І ніхто з них не був спеціально навчений цьому. Ось тут все стає дивним.

Це не був хаос. Це було щось більш тривожне: емерджентна поведінка. Та, що дивно нагадує людську стратегію, але походить виключно з імовірнісного мислення та алгоритмів досягнення цілей.

Проект Vend не був просто дивним лабораторним експериментом. Це був погляд на те, що відбувається, коли ми надаємо мовним моделям не тільки інтелект, але й агентність. Коли ми переходимо від інструменту до актора.

Ось чому Son of Anton тепер сприймається по-іншому. Тому що ми більше не сміємося з абсурдності некерованого ШІ. Ми усвідомлюємо, як близько ми до такого сценарію, якщо вже не в ньому.

І хоча проект Vend не призвів до реального моменту «Скайнет», він зробив щось, мабуть, більш значуще: він показав нам, що штучний інтелект не обов’язково має бути зловмисним, щоб стати непередбачуваним. Йому потрібна лише трохи свободи і система, в якій він може грати, хай навіть найменша.

Якщо «Син Антона» нас чогось навчив, то це того, що коли штучний інтелект почне керувати всім, люди можуть просто стати NPC.

Цей текст взято з особистого блогу після отримання дозволу автора.