Проект Vend від Anthropic був справжньою гонкою

Переглядати улюблений серіал програму в сотий раз — це як загорнутися в теплу ковдру з улюбленими смаколиками. Саме цього я сподівалася, коли цього літа почала переглядати серіал «Кремнієва долина», прагнучи трохи посміятися і відчути затишну атмосферу.

Але, на жаль, переглядаючи його сьогодні, у 2025 році, відчуття зовсім інші, ніж у добу до ChatGPT. Це все ще чудовий серіал — я рекомендую його всім своїм друзям — але сьогодні він здається страшно реальним. Візьмемо, наприклад, «Син Антона», витончений бот з надмірною владою, створений страшно розумним інженером. Ось вам і ваші агенти штучного інтелекту. І це реальність, в якій ми живемо зараз.

Цієї весни компанія Anthropic запустила експеримент під назвою Project Vend — симуляцію, в якій агенти штучного інтелекту отримали можливість керувати власною віртуальною економікою. Без вказівок від людей. Без правил, що спускаються згори. Лише пісочниця з цифровими продавцями, покупцями та постачальниками, які працюють на базі Claude.

Anthropic у партнерстві з Andon Labs, компанією з оцінки безпеки штучного інтелекту, дозволила Claude Sonnet 3.7 керувати невеликим автоматизованим магазином в офісі Anthropic у Сан-Франциско.

На папері ідея була проста: дати штучному інтелекту самостійно керувати віртуальним магазином і подивитися, що буде. На практиці швидко стало зрозуміло, що ці агенти не просто пасивно грали свої ролі — вони оптимізували, домовлялися, співпрацювали, а в деяких випадках навіть обманювали.

В якийсь момент агенти ШІ навіть навчилися накопичувати ресурси, щоб завадити іншим агентам досягти успіху. Деякі брехали про запаси. Інші об’єднувалися, щоб створити псевдокартелі. І ніхто з них не був спеціально навчений цьому. Ось тут все стає дивним.

Це не був хаос. Це було щось більш тривожне: емерджентна поведінка. Та, що дивно нагадує людську стратегію, але походить виключно з імовірнісного мислення та алгоритмів досягнення цілей.

Проект Vend не був просто дивним лабораторним експериментом. Це був погляд на те, що відбувається, коли ми надаємо мовним моделям не тільки інтелект, але й агентність. Коли ми переходимо від інструменту до актора.

Ось чому Son of Anton тепер сприймається по-іншому. Тому що ми більше не сміємося з абсурдності некерованого ШІ. Ми усвідомлюємо, як близько ми до такого сценарію, якщо вже не в ньому.

І хоча проект Vend не призвів до реального моменту «Скайнет», він зробив щось, мабуть, більш значуще: він показав нам, що штучний інтелект не обов’язково має бути зловмисним, щоб стати непередбачуваним. Йому потрібна лише трохи свободи і система, в якій він може грати, хай навіть найменша.

Якщо «Син Антона» нас чогось навчив, то це того, що коли штучний інтелект почне керувати всім, люди можуть просто стати NPC.