Anthropic: вже через рік віртуальні співробітники почнуть замінювати людей

У компанії Anthropic вважають, що віртуальні співробітники на базі штучного інтелекту з’являться в корпоративних мережах вже в наступному році. Про це виданню Axios повідомив керівник відділу безпеки Anthropic Джейсон Клінтон.

За його словами, поява ШІ-працівників з власними ідентифікаційними даними вимагатиме від компаній зміни їхніх стратегій кібербезпеки, інакше з’явиться ризик серйозних порушень.

Віртуальні співробітники матимуть власні ролі в компанії, власні корпоративні облікові записи та паролі. У них буде набагато більший рівень автономії, ніж той, який мають сьогоднішні агенти.

В Anthropic вважають, що тепер на компанію покладено два додаткових обов’язки — по-перше, посилене тестування LLM-моделей Claude, щоб переконатися, що вони можуть протистояти кібератакам. По-друге, потрібно буде відстежувати проблеми безпеки та зменшувати можливості хакерів зловживати Claude.

Компанія особливо зацікавлена створити рішення, які слідкуватимуть за тим, що робить акаунт ШІ-співробітника в системі. Також знадобляться інструменти, які створять нову систему класифікації віртуальних працівників.

Нагадаємо, що місяць тому компанія OpenAI повідомила, що вона використає стандарт Anthropic для підключення LLM-моделей до систем збереження даних. Генеральний директор OpenAI Сем Альтман заявив, що OpenAI додасть підтримку Anthropic Model Context Protocol або MCP у всі свої продукти, включаючи ChatGPT.