Anthropic випускає чат-бот Claude Gov для секретної та шпигунської роботи

Компанія Anthropic представила спеціалізовану модель штучного інтелекту Claude Gov, розроблену для клієнтів зі сфери національної безпеки. Цей інструмент призначено для виконання таких операцій, як стратегічне планування, аналіз розвідувальних даних та оперативна підтримка. Повідомляється, що нова модель вже обслуговує агентства національної безпеки США. Доступ до неї обмежений тими, хто працює в засекречених установах. Про це пише Ars Technica.

Claude Gov відрізняються від інших інструментів Anthropic, доступних широкому колу користувачів, тим, що вони не тільки обробляють секретні матеріали, але й «менше відмовляють» під час роботи з інформацією та налаштовані для обробки розвідувальних та оборонних документів. Модель також має те, що Anthropic називає «підвищеним рівнем володіння» мовами та діалектами, критично важливими для операцій національної безпеки.

Anthropic — не перша компанія, яка пропонує спеціалізовані послуги чат-ботів для розвідувальних служб. У 2024 році, після 18 місяців роботи, Microsoft запустила ізольовану версію GPT-4 від OpenAI для розвідувального співтовариства США. Ця система, яка працює в спеціальній урядовій мережі без доступу до інтернету, стала доступною для приблизно 10 000 осіб у розвідувальному співтоваристві для тестування та відповідей на запитання.

Серед фахівців використання LLM-моделей для аналізу розвідувальних даних викликає занепокоєння, оскільки моделі іноді генерують правдоподібну, але неточну інформацію. Нейромережі працюють на основі статистичних ймовірностей, а не функціонують як бази даних, тому вони можуть потенційно дезінформувати розвідувальні служби, якщо їх неправильно використовувати. Наприклад, моделі можуть створювати переконливі, але неправильні зведення або аналізи конфіденційних даних, створюючи ризики, коли точність є критично важливою для ухвалення рішень щодо національної безпеки.