Пентагон хоче, щоб OpenAI та Anthropic зробили для військових спеціальні версії LLM «без обмежень»

Міністерство оборони США наполягає на тому, щоб провідні компанії з розробки штучного інтелекту, включно з OpenAI та Anthropic, виготовили для військових спеціальні версії LLM без стандартних обмежень. Про це пише Reuters.

Під час заходу в Білому домі головний технічний директор Пентагону Еміль Майкл повідомив керівникам IT-компаній, що військові хочуть мати доступ до сучасних LLM-моделей як у публічних, так і в секретних мережах.

Пентагон бажає використовувати передові технології штучного інтелекту на фоні трансформації військових дій, де вже починають домінувати автономні рої дронів, роботи та кібератаки. Однак прагнення Міністерства оборони США мати доступ до LLM «без обмежень» загострять і без того суперечливі дебати щодо здатності технологічних компаній встановлювати межі застосування їхніх інструментів генеративного штучного інтелекту.

IT-компанії вже багато років створюють спеціальні інструменти для американських військових, але більшість з них доступні лише в несекретних мережах, які зазвичай використовуються для військового управління. Секретні мережі використовуються для виконання широкого спектру більш конфіденційних завдань, які можуть включати планування військових місій або визначення цілей. 

Хоча інструменти на базі генеративного штучного інструменту мають високу продуктивність, вони теж можуть допускати помилки та навіть вигадувати інформацію, яка на перший погляд може здатися правдоподібною. В секретних умовах такі помилки можуть мати фатальні наслідки.

Що уникнути правових проблем, компанії-розробники вбудовують обмеження в свої LLM-моделі та вимагають від клієнтів дотримуватися певних правил. Але чиновників Пентагону вже не влаштовує існування таких заборон. 

Нещодавно OpenAI заключила угоду з Міністерством оборони США, щоб військові могли використовувати її інструменти, включаючи ChatGPT, у несекретній мережі під назвою genai.mil. Нею користуються понад 3 мільйони співробітників військового відомства. В рамках угоди OpenAI погодилася скасувати багато стандартних обмежень для користувачів, хоча деякі захисні бар’єри залишилися. Аналогічні угоди з військовими раніше уклали Google та xAI.

Що стосується компанії Anthropic, то у неї з Пентагоном більш суперечливі стосунки. Керівники Anthropic не так давно заявили військовим чиновникам, що вони не хочуть, щоб їхня технологія використовувалася для автономного наведення зброї та внутрішнього спостереження в США.

Нагадаємо, що минулого тижня російські військові дуже образились на Ілона Маска за відключення Starlink.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn