Експерти уряду США перевірятимуть всі оновлення нейромереж перед їхнім розгортанням

Компанії OpenAI і Anthropic погодилися дозволити Інституту безпеки штучного інтелекту США перевіряти оновлення своїх нейромереж перед оприлюдненням їх для громадськості. Як інформує ArsTechnica, це викликано зростанням занепокоєння щодо безпеки штучного інтелекту.

Завдяки угоді Інститут безпеки штучного інтелекту США «отримає доступ до основних нових моделей від кожної компанії до та після їх публічного випуску». Це гарантуватиме, що громадська безпека не залежатиме виключно від того, як компанії «оцінюють можливості та ризики для безпеки, а також методи пом’якшення цих ризиків».

Інститут безпеки штучного інтелекту було створено в жовтні 2023 року указом президента США Джо Байдена. 

«Ми раді, що досягли угоди з Інститутом безпеки штучного інтелекту США щодо попереднього тестування наших майбутніх моделей», — написав генеральний директор OpenAI Сем Альтман у дописі на X. 

29 серпня компанія OpenAI оприлюднила інформацію про подвоєння протягом року кількості активних користувачів до 200 мільйонів. Ця новина з’явилася через день після повідомлення про те, що OpenAI веде переговори про залучення фінансування з оцінкою капіталізації компанії в понад $100 мільярдів.