Microsoft: «заради уникнення катастрофи» штучний інтелект повинні контролювати військові

Керівник команди Microsoft AI Мустафа Сулейман попереджає, що системам штучного інтелекту може знадобитися «військове втручання», щоб зупинити потенційну катастрофу. За його словами, аудит та регулювання штучного інтелекту важливі для того, щоб люди мали перевагу над технологією, пише Windows Central.

«Нам просто слід перестати панікувати. Необхідне регулювання. Це має відбуватися у потрібний час і у потрібний спосіб», — зазначив Сулейман.

Топ-менеджер Microsoft переконаний, що штучний інтелект незабаром зможе переписувати власний код, ставити власні цілі, діяти самостійно та збирати ресурси. Ці здібності можуть зробити його сильнішим за будь-який контроль з боку компанії чи уряду.

Мустафа Сулейман попередив, що одного разу штучний інтелект може стати настільки потужним, що для його зупинки може знадобитися втручання військового рівня.

«Якщо ШІ має здатність до рекурсивного самовдосконалення, тобто він може змінювати власний код. У поєднанні зі здатністю ставити власні цілі, зі здатністю діяти автономно, зі здатністю накопичувати власні ресурси… Це була б дуже потужна система, яка потребувала б втручання військового рівня, щоб зупинити її через 5-10 років», — заявив Сулейман.

Керівник Microsoft AI вважає, що важливо створювати штучний інтелект для людей, а не перетворювати технологію на цифрову людину. Тому він наполягає на важливості захисних механізмів для захисту людей.