Сем Альтман пояснив, хто керуватиме суперінтелектом

Генеральний директор OpenAI Сем Альтман опублікував допис «Наші принципи», у якому виклав п’ять ключових орієнтирів для компанії. Головна його теза: контроль над штучним суперінтелектом або опиниться в руках кількох корпорацій, або буде розподілений у широкій спільноті користувачів. OpenAI декларує прагнення до другого сценарію.

Сем Альтман

Характерна деталь: Альтман не згадує як альтернативу конкурентний ринок із багатьма незалежними гравцями. Натомість він акцентує на доступності — тобто на тому, щоб кінцеві користувачі мали доступ до інструментів штучного інтелекту. Тобто, він вважає, що OpenAI збереже роль домінуючого провайдера послуг ШІ, водночас позиціонуючи себе як силу децентралізації.

• Перший принцип — демократизація — передбачає як широкий доступ до штучного інтелекту, так і участь суспільства у прийнятті ключових рішень, а не лише компаній-розробників ШІ. Втім, як це поєднується з мільйонними витратами OpenAI на політичне лобіювання — незрозуміло. Водночас цей принцип читається як завуальована критика Anthropic, чиї обмеження стали каменем спотикання у співпраці з Пентагоном.
• Другий принцип — розширення можливостей — гарантує користувачам широку автономію, однак із зобов’язанням уникати катастрофічних наслідків. У спірних ситуаціях компанія обіцяє діяти обережно, знімаючи обмеження лише за наявності достатніх підстав.
• Третій принцип — загальне процвітання — слугує обґрунтуванням для рішень OpenAI, які сам Альтман називає «дивними»: масових закупівель обладнання попри скромні доходи, вертикальної інтеграції та будівництва дата-центрів по всьому світу. Логіка проста: вартість ШІ-інфраструктури має суттєво знизитися. Крім того, Альтман натякає, що урядам варто розглянути нові економічні моделі для справедливого розподілу вигод від штучного інтелекту.
• Четвертий принцип — стійкість — вимагає системного підходу до ризиків. Захист від біологічних загроз має бути універсальним, а не прив’язаним до конкретного вірусу-патогена. У сфері кібербезпеки OpenAI планує швидко розгортати моделі для захисту відкритого програмного забезпечення та критичної інфраструктури. Альтман також визнає, що на певних етапах компанії, можливо, доведеться координувати роботу з урядами та міжнародними організаціями.
• П’ятий принцип — адаптивність — відкрито залишає за OpenAI право змінювати курс. Як приклад Альтман наводить дискусію навколо публікації ваг GPT-2: тодішні побоювання виявилися перебільшеними, але саме той епізод заклав основу для стратегії поступового розгортання.

Допис, імовірно, є і непрямою відповіддю на критику щодо угоди OpenAI з Пентагоном. Альтман завершує його закликом до відкритої дискусії, визнаючи, що компанія припускатиметься помилок — і виправлятиме їх.

Нагадаємо, кілька тижнів тому на будинок Сема Альтмана було скоєно подвійний напад.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn