Сем Альтман сподівається, що штучний інтелект не знищить людство

Генеральний директор OpenAI Сем Альтман сподівається, що дослідники зрозуміють, як завадити штучному інтелекту знищити людство. Також він дав прогноз, що до появи «суперінтелекту» залишилась «кілька тисяч днів». Своїм баченням ситуації навколо появи штучного інтелекту нового покоління Альтман поділився на саміті New York Times Dealbook, пише Window Central.

На думку глави OpenAI, штучний інтелект буде достатньо розумним, щоб самому усвідомити ту велику загрозу, яку він становить для людства. На запитання щодо того, чи вірить він, що хтось знайде спосіб обійти екзистенційні загрози від надрозумних система штучного інтелекту, Сем Альтман відповів: «Я вірю, що дослідники знайдуть, як цього уникнути».

Більшість дослідників і керівників, знайомих з проблемою небезпеки штучного інтелекту, оцінюють ризик того, що «суперінтелект» захопить або знищить людство, у межах від 5% до 50%. Однак директор лабораторії кібербезпеки Університету Луїсвілля (США) Роман Ямпольський вважає реальність подібного сценацію на 99,99%. Ілон Маск «консервативно» зменшує цю ймовірність до 20%

Ямпольський також зазначив, що буде практично неможливо контролювати штучний інтелект, коли він досягне рівня «суперінтелекту». На його думку, єдиний спосіб вирішити цю проблему — не створювати штучний інтелект з подібним рівнем загрози.

Провідні технологічні компанії, включно з Microsoft, Google, Anthropic і OpenAI, інвестують значні кошти в розвиток ШІ, але відсутність правил і чіткої політики щодо його розвитку викликає серйозне занепокоєння. Деякі фахівці вважають, що важко буде встановити контроль над штучним інтелектом, коли він «відхилиться від огорожі та вийде за спіраль».