OpenAI готує спецкоманду для управління «надрозумним» і «не завжди доброзичливим» ШІ

Партнер видання

Компанія OpenAI розпочала формування спеціальної команди для розробки способів управління та контролю «надрозумного» штучного інтелекту.

Про це стало відомо з публікації в офіційному блозі OpenAI.

Очолить її головний науковий співробітник і один із співзасновників OpenAI Ілля Суцкевер.

Він, а також і керівники команди адаптації Ян Лейке прогнозують, що ШІ зі здібностями, які перевершують людські, може з’явитися протягом десяти років.

Цей штучний інтелект, якщо припустити, що він справді з’явиться, не обов’язково буде доброзичливим, стверджують Сацкевер і Лейке. Це, свою чергу, вимагає дослідження способів його контролю та обмеження.

«На даний момент у нас немає рішення для управління потенційно надрозумним штучним інтелектом і запобігання його виходу з під контролю», — пишуть вони.

Дослідники зазначають, що поточні методи менеджменту штучного інтелекту покладаються на здатність людей контролювати штучний інтелект.

«Але люди не зможуть надійно контролювати системи ШІ, набагато розумніші за нас», — заявляють вони.

Ключова мета полягає в тому, щоб навчити одні системи штучного інтелекту за допомогою зворотного зв’язку з людиною оцінювати роботу інших систем штучного інтелекту та, зрештою, створити штучний інтелект, який може проводити процедуру узгодження. Під останньою мається на увазі забезпечення того, щоб системи ШІ досягли бажаних результатів та не «зійшли з рейок».

Спецпроєкти

Українські компанії можуть стати учасниками AI-комітету. Які його функції і хто туди потрапить

Бізнес та айтівців запрошують на конференцію про кібербезпеку. Як потрапити?

Нагадаємо, нещодавно компанія OpenAI оголосила про реліз нових версій GPT-3.5-turbo та GPT-4, представила новий інструмент — виклик функцій, а також заявила про зниження цін для розробників.

Читайте також:

«ШІ створює ризики вимирання, як і ядерна війна»: Сем Альтман з OpenAI та 350 науковців підписали нову заяву

«Привіт, я розробник OpenAI»: GitHub Copilot Chat злив студенту-самозванцю всі системні препромти

«GPT-4 може стати останнім великим досягненням»: CEO OpenAI заявив, що стратегія компанії приречена

Партнер видання

Favbet Tech – це ІТ-компанія зі 100% українською‌ ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.