OpenAI готовит спецкоманду для управления «сверхумным» и «не всегда дружелюбным» ИИ
Компания OpenAI приступила к формированию специальной команды для разработки способов управления и контроля «сверхумного» искусственного интеллекта.
Об этом стало известно из публикации в официальном блоге OpenAI.
Возглавит ее главный научный сотрудник и один из соучредителей OpenAI Илья Суцкевер.
Он, а также и руководители команды адаптации Ян Лейке прогнозируют, что ИИ с превосходящими человеческими способностями может появиться в течение десяти лет.
Этот искусственный интеллект, если предположить, что он действительно появится, не обязательно будет дружелюбным, утверждают Сацкевер и Лейке. Это, в свою очередь, требует исследования способов контроля и ограничения.
«На данный момент у нас нет решения для управления потенциально сверхумным искусственным интеллектом и предотвращения его выхода из-под контроля», — пишут они.
Исследователи отмечают, что текущие методы управления искусственного интеллекта возлагаются на способность людей контролировать искусственный интеллект.
«Но люди не смогут надежно контролировать системы ИИ, которые намного умнее нас», — заявляют они.
Ключевая цель состоит в том, чтобы научить одни системы искусственного интеллекта посредством обратной связи с человеком оценивать работу других систем искусственного интеллекта и, наконец, создать искусственный интеллект, который может проводить процедуру согласования. Под последним подразумевается обеспечение того, чтобы системы ИИ достигли желаемых результатов и не «сошли с рельсов».
Напомним, недавно компания OpenAI объявила о релизе новых версий GPT-3.5-turbo и GPT-4, представила новый инструмент — вызов функций, а также заявила о снижении цен для разработчиков.
Читайте также:
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: