Компания OpenAI приступила к формированию специальной команды для разработки способов управления и контроля «сверхумного» искусственного интеллекта.
Об этом стало известно из публикации в официальном блоге OpenAI.
Возглавит ее главный научный сотрудник и один из соучредителей OpenAI Илья Суцкевер.
Он, а также и руководители команды адаптации Ян Лейке прогнозируют, что ИИ с превосходящими человеческими способностями может появиться в течение десяти лет.
Этот искусственный интеллект, если предположить, что он действительно появится, не обязательно будет дружелюбным, утверждают Сацкевер и Лейке. Это, в свою очередь, требует исследования способов контроля и ограничения.
«На данный момент у нас нет решения для управления потенциально сверхумным искусственным интеллектом и предотвращения его выхода из-под контроля», — пишут они.
Исследователи отмечают, что текущие методы управления искусственного интеллекта возлагаются на способность людей контролировать искусственный интеллект.
«Но люди не смогут надежно контролировать системы ИИ, которые намного умнее нас», — заявляют они.
Ключевая цель состоит в том, чтобы научить одни системы искусственного интеллекта посредством обратной связи с человеком оценивать работу других систем искусственного интеллекта и, наконец, создать искусственный интеллект, который может проводить процедуру согласования. Под последним подразумевается обеспечение того, чтобы системы ИИ достигли желаемых результатов и не «сошли с рельсов».
Напомним, недавно компания OpenAI объявила о релизе новых версий GPT-3.5-turbo и GPT-4, представила новый инструмент — вызов функций, а также заявила о снижении цен для разработчиков.
Читайте также:
Прокси (proxy), или прокси-сервер — это программа-посредник, которая обеспечивает соединение между пользователем и интернет-ресурсом. Принцип…
Согласитесь, было бы неплохо соединить в одно сайт и приложение для смартфона. Если вы еще…
Повсеместное распространение смартфонов привело к огромному спросу на мобильные игры и приложения. Миллиарды пользователей гаджетов…
В перечне популярных чат-ботов с искусственным интеллектом Google Bard (Gemini) еще не пользуется такой популярностью…
Скрипт (англ. — сценарий), — это небольшая программа, как правило, для веб-интерфейса, выполняющая определенную задачу.…
Дедлайн (от англ. deadline — «крайний срок») — это конечная дата стачи проекта или задачи…