«Намеренно назвали его ChatGPT»: Сэм Альтман глубоко обеспокоен дружбой людей и ИИ

CEO OpenAI Сэм Альтман сильно обеспокоен дружбой между людьми и искусственным интеллектом.

Об этом он рассказал во время события Tech Live в Лагуна-Бич, сообщает Insider.

Различать ИИ и людей

«Лично я действительно испытываю глубокие опасения по поводу этого видения будущего, где все очень ближе к “друзьям с искусственным интеллектом”, а не к своим друзьям-людям», — заявил Сэм Альтман.

Альтман уточнил, что хотя он и не хочет такого будущего, этого могут хотеть другие. Он также сказал, что важно различать взаимодействие с ИИ и людьми.

«Мы намеренно назвали его ChatGPT, а не именем человека», — сказал Альтман.

Он добавил, что OpenAI дает понять пользователям, что они не разговаривают с человеком.

Небезосновательные суждения

Комментарии Альтмана появились на фоне роста числа компаний, выпускающих чат-ботов с «человеческой личностью» и дружелюбием как ключевой характеристикой. 

Среди них “дружественный” чат-бот Claude от Anthropic AI, чат-боты Character.AI с созданными пользователями личностями и ИИ-помощники Meta, прототипами которых являются реальные личности.

Интересно, что Сэм Альтман не одинок в своей обеспокоенности дружбой людей и чат-ботов.

«Наш помощник с искусственным интеллектом называется Meta AI. Он также нейтрален, имеет нейтральный тон и нейтральную личность», — сказал директор из продуктов Meta Крис Кокс.

Согласно отчету, опубликованному аналитическим центром Public Citizen, люди склонны антропоморфизировать объекты, в том числе и ИИ. В отчете указано, что компании, разворачивающие чат-ботов, могут использовать доверие пользователей и манипулировать их эмоциями.

Напомним, недавно суд в Лондоне приговорил к девяти годам лишения свободы 21-летнего сикха Джасванта Сингха Чейла, который в декабре 2021 года пытался попасть в Виндзорский замок и убить королеву Елизавету II из арбалета.

Он общался с чат-ботом с искусственным интеллектом, который он считал своей девушкой и был убежден, что пытался убить покойную королеву после общения с этой программой.

Этот случай показывает большую проблему относительно того, как люди с психическими проблемами взаимодействуют с искусственным интеллектом, который к этому может быть и не готов.

Читайте также:

16-летняя девушка основала ИИ-стартап Delv.AI и уже подняла $450 тыс.

Meta запускает создание чат-ботов с ИИ для Instagram, Facebook и WhatsApp

В течение следующих пяти лет у каждого появится свой ИИ-помощник – соучредитель Google DeepMind