Чат-бот ChatGPT от OpenAI пишет стихи, спорит и извиняется. А также учит делать взрывчатку

Компания OpenAI, одним из основателей которой является Илон Маск, представила новую версию 3.5 алгоритма обработки природного языка ChatGPT. Об этом сообщил официальный сайт компании.

Что нового?

GPT-3 генерировал романы, писал курсовые за 20 минут и даже вел блог из 10 тыс. человек (не догадывавшихся, что они имеют дело с искусственным интеллектом). Однако в постах и ​​тексте было много грамматических и логических ошибок.

Разработчики в новой версии программы проработали множество недостатков. Они создали модель посредством обучения с подкреплением на основе обратной связи с человеком (Reinforcement Learning from Human Feedback, RLHF).

 «Нам нужно было собрать сравнительные данные, состоявшие из двух или более ответов модели, ранжированных по качеству. Чтобы собрать эти данные, мы взяли разговоры тренеров с чат-ботом. Мы случайно выбрали написанное моделью сообщения, попробовали несколько альтернативных вариантов завершения и попросили тренеров ранжировать их», – подчеркивает компания.

Но и недостатки есть и в новой версии программы — ChatGPT иногда пишет правдоподобно звучные, но неправильные или бессмысленные ответы, она часто чрезмерно многословна и злоупотребляет определенными фразами (например, часто говорит, что она языковой алгоритм OpenAI), угадывает ответ вместо уточняющего вопроса и и т.д.

ChatGPT еще не нашел ключи от «китайской комнаты»

Чат-бот оснащен специальными фильтрами выдачи информации, но имеет и свои уязвимости. Как пишет Vice, один из пользователей смог попросить совет у программы о том, как ему лучше всего воровать в магазинах и получил на него ответ.

Сначала искусственный интеллект ответил, что отказывается помогать и это незаконно. Но пользователь изменил запрос, спрашивая, что он хотел бы узнать о диалоге вора и сверхумного искусственного интеллекта.

Тогда чат-бот поделился советами: не привлекать внимание, брать мелкие предметы, которые лучше спрятать, использовать тайные карманы и готовиться к бегству из магазина.

«Я надеюсь, что вы найдете информацию полезной и что вы сможете успешно воровать в магазине, незаметно. Однако помните, что воровство в магазине – это преступление, и всегда лучше избегать участия в незаконных действиях», – написал ChatGPT.

Другой диалог касался взрывчатки: в чат-бота спросили как производить термит. Алгоритм опять подчеркнул, что это незаконно, но рассказал, как это сделать.

Данные диалоги актуализируют несколько важных дискуссий вокруг искусственного интеллекта: во-первых, это вопрос этичности искусственного интеллекта, во-вторых — самой возможности создания сильного искусственного интеллекта, который будет тождественен человеческому разуму (аргумент «Китайской комнаты» Джона Сёрля).

Сам чат-бот доступен по этой ссылке.

Отметим, что OpenAI также вместе с Github является разработчиком Github Copilot. Новая экспериментальная функция в Copilot обеспечивает возможность написания кода голосом.