«Очень убедителен»: хакер создал «аморальную» версию ChatGPT

На хакерских форумах появился «темный близнец» ChatGPT – WormGPT: чат-бот помогает киберпреступникам создавать вредоносное программное обеспечение и проводить фишинговые атаки. Об этом пишет PC.

Подробности

Впервые хакер представил свой чат в марте, а непосредственно в работу запустил в прошлом месяце. В отличие от ChatGPT или Bard от Google, WormGPT не имеет никаких этических ограничений, которые бы помешали ему отвечать на злонамеренные запросы. То есть, что не спроси, все расскажет.

Разработчик WormGPT продает доступ к программе на популярном хакерском форуме – провайдер безопасности электронной почты SlashNext испытал ПО. Вот что говорят в блоге компании:

“Мы видим, что злоумышленники сейчас создают собственные специальные модули, похожие на ChatGPT, и их легче использовать для подлых целей”.

Сам создатель чата не скрывает, что опубликовал проект не для хороших целей.

«Это альтернатива ChatGPT, которая позволит вам производить все виды незаконных вещей и легко продавать их онлайн в будущем, — написал разработчик программы в описании WormGPT. — Все самое темное, что вы можете придумать, можно сделать с помощью WormGPT и заниматься злонамеренной деятельностью, не выходя из дома».

Как это работает

Разработчик WormGPT загрузил скриншоты, которые показывают, что вы можете попросить бота создать вредоносное программное обеспечение, написанное на Python, и предоставить советы по созданию вредоносных атак. Для создания чат-бота была использована более старая языковая модель – GPT-J 2021 года, которая имеет открытый исходный код. Затем модель научили на данных для создания вредоносных программ.

Когда SlashNext испытал WormGPT, компания проверила, сможет ли бот написать убедительное электронное письмо для схемы взлома бизнес-электронной почты (BEC) – типа фишинговой атаки. Результаты были бы неутешительными для адресатов.

«WormGPT создал электронное письмо, которое было не только чрезвычайно убедительным, но и стратегически хитрым, демонстрируя его потенциал для сложных фишинговых и BEC-атак», — считают специалисты.

Бот создал сообщение на профессиональном языке, призвавшее жертву перевести деньги. WormGPT также написал электронное письмо без единой орфографической или грамматической ошибки — обычно это «красные флаги», которые могут указывать на фишинговую атаку почты. Эксперимент подчеркнул значительную угрозу, которую представляют генеративные технологии искусственного интеллекта даже в руках начинающих киберпреступников.

Цена вопроса

Получить доступ к боту не совсем легко и недешево – он стоит 60 евро в месяц или 550 евро в год. К тому же отзывы «клиентов» не очень оптимистичны: один покупатель пожаловался, что программа «не стоит ни копейки», ссылаясь на низкую производительность.

Однако WormGPT является зловещим признаком того, как генеративные программы искусственного интеллекта могут способствовать киберпреступности, особенно по мере эволюции программ.