Приєднуйтесь до нас
поезія
Новини -
Обмеження безпеки LLM можна обійти, якщо написати промпт у віршах
Великі мовні моделі можна змусити ігнорувати вбудовані механізми безпеки, якщо написати шкідливий запит у вигляді вірша. Це стверджується в результатах експерименту групи дослідників Icaro Lab (Італія). Вони написали 20 віршів англійською та італійською мовами, кожен із яких завершувався прямим запитом на створення шкідливого контенту: від інструкцій з виготовлення зброї до порад, пов’язаних із саморуйнівною поведінкою. Про це пише The Guardian.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: