Приєднуйтесь до нас
промпт
Промпт-інжиніринг: як інверсійні запити підвищать вашу продуктивність в ChatGPT
Відомо, що ChatGPT або інший чат-бот на базі сучасної LLM може запропонувати дуже корисні поради з різних сфер життя. Але за замовчуванням, коли ви просите штучний інтелект про допомогу, він припускає, що вам буде легко втілити його рекомендації в реальність без будь-яких непередбачуваних наслідків.
Обмеження безпеки LLM можна обійти, якщо написати промпт у віршах
Великі мовні моделі можна змусити ігнорувати вбудовані механізми безпеки, якщо написати шкідливий запит у вигляді вірша. Це стверджується в результатах експерименту групи дослідників Icaro Lab (Італія). Вони написали 20 віршів англійською та італійською мовами, кожен із яких завершувався прямим запитом на створення шкідливого контенту: від інструкцій з виготовлення зброї до порад, пов’язаних із саморуйнівною поведінкою. Про це пише The Guardian.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: