На ринку хакерських послуг активно продають тонко налаштовані LLM-моделі

Команда Cisco Talos Intelligence Group, яка є частиною компанії Cisco Systems, помітила зростання тонко налаштованих LLM-моделей, які пропонуються в оренду на ринку хакерських послуг. Зокрема, дослідники виявили, що доступ до GhostGPT, DarkGPT і FraudGPT продається в Telegram і даркнет всього за $75 на місяць. Ці інструменти використовуються для фішингу, розробки експлойтів, перевірки кредитних карток і обфускації коду, пише Venture Beat.

На відміну від базових моделей, які мають вбудовані функції безпеки, хакерські версії LLM попередньо налаштовані для наступальних операцій. 

«Всього за $60 зловмисники можуть отруїти базову модель штучного інтелекту — вразливість нульового дня не потрібна», — пишуть дослідники Cisco. 

Одне з найбільш вражаючих відкриттів, яке продемонстрували спеціалісти Cisco, полягає в тому, що LLM-моделлю можна маніпулювати для витоку конфіденційних навчальних даних, навіть не запускаючи огорожі (guardrails). Дослідники використали метод декомпозиції, щоб реконструювати понад 20% вибраних статей New York Times і Wall Street Journal, які є частиною навчальних даних базової моделі. Таким чином, висновком зі звіту Cisco є те, що статичні огорожі більше не заважають хакерам налаштовувати моделі для власних потреб.