Хакери навчились використовувати Grok для поширення шкідливих посилань

Зловмисники використовують Grok, вбудований у X помічник на основі штучного інтелекту, щоб обійти обмеження на публікацію посилань на шкідливі ресурси, повідомляє Bleeping Computer.

Дослідник кібербезпеки Guardio Labs Наті Тал виявив, що хакери часто публікують відеорекламу або пости з контентом для дорослих без будь-яких прямих посилань, щоб уникнути блокування X. Натомість вони вставляють посилання на сайти в невеликому полі метаданих «Від:» під відео. Очевидно, ці адреси не скануються платформою.

Далі (ймовірно) автори посту з відео запитують Grok в коментарях щось на зразок «звідки це відео» або «яке посилання на це відео». Модель аналізує приховане поле «Від:» та відповідає повним шкідливим посиланням у клікабельному форматі, що дозволяє користувачам натиснути на нього та перейти безпосередньо на шкідливий сайт.

Оскільки Grok автоматично є довіреним системним обліковим записом на платформі X, його публікація підвищує довіру до посилання, охоплення, SEO та репутацію, збільшуючи ймовірність того, що воно буде трансльовано на велику кількість користувачів.

Дослідник називає техніку використання цієї лазівки «ґрокінгом» і зазначає, що вона дуже ефективна, оскільки в деяких випадках посилює шкідливу рекламу на мільйони показів. 

Потенційні рішення для протидії новому методу хакерів включають сканування всіх полів, блокування прихованих посилань та додавання санітарної обробки контексту до Grok, щоб віртуальний помічник не сліпо повторював посилання, а міг фільтрувати та перевіряти їх на наявність у списках блокування.

Тал вже зв’язався з X, щоб повідомити про проблему, і отримав неофіційне підтвердження того, що розробники Grok знають про неї.