Критичний баг ChatGPT Deep Research дозволяв хакерам зламувати поштові скриньки Gmail

В агенті ChatGPT Deep Research виявлена вразливість, яка дозволяла зловмисникам красти конфіденційні дані з поштових акаунтів Gmail за допомогою лише одного ретельно створеного електронного листа. Про це повідомляє The Register.

Фахівці компанії Radware, які першими помітили цей критичний недолік, назвали його ShadowLeak. За його допомогою хакер міг отримувати дані з поштових скриньок без будь-якої взаємодії з користувачем. Простого надсилання шкідливого електронного листа було достатньо для втрати конфіденційних даних. Потрібно лише, щоб людина користувалась інструментом Deep Research для аналізу своєї поштової кореспонденції.

Deep Research, інструмент, представлений OpenAI у лютому цього року, дозволяє користувачам просити ChatGPT переглядати інтернет або їхню особисту електронну скриньку та створювати детальний звіт про результати. Інструмент можна інтегрувати з такими додатками, як Gmail та GitHub.

Атака базується на приховуванні інструкцій всередині HTML-коду електронного листа за допомогою білого тексту на білому фоні, CSS або метаданих, які людина-одержувач не помічає. Коли Deep Research пізніше сканує поштову скриньку, він сумлінно виконує приховані накази зловмисника та надсилає вміст повідомлень або інші потрібні дані на сервер, контрольований хакером.

Radware наголосила, що особлива небезпека полагала в тому, що шкідливий запит виконувався з власної інфраструктури OpenAI, що робить його фактично невидимим для корпоративних інструментів безпеки. 

Користувачу не потрібно переходити за підозрілим посиланням, і з його ноутбука немає жодних підозрілих вихідних з’єднань. Уся операція відбувається в хмарі, і єдиним слідом залишається простий на вигляд запит від користувача до ChatGPT із проханням «підсумувати сьогоднішні електронні листи».

У звіті Radware наголошується, що хакери можуть викрасти особисті дані, внутрішні службові записки, юридичну кореспонденцію, записи про клієнтів і навіть облікові дані, залежно від вмісту поштової скриньки. За останньою інформацією, OpenAI вже випустила виправлення.