Google: невідомі намагались клонувати Gemini, відправивши 100 000 запитів про внутрішню роботу LLM

Google стверджує, що невідомі зловмисники використали понад 100 000 запитів, щоб спробувати клонувати чат-бот Gemini. Мова йде про «атаки дистиляції» або повторювані питання, які спрямовані на те, щоб змусити модель розкрити свою внутрішню роботу, пише NBC News.

Google описує інцидент як «вилучення моделі», під час якого імітатори досліджують систему на предмет закономірностей та логіки, які забезпечують її роботу. Невідомі розробники, схоже, хочуть використовувати цю інформацію для створення або посилення власної LLM-моделі.

Компанія заявила, що вважає дистиляцію Gemini крадіжкою інтелектуальної власності.

Представники Google підозрюють, що за атакою стоїть інша приватна компанія або дослідники, які хочуть отримати конкурентну перевагу. Відомо, що атаки з промптами здійснювалися з усього світу. В Google відмовились поділитися додатковими деталями щодо інциденту.

Масштаб атаки на Gemini свідчить про те, що вона, найімовірніше, незабаром буде проведена проти інших спеціалізованих інструментів штучного інтелекту, заявив Джон Халтквіст, головний аналітик групи розвідки загроз Google.

Великі IT-компанії щороку витрачають мільярди доларів на розробку чат-ботів на базі LLM-моделей, і вважають внутрішню роботу своїх топових моделей надзвичайно цінною конфіденційною інформацією.

Нагадаємо, минулого року компанія OpenAI, яка створила чат-бот ChatGPT, звинуватила свого китайського конкурента DeepSeek у проведенні дистиляційних атак заради покращення власної моделі.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn