OpenAI: хакери використовують ChatGPT для створення шкідливих програм

Компанія OpenAI опублікувала звіт, в якому перераховано понад 20 випадків використання чат-боту ChatGPT для розробки зловмисного програмного забезпечення та проведення фішингових атак. Це перше офіційне підтвердження того, що генеративні інструменти на базі штучного інтелекту використовуються хакерами, пише Bleeping Computer.

Про перший випадок використання ChatGPT у злочинних діях у квітні повідомила компанія Proofpoint, спеціалісти якої запідозрили, що завантажувач шкідливого софту PowerShell написаний штучним інтелектом.

Минулого місяця дослідники HP Wolf з високою впевненістю заявили, що кіберзлочинці, націлені на французьких користувачів, використовували інструменти штучного інтелекту для написання сценаріїв багатоетапного ланцюга зараження.

Звіт OpenAI підтверджує факти зловживання ChatGPT. Експерти компанії виявили кілька випадків, коли китайські та іранські кіберзлочинці використовували чат-бот для підвищення ефективності своїх операцій.

Наприклад, облікові записи, пов’язані з іранськими хакерами, за допомогою ChatGPT робили обфускацію коду, створювали облікові дані в програмованих логічних контролерах (PLC), спеціальні сценарії bash і Python. Також хакери використовували ChatGPT для навчання вразливостям коду та методам викрадення паролів користувачів macOS.

Ще одна група кіберзлочинців використовувала ChatGPT для налагодження зловмисного програмного забезпечення, перекладу профілів LinkedIn на перську мову та розробки спеціального шкідливого програмного забезпечення для Android.

Зловмисний софт, створений за допомогою ChatGPT, може викрадати списки контактів, журнали викликів та особисті файли, робити скріншоти, вивчати історію веб-перегляду користувачів і отримувати їхню точну геолокацію.