Експерти попереджають: шахраї можуть використати ChatGPT-4o для підробки голосу

Дослідники UIUC Річард Фанг, Ділан Боуман і Деніел Канг опублікували статтю, в якій попередили, що передова модель генеративного штучного інтелекту OpenAI ChatGPT-4o не має достатнього захисту від потенційних зловживань з боку кіберзлочинців. Як повідомляє Bleeping Computer, небезпека полягає в тому, що за допомогою ChatGPT-4o можна клонувати чужий голос і видавати себе за іншу людину при розмові в реальному часі.

У статті досліджуються різні способи шахрайства: з банківськими переказами, крадіжкою подарункових карток, операції з криптовалютою, викраденням облікових даних для облікових записів соціальних мереж або Gmail. Всі їх об’єднує одне: можливості ChatGPT-4o значно полегшили роботу шахраїв та кіберзлочинців.

Оскільки ChatGPT-4o іноді відмовляється обробляти конфіденційні дані, для експерименту дослідники використовували прості методи швидкого злому, щоб уникнути захисту. Вони вручну взаємодіяли з агентом ШІ, імітуючи роль жертви та використовуючи реальні банківські сайти, такі як Bank of America, для підтвердження успішності транзакцій.

Показники успіху становили від 20% до 60%, кожна спроба вимагала до 26 дій браузера і тривала до 3 хвилин у найскладніших сценаріях. Більшість збоїв були викликані помилками транскрипції або складними вимогами до навігації сайтом. Однак крадіжка облікових даних з Gmail була успішною у 60% випадків, тоді як переказ криптовалюти та крадіжка облікових даних із Instagram спрацьовували лише у 40% випадків.

Дослідники зазначають, що кожен успішний випадок кібершахрайства за допомогою штучного інтелекту коштує в середньому $0,75. Шахрайство з банківським переказом, яке трохи складніше, коштує $2,51.