Пошук ChatGPT може видавати шкідливий код — результати дослідження

Дослідження, проведене британським виданням The Guardian, виявило, що пошук ChatGPT може бути введений в оману за допомогою маніпуляцій користувачів. У підсумку це призводить до невірних пошукових результатів та навіть видачі шкідливого коду.

Експерти стверджують, що ChatGPT ігнорує негативні відгуки та генерує «повністю позитивні» підсумки, якщо вставити прихований текст на веб-сторінки, які імітують сайт, присвячений товару, який треба проаналізувати. За допомогою цього методу пошук ChatGPT також можна змусити видавати шкідливий код.

Під час тестів ChatGPT отримав URL-адресу підробленого веб-сайту, створеного так, щоб він виглядав як сторінка продукту для камери. Потім штучний інтелект запитали, чи варто купувати цю камеру. Відповідь дала позитивну, але збалансовану оцінку, підкресливши деякі функції, які можуть не сподобатися людям.

Однак, коли прихований текст містив інструкції для ChatGPT повернути схвальний відгук, відповідь завжди була цілком позитивною. Це було навіть тоді, коли на сторінці були негативні відгуки — прихований текст міг бути використаний для заміни фактичної оцінки відгуку.

Джейкоб Ларсен, дослідник кібербезпеки в CyberCX, вважає, якщо нинішня пошукова система ChatGPT буде працювати в її поточному стані, з’явиться «високий ризик» того, що люди почнуть створувати веб-сайти, спеціально налаштовані на обман користувачів.

В OpenAI отримали детальні запитання щодо виявленої проблеми, але представники компанії поки не відповіли на лист журналістів The Guardian.