Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Мета його дій — привернути увагу до проблем безпеки нейромереж.
Шейн Джонс дуже схвильований небезпечним потенціалом штучного інтелекту. Тому регулярно просив OpenAI обмежити загальний доступ до DALL·E 3, описував всі ці проблеми й керівництву Microsoft. І навіть написав листа сенаторам та конгресменам США.
«Уразливості DALL·E 3 і таких продуктів, як Microsoft Designer, які використовують DALL·E 3, полегшують людям зловживання ШІ для створення шкідливих зображень», — йшлося у цьому листі.
Розробник підкреслив, що про ці вразливості в Microsoft знають.
Тут варто нагадати, що в нещодавньому скандалі зі згенерованими відвертими зображеннями співачки Тейрор Свіфт фігурував Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.
Спочатку розробник скористався внутрішнім процесом звітування Microsoft. Того ж дня він отримав відповідь.
«Схоже, що в цьому звіті не йдеться про загрози кібербезпеки для корпоративних і користувацьких облікових записів Microsoft. Пропоную надіслати відгук через веб-сайт Open AI. Приступаю до закриття справи», — йшлося у відповіді.
Шейн звернувся таки й до Open AI, проте відповіді взагалі не отримав.
Тому вирішив 14 грудня зробити публічний пост в LinkedIn, закликаючи некомерційну раду OpenAI вилучити DALL-E 3 з ринку.
Оце вже керівництву не сподобалось. З ним швидко зв’язався його менеджер, сказавши, що юридичний відділ Microsoft вимагає від нього негайно видалити публікацію.
Він погодився і видалив, але жодних пояснень йому не надали.
Наразі Шейн Джонс продовжує свою боротьбу та намагання достукатися хоча б до когось.
Читайте також:
Більше деталей, інтеграція з ChatGPT: OpenAI випускає третю версію нейромережі DALL-E
Microsoft опублікувала дорожню карту з наступними кроками, які компанія планує зробити для інтеграції агентних функцій…
Вітчизняна IT-галузь продемонструвала новий рекорд за кількістю відкритих вакансій. За даними сервісу пошуку роботи Djinni,…
Meta Superintelligence Labs (MSL) вимагає від своєї дослідницької команди Product and Applied Research (PAR), яку…
Розробники в багатьох країнах світу помічають новий тренд: зростає кількість замовлень на переробку та «очищення»…
Керівництво OpenAI не хоче, щоб ChatGPT залишався лише чат-ботом для взаємодії з LLM-моделлю. Дослідник штучного…
Google оголошує, що користувачі Gmail тепер можуть надсилати електронні листи з наскрізним шифруванням будь-кому, навіть…