Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Мета його дій — привернути увагу до проблем безпеки нейромереж.
Шейн Джонс дуже схвильований небезпечним потенціалом штучного інтелекту. Тому регулярно просив OpenAI обмежити загальний доступ до DALL·E 3, описував всі ці проблеми й керівництву Microsoft. І навіть написав листа сенаторам та конгресменам США.
«Уразливості DALL·E 3 і таких продуктів, як Microsoft Designer, які використовують DALL·E 3, полегшують людям зловживання ШІ для створення шкідливих зображень», — йшлося у цьому листі.
Розробник підкреслив, що про ці вразливості в Microsoft знають.
Тут варто нагадати, що в нещодавньому скандалі зі згенерованими відвертими зображеннями співачки Тейрор Свіфт фігурував Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.
Спочатку розробник скористався внутрішнім процесом звітування Microsoft. Того ж дня він отримав відповідь.
«Схоже, що в цьому звіті не йдеться про загрози кібербезпеки для корпоративних і користувацьких облікових записів Microsoft. Пропоную надіслати відгук через веб-сайт Open AI. Приступаю до закриття справи», — йшлося у відповіді.
Шейн звернувся таки й до Open AI, проте відповіді взагалі не отримав.
Тому вирішив 14 грудня зробити публічний пост в LinkedIn, закликаючи некомерційну раду OpenAI вилучити DALL-E 3 з ринку.
Оце вже керівництву не сподобалось. З ним швидко зв’язався його менеджер, сказавши, що юридичний відділ Microsoft вимагає від нього негайно видалити публікацію.
Він погодився і видалив, але жодних пояснень йому не надали.
Наразі Шейн Джонс продовжує свою боротьбу та намагання достукатися хоча б до когось.
Читайте також:
Більше деталей, інтеграція з ChatGPT: OpenAI випускає третю версію нейромережі DALL-E
Компанія Anthropic випустила Claude Code у версії 2.1.0, яка стала помітним оновленням цього популярного інструменту…
Нандіта Гірі, 32-річна програмістка з головного офісу Microsoft у Редмонді поділилась порадами, як розробникам слід…
Одна з найбільших світових аутсорс-компаній EPAM Systems оголосила про стратегічне партнерство з Cursor. Мета співпраці…
Google вносить масштабні зміни в Gmail, інтегруючи в поштовий сервіс можливості штучного інтелекту на базі…
Ілон Маск анонсував значне оновлення LLM-моделі Grok разом із новими продуктами, в тому числі інструментом…
Глава стартапу Replit, який відомий однойменним IDE, Амджад Масад заявив, що інструменти вайб-кодингу змінюють баланс…