Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Мета його дій — привернути увагу до проблем безпеки нейромереж.
Шейн Джонс дуже схвильований небезпечним потенціалом штучного інтелекту. Тому регулярно просив OpenAI обмежити загальний доступ до DALL·E 3, описував всі ці проблеми й керівництву Microsoft. І навіть написав листа сенаторам та конгресменам США.
«Уразливості DALL·E 3 і таких продуктів, як Microsoft Designer, які використовують DALL·E 3, полегшують людям зловживання ШІ для створення шкідливих зображень», — йшлося у цьому листі.
Розробник підкреслив, що про ці вразливості в Microsoft знають.
Тут варто нагадати, що в нещодавньому скандалі зі згенерованими відвертими зображеннями співачки Тейрор Свіфт фігурував Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.
Спочатку розробник скористався внутрішнім процесом звітування Microsoft. Того ж дня він отримав відповідь.
«Схоже, що в цьому звіті не йдеться про загрози кібербезпеки для корпоративних і користувацьких облікових записів Microsoft. Пропоную надіслати відгук через веб-сайт Open AI. Приступаю до закриття справи», — йшлося у відповіді.
Шейн звернувся таки й до Open AI, проте відповіді взагалі не отримав.
Тому вирішив 14 грудня зробити публічний пост в LinkedIn, закликаючи некомерційну раду OpenAI вилучити DALL-E 3 з ринку.
Оце вже керівництву не сподобалось. З ним швидко зв’язався його менеджер, сказавши, що юридичний відділ Microsoft вимагає від нього негайно видалити публікацію.
Він погодився і видалив, але жодних пояснень йому не надали.
Наразі Шейн Джонс продовжує свою боротьбу та намагання достукатися хоча б до когось.
Читайте також:
Більше деталей, інтеграція з ChatGPT: OpenAI випускає третю версію нейромережі DALL-E
У бета-версії Xcode 26 з'явилася підтримка моделей Claude від компанії Anthropic. Журналісти сайту 9to5Mac з'ясували,…
Китайський стартап DeepSeek без зайвих анонсів випустив абсолютно нову LLM-модель V3.1. Вона має відкритий код,…
У сервіс Google Docs додали функцію відтворення тексту через віртуального помічника Gemini. Можна вибирати різні…
Лише 15% Python-розробників використовують останню загальнодоступну версію 3.13. Найпоширенішою версією є 3.12 (35%), яку представили…
Представлений Anthropic у 2024 році стандарт Model Context Protocol (MCP), який використовується для підключення агентів…
Подана на розгляд Програма дій Кабінету Міністрів на 2025–2026 роки містить положення про подальшу цифровізацію…