Код, згенерований інструментами ШІ, створює вдесятеро більше проблем безпеки

Спеціалісти компанії Apiiro, які проаналізували код з десятків тисяч репозиторіїв, виявили, що розробники за допомогою інструментів штучного інтелекту створюють у 3-4 рази більше коду, ніж їхні колеги, які не користуються допомогою ШІ. Але цей код створює вдесятеро більше проблем безпеки. Про це пише The Register.

«Проблеми безпеки» не означають лише ті вразливості, які можуть використати хакери; скоріше вони охоплюють широкий набір ризиків для програм, включаючи додаткові залежності від відкритого коду, небезпечні шаблони коду, розкриті секрети та неправильні конфігурації хмари.

Станом на червень 2025 року код, згенерований штучним інтелектом, щомісяця вносив в набір даних Apiiro понад 10 000 нових випадків проблем, що становить 10-кратне збільшення порівняно з груднем 2024 року.

«Штучний інтелект множить не один вид вразливостей, а всі одночасно», — написав представник Apiiro Ітай Нуссбаум у своєму блозі.

«Послання для CEO і рад директорів одне й те саме: якщо ви зобов’язуєте своїх працівників використовувати штучний інтелект для кодування, ви повинні паралельно працювати над безпекою додатків на основі штучного інтелекту. В іншому випадку ви масштабуєте ризики такими ж темпами, як і продуктивність».

З іншого боку, інструменти кодування на основі штучного інтелекту мають очевидні переваги. Вони зменшили кількість синтаксичних помилок на 76% і логічних помилок на 60%, але при цьому збільшення варіантів підвищення привілеїв становить 322%, збільшення недоліків архітектурного проектування зросло на 153%.