Розробник пропонує перенести системи штучного інтелекту з Python на Java

Німецький Java-розробник Маркус Ейзеле опублікував великий пост, в якому обґрунтовує необхідність перенесення систем штучного інтелекту з Python на Java. За його словами, на мові програмування Java легше масштабувати продакшн, оскільки це перевірена часом і стабільна платформа.

Ейзеле не пропонує повністю відмовитись від Python у цій сфері. Він визнає, що цю мову можна й надалі використовувати для розробки інструментів штучного інтелекту.

«Справжня проблема не в Python. Проблема полягає в припущенні, що мова, яка використовується для експериментів, також повинна запускати критично важливі конвеєри виводу».

У своєму пості розробник також намагається розвінчати «міфи про Python».

«Загальноприйнята думка стверджує, що проблеми з продуктивністю Python не мають значення, оскільки такі бібліотеки, як NumPy, PyTorch та TensorFlow, є лише обгортками. Справжні обчислення відбуваються в оптимізованих ядрах C++ або CUDA. Це лише частково правда», — пише Ейзеле.

На його переконання, обгортка витрачає час і пам’ять. Кожен перехід між Python та нативним кодом додає накладних витрат. У дослідницькому проекті це не має значення. Але у високопродуктивному сервісі, який обробляє тисячі паралельних запитів, це стає головним вузьким місцем. 

«Java не страждає від цієї проблеми. Модель паралельного виконання JVM протягом двох десятиліть була загартована у фінансових, телекомунікаційних та інфраструктурних системах. Потоки дешеві. Планування ефективне. Пропускна здатність масштабується без штучних бар’єрів», — продовжує розробник.

В якості прикладу Ейзеле пропонує додати API зовнішніх функцій та пам’яті Project Panama. Це продемонструє збільшення розриву між Python і Java. 

«Java тепер може отримувати доступ до нативних бібліотек без історичних накладних витрат JNI. Результатом є керована мова, яка досягає нативної продуктивності, зберігаючи при цьому безпеку експлуатації. Для штучного інтелекту це не теоретична перевага. Це структурна перевага», — пише німець.

Розробник переконаний, що Python здається легким лише тоді, коли ви пишете першу версію. А коли ви підтримуєте критично важливу систему, тоді це «легко написати» часто стає «важко підтримувати».

Ейзеле стверджує, що Java краще оптимізує код для довгострокового використання. Безпека типів створює документацію, яку можна компілювати. Контракти стають видимими, а не передбачуваними. Інструменти можуть міркувати про код та забезпечувати дотримання інваріантів. Підтримка стає доступною навіть тоді, коли кодова база перевищує кілька сотень тисяч рядків, пише програміст.