Популярний ML-фреймворк PyTorch оновлено до версії 2.9

Відкритий фреймворк PyTorch, який розроблено в стінах Facebook, і на якому зараз навчають більшість сучасних LLM, отримав велике оновлення в рамках релізу 2.9. Про це повідомляє сайт PyTorch.

Головною новинкою стала поява стабільного ABI для libtorch. Це означає, що тепер розробники можуть створювати власні C++ та CUDA-розширення без побоювань технічних проблем після апдейту. Іншими словами, підвищується стабільність, оскільки тепер можна створювати розширення з однією версією Torch та запускати їх з іншою.

Ще однією інновацією є Symmetric Memory. Це технологія, що прискорює взаємодію між кількома відеокартами. Якщо раніше GPU доводилося передавати дані через центральну пам’ять, тепер вони можуть обмінюватися напряму. У реальних проектах це прискорює швидкість до 30-40%. Під час навчання великих LLM-моделей економія сягає сотень тисяч доларів.

З’явилась офіційна підтримка ROCm (AMD), XPU (Intel) та CUDA 13 (NVIDIA). Це означає, що розробляти нейромережі можна не лише на обладнанні Nvidia, але й також на графічних процесорах AMD та Intel. Для дослідників в Азії, де потужні чіпи Nvidia в дефіциті, це дає можливість працювати без проблем з імпортом.

За інформацією команди PyTorch, у новий реліз 2.9 внесено понад три тисячі змін від 452 контриб’юторів. Це робить оновлення одним з найбільших апдейтів в історії проекту.

Серед інших оновлень PyTorch 2.9: покращено інструменти компіляції, автотюнінг та підтримка mixed precision. Для розробників це означає, що моделі навчатимуться швидше та коштуватимуть дешевше.