Devstral — нова LLM-модель з відкритим кодом, створена спеціально для розробки ПЗ
Французький стартап Mistral випустив Devstral — нову LLM-модель з відкритим кодом, яка створена спеціально для розробки програмного забезпечення.
Devstral має 24 мільярдів параметрів, що робить її доступною для локального розгортання на ПК з одним графічним процесором Nvidia RTX 4090 або Mac із 32 ГБ оперативної пам’яті. Це може зацікавити тих розробників, яким важлива конфіденційність, або тих, хто працює без доступу до інтернету.
Модель підтримує контекстне вікно на 128 000 токенів та використовує токенізатор Tekken зі словником на 131 000 слів для роботи з великими кодовими базами. На відміну від більшості інших мовних моделей, які орієнтовані на автодоповнення коду, Devstral оптимізована для агентних робочих процесів. Вона інтегрується з фреймворками, такими як OpenHands, SWE-Agent та OpenDevin, що дозволяє їй аналізувати великі кодові бази, редагувати кілька файлів і виконувати багатоетапні завдання.
За даними Mistral, її модель перевершує інші аналогічні LLM з відкритим кодом, такі як Gemma 3 27B від Google і V3 від китайської DeepSeek. Згідно бенчмарку SWE-Bench Verified, Devstral набрала 46,8% на 500 реальних задачах з GitHub. Вона також випереджає на більш ніж 20% деякі закриті моделі, такі як GPT-4.1-mini.
«На даний момент це, безумовно, найкраща відкрита модель для SWE-Bench Verified і для кодових агентів», — запевняють в Mistral.
Devstral доступна для завантаження на Hugging Face, Ollama, Kaggle, LM Studio та Unsloth. Модель підтримує фреймворки, включно з vLLM, Transformers та Mistral Inference. Також модель доступна через API Mistral Le Platforme під назвою `devstral-small-2505` з ціною $0,10 за мільйон вхідних токенів та $0,30 за мільйон вихідних токенів (приблизно 750 000 слів).
Нагадаємо, що днями стало відомо, що компанія Apple планує зробити свої LLM-моделі доступними для розробників.
Журналістка в якості експерименту провела два дні в офісі IT-компанії Notion, де спробувала себе у…
Найбільший єдиноріг з українським корінням, Grammarly, незабаром змінить назву і перетвориться із сервісу перевірки граматики…
48% українських IT-фахівців (у 2024 — 51%) готуються емігрувати або думають про це без наявності…
Компанія Microsoft почала тестувати нову функцію Windows 11, яка дозволяє переносити сеанс роботи з Android-програмою…
Ілон Маск заявив, що його компанія xAI відкрила код LLM-моделі Grok 2.5. Завантажити її можна…
Генеральний директор криптовалютної біржі Coinbase Браян Армстронг розповів, що нещодавно звільнив програмістів, які ще не…