Рубріки: Новини

Microsoft відкрили код BitNet b1.58. Це дозволить запускати великі мовні моделі на звичайних процесорах

Андрій Губін

Microsoft оприлюднила код BitNet b1.58 — однієї з найбільш значущих розробок 2024 року. Про це повідомили DOU.ua.

Нова технологія дозволяє запускати великі мовні моделі (до 100 мільярдів параметрів) на локальних пристроях, зокрема на одному CPU, зі швидкістю 5-7 токенів в секунду.

BitNet b1.58 пропонує швидкість у 1.37-6.17 разів вищу на ARM і x86 процесорах та знижує енергоспоживання на 55-70%. Модель використовує тернарне кодування параметрів, забезпечуючи високу ефективність та продуктивність.

Це означає, що тепер можливий запуск великих мовних моделей (до 100B параметрів) на локальних пристроях без дорогих обчислювальних ресурсів. Це робить ШІ доступнішим для стартапів та індивідуальних розробників.

Значне зниження енергоспоживання та збільшення швидкості обробки також відкриває нові можливості для використання ШІ в мобільних пристроях і вбудованих системах. Крім того, нова архітектура стимулює розробку оптимізованого апаратного забезпечення для 1-бітних LLM.

Останні статті

Більше 8 млрд грн податків. Стільки сплатили резиденти Дія.City в І кварталі 2025 року

Резиденти Дія.City сплатили до бюджету понад 8 млрд грн податків в І кварталі 2025 року.…

18.04.2025

Китайських офісних працівників закликають менше працювати. Це має допомогти місцевій економіці

У Китаї закликають офісних працівників не працювати надто багато — держава сподівається, що вільний час…

18.04.2025

ChatGPT значно покращив пошук місць по фото. Це посилює проблеми конфіденційності

Експерти звертають увагу на тривожну тенденцію: люди все частіше використовують ChatGPT, щоб визначити місцезнаходження, зображене…

18.04.2025

Середовище розробки IntelliJ IDEA оновлено до версії 2025.1

Компанія JetBrains випустила нову версію мультимовного середовища розробки IntelliJ IDEA 2025.1. Оновлена IDE отримала численні…

18.04.2025

Discord впроваджує функцію сканування обличчя для перевірки віку користувачів

Платформа обміну миттєвими повідомленнями Discord впроваджує функцію перевірки віку за допомогою сканування обличчя. Зараз вона…

18.04.2025

Wikipedia випустила спеціальний датасет, щоб відволікти увагу ботів

Wikipedia намагається захистити себе від тисяч різноманітних ботів-скрейперів, які сканують дані цієї платформи для навчання…

18.04.2025