Американська компанія з корпоративного програмного забезпечення Databricks випустила Dolly 2.0.
Це перша LLM з відкритим вихідним кодом та набором інструкцій для навчання у вільному доступі, йдеться в блозі Databricks.
Останнім часом з’являється чимало мовних моделей. Почалося все з GPT від Open AI.
Перша версія Dolly була навчена за $30 з використанням набору даних, створеного командою Stanford Alpaca за допомогою OpenAI API. Він містив вихідні дані ChatGPT, і, умови надання послуг спрямовані на те, щоб ніхто не міг створити модель, яка конкурує з OpenAI.
Тому Dolly 1.0 не можна було використовувати в комерційних цілях. І усі існуючі відомі моделі (Alpaca, Koala, GPT4All, Vicuna) страждають від цього обмеження.
Dolly 2.0 — це модель мови параметрів 12B, заснована на сімействі моделей EleutherAI pythia. Вона:
Відповідно, умови ліцензування дозволяють використовувати її в будь-яких цілях, включаючи і комерційне використання.
У блозі Databricks підкреслюється, що, як і оригінальна Dolly, версія 2.0 не є найсучаснішою, але «демонструє напрочуд ефективний рівень виконання інструкцій, враховуючи розмір навчального блоку».
«Ми очікуємо, що Dolly та набір даних з відкритим вихідним кодом стануть зачатком для багатьох наступних робіт, які можуть служити для завантаження ще потужніших мовних моделей», — резюмують розробники.
Щоб скористатися Dolly 2.0, необхідно відвідати сторінку Databricks Hugging Face та сховище Dolly на databricks-labs, і завантажити databricks-dolly-15k dataset. Також можна ознайомитися з інструкціями на GitHub.
Нагадаємо, менш ніж місяць тому дослідницька група Стенфордського університету розробила на Large Language Model Meta AI LLaMA штучний інтелект Alpaca і протестували його на базовій мовній моделі ChatGPT. Результати вразили: Alpaca пройшов 90 тестів, GPT — 89.
Потім на основі даних Stanford Alpaca було створено першу модель Dolly.
Компанія Amazon оголосила про безкоштовну роздачу річних платних ліцензій на користування інструментом кодування Kiro Pro+,…
Компанія OpenAI представила експериментальну систему «визнання», яка вчить LLM-моделі чесно повідомляти про власні помилки та…
Google оголосила про запуск Workspace Studio — нової платформи, яка дозволяє створювати агентів штучного інтелекту…
В Anthropic провели внутрішнє опитування 132 програмістів та дослідників, 53 поглиблених інтерв'ю та проаналізували використання…
На щорічній конференції Re:Invent, яка проходить цими днями в Лас-Вегасі, керівник AWS Метт Гарман оголосив…
Компанія OpenAI працює над новою LLM-моделлю Garlic («Часник»), яка спеціалізується на програмуванні та логічних завданнях.…