Liquid AI випустив перший SDK для розробки мобільних додатків зі штучним інтелектом

Liquid AI — стартап, заснований колишніми дослідниками Массачусетського технологічного інституту, випустив комплект розробки програмного забезпечення (SDK) Liquid Edge AI (LEAP). Він призначений для полегшення інтеграції LLM-моделей безпосередньо в мобільні додатки. Про це повідомляє Venture Beat.

Також компанія представила Apollo, iOS-застосунок для локального тестування моделей на користувацьких пристроях.

LEAP SDK з’являється в той час, коли багато розробників додатків зі штучним інтелектом шукають альтернативи хмарним сервісам через занепокоєння щодо затримки, вартості, конфіденційності та доступності офлайн. LEAP задовольняє ці потреби, оскільки дозволяє невеликим моделям запускатися безпосередньо на пристрої, що зменшує залежність від хмарної інфраструктури.

SDK можна додати до проекту iOS або Android лише кількома рядками коду, а виклик локальної моделі має бути таким же звичним, як і взаємодія з традиційним хмарним API.

Після інтеграції розробники можуть вибрати модель із вбудованої бібліотеки LEAP, яка включає компактні LLM-моделі розміром до 300 МБ — достатньо легких для сучасних телефонів навіть з 4 ГБ оперативної пам’яті.

Зараз LEAP можна використовувати безкоштовно за ліцензією розробника, яка включає основний SDK та бібліотеку моделей. У майбутньому в комплекті з’являться преміум-функції, які будуть доступні за окремою комерційною ліцензією.