Як створити власний ChatGPT? Завдяки новому рішенню це можна зробити за кілька хвилин

Компанії SambaNova та Hugging Face представили нову інтеграцію, яка дозволяє розробникам розгортати інтерфейси, схожі на ChatGPT, одним натисканням кнопки. Це скорочує час розгортання з годин до кількох хвилин, запевняють у Venture Beat.

Розробники, які бажають спробувати нову послугу, можуть відвідати розділ API SambaNova Cloud та отримати токен для тестового доступу. Після цього достатньо ввести лише три рядки коду Python:

import gradio as gr
import sambanova_gradio
gr.load("Meta-Llama-3.1-70B-Instruct-8k", src=sambanova_gradio.registry, accept_token=True).launch()

Для завершення процедури розгортання чат-бота треба ​​натиснути на кнопку «Deploy to Hugging Face» і ввести токен SambaNova. За кілька секунд на платформі Spaces Hugging Face з’явиться повнофункціональний чат-бот на базі ШІ.

«Це дозволяє запустити програму менш ніж за хвилину в порівнянні з кодуванням і розгортанням традиційної програми за допомогою провайдера API. Це могло зайняти годину або більше залежно від проблем і того, наскільки добре ви знайомі з API та документацією…», — заявив Ахсен Халік, керівник відділу розробки у Gradio, партнера компанії Hugging Face.

Інтеграція підтримує як текстові, так і мультимодальні чат-боти, які здатні обробляти текст і зображення. Через хмарну платформу SambaNova розробники можуть отримати доступ до таких потужних моделей, як Llama 3.2-11B-Vision-Instruct, які мають високі показники продуктивності: швидкість обробки до 358 токенів на секунду на апаратному забезпеченні без обмежень. У подальшому новостворений чат-бот можна використовувати у власних додатках та сервісах.

Час випуску інтеграції збігається зі зростаючим попитом приватних компаній на рішення ШІ, які можна швидко розгортати та масштабувати. У той час як такі IT-гіганти, як OpenAI та Anthropic, домінують на ринку зі своїми орієнтованими на споживача чат-ботами, рішення SambaNova націлене безпосередньо на спільноту розробників.

Щоб заохотити впровадження персоналізованих чат-ботів, SambaNova та Hugging Face збираються провести у грудні хакатон, пропонуючи розробникам практичний досвід роботи з новою інтеграцією.