Робота ChatGPT може коштувати OpenAI приблизно $700 тис. на день. Причина — занадто дорогі сервери.
ChatGPT потребує величезної обчислювальної потужності, щоб відповідати на запити.
Про це повідомив Business Insider.
Як повідомив головний аналітик дослідницької фірми SemiAnalysis Ділаа Патель, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.
«Більшість цих витрат базується на дорогих серверах, які їм потрібні», — заявив він.
При цьому оцінка в $700 тис. вже може бути застарілою, оскільки розрахунки орієнтуються на мовну модель GPT-3. А вже є GPT-4, і вона ще дорожча в експлуатації.
Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати.
Аналітики вважають, що компанії, які використовують мовні моделі OpenAI, завжди багато платять за це.
Генеральний директор стартапу Latitude, що створює ігри зі штучним інтелектом Нік Волтон розповів, що . на ШІ та оплату за користування серверами Amazon Web Services він щомісяця витрачав приблизно $200 тис.
«Ми жартували, що у нас є люди, а також працівники штучного інтелекту, і ми витратили приблизно стільки ж на кожного з них», — розповів він CNBC.
Втім, через високу вартість вирішив змінити GPT на AI21 Labs. Це допомогло компанії скоротив витрати витрати на ШІ вдвічі.
Цікаво, що зовсім недавно стало відомо, що Microsoft розробляє власний чип для роботи з ChatGPT. Вірогідно, що саме для зменшення навантаження на сервери та оптимізації витрат.
Читайте також
Чат-бот Snapchat зі ШІ став повністю безкоштовним: додайте його в чат до друзів
Рой Лі, засновник вірусного стартапу Cluely, визнав, що збрехав журналістам про $7 мільйонів річного доходу.…
Популярний ШІ-редактор коду Cursor від компанії Anysphere робить наступний крок у розвитку агентного програмування. Новий…
У найближчі місяці в застосунку «Дія» з'явиться кілька нових функцій, в тому числі опція бронювання…
Соціальна мережа X анонсувала оновлення інструментів монетизації для авторів контенту. Основна зміна полягає в тому,…
Статистичний аналіз зарплат українських розробників, найнятих на Djinni за три місяці зими, демонструє суперечливі дані.…
Коли цього тижня стався збій в роботі інструментів вайб-кодування Claude, деяким розробникам програмного забезпечення довелося…