Робота ChatGPT може коштувати OpenAI приблизно $700 тис. на день. Причина — занадто дорогі сервери.
ChatGPT потребує величезної обчислювальної потужності, щоб відповідати на запити.
Про це повідомив Business Insider.
Як повідомив головний аналітик дослідницької фірми SemiAnalysis Ділаа Патель, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.
«Більшість цих витрат базується на дорогих серверах, які їм потрібні», — заявив він.
При цьому оцінка в $700 тис. вже може бути застарілою, оскільки розрахунки орієнтуються на мовну модель GPT-3. А вже є GPT-4, і вона ще дорожча в експлуатації.
Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати.
Аналітики вважають, що компанії, які використовують мовні моделі OpenAI, завжди багато платять за це.
Генеральний директор стартапу Latitude, що створює ігри зі штучним інтелектом Нік Волтон розповів, що . на ШІ та оплату за користування серверами Amazon Web Services він щомісяця витрачав приблизно $200 тис.
«Ми жартували, що у нас є люди, а також працівники штучного інтелекту, і ми витратили приблизно стільки ж на кожного з них», — розповів він CNBC.
Втім, через високу вартість вирішив змінити GPT на AI21 Labs. Це допомогло компанії скоротив витрати витрати на ШІ вдвічі.
Цікаво, що зовсім недавно стало відомо, що Microsoft розробляє власний чип для роботи з ChatGPT. Вірогідно, що саме для зменшення навантаження на сервери та оптимізації витрат.
Читайте також
Чат-бот Snapchat зі ШІ став повністю безкоштовним: додайте його в чат до друзів
Соцмережа X розширює закрите бета-тестування плану оплати за доступ до API для більшої кількості розробників.…
Хмарна платформа розробки, тестування та розгортання Google AI Studio отримала оновлення інтерфейсу та функцій, які…
OpenAI офіційно представила новий браузер під назвою ChatGPT Atlas. Він вже доступний для платформи macOS,…
Компанія JetBrains анонсувала оновлення для Rider — свого кросплатформного IDE для розробників .NET та ігор…
Ілон Маск запропонував провести публічний конкурс з програмування між Grok 5 від xAI та колишнім…
Хоча JavaScript досі є найбільшою категорією в українському IT за кількістю кандидатів (13% від усього…