Дорого та сердито: щоденну підтримку ChatGPT оцінюють в $700 тис.

Партнер видання

Робота ChatGPT може коштувати OpenAI приблизно $700 тис. на день. Причина — занадто дорогі сервери.

ChatGPT потребує величезної обчислювальної потужності, щоб відповідати на запити.

Про це повідомив Business Insider.

Як повідомив головний аналітик дослідницької фірми SemiAnalysis Ділаа Патель, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.

«Більшість цих витрат базується на дорогих серверах, які їм потрібні», — заявив він.

При цьому оцінка в $700 тис. вже може бути застарілою, оскільки розрахунки орієнтуються на мовну модель GPT-3. А вже є GPT-4, і вона ще дорожча в експлуатації.

Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати.

Аналітики вважають, що компанії, які використовують мовні моделі OpenAI, завжди багато платять за це.

Генеральний директор стартапу Latitude, що створює ігри зі штучним інтелектом Нік Волтон розповів, що . на ШІ та оплату за користування серверами Amazon Web Services він щомісяця витрачав приблизно $200 тис.

Спецпроєкти

Українські компанії можуть стати учасниками AI-комітету. Які його функції і хто туди потрапить

Бізнес та айтівців запрошують на конференцію про кібербезпеку. Як потрапити?

«Ми жартували, що у нас є люди, а також працівники штучного інтелекту, і ми витратили приблизно стільки ж на кожного з них», — розповів він CNBC.

Втім, через високу вартість вирішив змінити GPT на AI21 Labs. Це допомогло компанії скоротив витрати витрати на ШІ вдвічі.

Цікаво, що зовсім недавно стало відомо, що Microsoft розробляє власний чип для роботи з ChatGPT. Вірогідно, що саме для зменшення навантаження на сервери та оптимізації витрат.

Читайте також

Чат-бот Snapchat зі ШІ став повністю безкоштовним: додайте його в чат до друзів

Meta взялася за ШІ: випустила модель для розпізнавання об’єктів і планує створювати «розумну» рекламу

Ілон Маск підписав лист проти ШІ. А потім придбав 10 тис. процесорів і взявся за розробку ШІ для Twitter

Партнер видання

Favbet Tech – це ІТ-компанія зі 100% українською‌ ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.