Дорого и сердито: ежедневная поддержка ChatGPT оценивается в $700 тыс.

Работа ChatGPT может стоить OpenAI примерно $700 тыс. в день. Причина — слишком дорогие серверы.

ChatGPT требует огромной вычислительной мощности, чтобы отвечать на запросы.

Об этом сообщил Business Insider.

Как сообщил главный аналитик исследовательской фирмы SemiAnalysis Дилаа Патель, это объясняется дорогостоящей технологической инфраструктурой, использующейся искусственным интеллектом.

«Большинство этих расходов базируется на дорогих серверах, которые им нужны», — заявил он.

При этом оценка $700 тыс. уже может быть устаревшей, поскольку расчеты ориентируются на языковую модель GPT-3. А уже есть GPT-4, и она еще дороже в эксплуатации.

Хотя обучение больших языковых моделей ChatGPT, вероятно, стоит десятки миллионов долларов, операционные расходы на развертывание искусственного интеллекта могут намного их превосходить.

Аналитики считают, что компании, использующие языковые модели OpenAI, всегда платят за это много.

Генеральный директор стартапа Latitude, создающий игры с искусственным интеллектом Ник Уолтон рассказал, что на ИИ и оплату за пользование серверами Amazon Web Services он ежемесячно тратил около $200 тыс.

«Мы шутили, что у нас есть люди, а также работники искусственного интеллекта, и мы потратили примерно столько же на каждого из них», — рассказал он CNBC.

Впрочем, из-за высокой стоимости решил сменить GPT на AI21 Labs. Это помогло компании сократить расходы на ИИ вдвое.

Интересно, что совсем недавно стало известно, что Microsoft разрабатывает свой чип для работы с ChatGPT. Достоверно, что именно для уменьшения нагрузки на серверы и оптимизации затрат.

Читайте также

Чат-бот Snapchat с ИИ стал полностью бесплатным: добавьте его в чат к друзьям

Meta взялась за ИИ: выпустила модель для распознавания объектов и планирует создавать «умную» рекламу

Илон Маск подписал письмо против ИИ. А затем приобрел 10 тыс. процессоров и принялся за разработку ИИ для Twitter