Ліміти запитів до LLM змушують розробників підлаштовувати свій робочий графік

Минув той час, коли співробітники підлаштовували свій день під графік роботи колег або дедлайни. Тепер з’явився новий впливовий фактор — ліміт запитів до LLM. Професіонали, чия робота критично залежить від Claude Code, ChatGPT чи Gemini, почали структурувати свій день навколо моментів оновлення квот на використання моделей штучного інтелекту, пише Business Insider.

Нова «година пік» — це час скидання лімітів

Замість того, щоб починати ранок з кави, багато спеціалістів тепер починають його з «важких» завдань для ШІ. Оскільки більшість просунутих моделей мають обмеження (наприклад, 45 запитів на 5 годин у Claude), користувачі намагаються виконати найскладніші аналітичні завдання або написання коду саме тоді, коли лічильник обнуляється.

У результаті робочий день фрагментується на «вікна» по 5 годин. Коли ліміт вичерпано, настає перерва або час на другорядні завдання, поки доступ до моделі не відновиться.

Стратегічне заощадження «мізків»

Користувачі стають дедалі вибагливішими. Замість того, щоб «годувати» складну модель (як-от GPT-4 чи Claude 3.5) дрібними питаннями, вони:

• Використовують простіші та безлімітні моделі для перевірки орфографії чи базових запитів.
• Бережуть «преміальні» запити для архітектурних рішень, складного дебаггінгу чи глибокого рерайтингу.

Це нагадує економію заряду смартфона, коли попереду довгий день без павербанка або доступу до зарядки.

Психологічний тиск «останнього повідомлення»

Згідно з опитуваннями, користувачі відчувають справжню тривогу, коли отримують попередження: «У вас залишилося 5 повідомлень до 14:00». Це змушує людей довше редагувати свої промпти перед відправкою, щоб отримати результат з першої спроби, або об’єднувати кілька запитів в один гігантський текст (що іноді погіршує якість відповіді ШІ).

Попри розвиток технологій, обчислювальні потужності (GPU) все ще залишаються дорогими. Компанії-розробники змушені балансувати між прибутковістю та якістю сервісу, що призводить до «раціонування» штучного інтелекту навіть для користувачів платних підписок.

Нагадаємо, що передплатникам Claude Code тепер доведеться доплачувати за використання OpenClaw.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn