Как искать причины быстрого расхода бюджета агентами
На вопрос о том, почему у AI-агента быстро улетают бюджеты, в чате посоветовали смотреть не только на саму задачу, но и на скрытую механику вызовов…
Всё полезное из чата @devsigners — инструменты, ссылки, приёмы и ответы на вопросы. Пополняется сама.
Обновлено сегодня в 05:00 · всё из чата обработано
3 записи Сбросить
На вопрос о том, почему у AI-агента быстро улетают бюджеты, в чате посоветовали смотреть не только на саму задачу, но и на скрытую механику вызовов…
В обсуждении сошлись на практическом принципе: не отправлять все задачи в самые тяжёлые модели, а подбирать модель под размер и сложность задачи…
В обсуждении индикатора заполнения контекстного окна посоветовали компактить или ограничивать окно до 200K через настройки…