Библиотека детекторовОграничение частоты запросов

Ограничение частоты запросов

Ожидание провайдера.

Отличайте отказы из-за нехватки ресурсов от продуктивной работы агента.

Увидеть проблему. Понять находку.

Повествование на английском с субтитрами.

Как это остаётся незамеченным

Ваш агент не завершил работу, но и не думает по-настоящему. Запросы продолжают возвращаться с ошибкой нехватки ресурсов. Без чёткого сигнала throttling провайдера может выглядеть как медленная или неотзывчивая сессия.

Представьте два отказа провайдера во время выполнения задачи. Агент может тихо повторять попытки или прекратить делать полезный прогресс. Дополнительное ожидание не решит все проблемы с квотами или ресурсами, особенно когда несколько сессий используют одни и те же лимиты.

Что обнаруживает ClawMetry

ClawMetry ищет отказы из-за нехватки ресурсов в результатах инструментов и явных событиях ошибок API. Он распознаёт коды статуса HTTP 429 и HTTP 529, а также тексты об ограничении частоты и перегрузке. Повторные отказы вызывают предупреждение.

Различие, меняющее результат

Пример срабатывания

2 отказа из-за нехватки ресурсов

Предупреждение

Тихое сравнение

1 отказ из-за нехватки ресурсов

Для этого детектора нет находки.

В проверяемом примере два события ошибки HTTP 429 создают находку об ограничении частоты запросов. Один отказ остаётся ниже порога по умолчанию. Находка включает количество отказов, чтобы вы могли отличить повторяющуюся проблему от единственного временного ответа.

Изучить результат детектора
{
  "kind": "rate_limited",
  "severity": "warning",
  "evidence": {
    "refusals": 2,
    "threshold": 2,
    "threshold_source": "static",
    "observed": "HTTP 429/529 status or rate-limit text on tool results and API error events",
    "sample": ""
  }
}
Скачать входные данные и полные результаты (JSON)
Как проверялся пример

Эти примеры оценивают опубликованный детектор с авторскими данными событий или одноразовыми файлами конфигурации. Видео иллюстрируют это поведение. Они не являются записями живых агентов или интерфейса продукта. Ни одна команда в примерах не была выполнена.

Результат устанавливает поведение для этих входных данных. Он не устанавливает приём в реальном времени, предотвращение или реальную компрометацию. Изучить закреплённый исходный контракт.

Что проверить дальше

Проверьте статус провайдера и лимиты для используемого аккаунта или модели. При необходимости сократите параллельную работу или подождите сброса соответствующего лимита. Затем убедитесь, что запросы восстанавливаются, не предполагая, что агент возобновил работу.

  1. Проверьте статус провайдера
  2. Проверьте квоты и параллелизм
  3. Убедитесь, что запросы восстанавливаются

Что устанавливает этот сигнал

Это симптом нехватки ресурсов, а не диагностика первопричины. Не повышает квоты автоматически и не переключает провайдеров.

Держите важные моменты на виду.

Следите за активностью агента, изучайте находки и решайте, что требует вашего внимания.