Диагностика ошибки модели

TheDrummer: Rocinante 12B | диагностика model rate limited

Если TheDrummer: Rocinante 12B возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID thedrummer/rocinante-12b для ключа Thedrummer, затем разделите права, контекст, возможности, лимит или маршрут.

Модель

thedrummer/rocinante-12b

TheDrummer: Rocinante 12B

Поставщик

Thedrummer

4 models in catalog

Тип ошибки

диагностика model rate limited

rate-limited

Код статуса

429

глобальный маршрут модели

Сводка ошибки модели

Модель

thedrummer/rocinante-12b

Тип ошибки

rate-limited

Код статуса

429

Только чтение. Данные удаляются через 5 минут.

Что обычно означает эта ошибка модели

Если TheDrummer: Rocinante 12B возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID thedrummer/rocinante-12b для ключа Thedrummer, затем разделите права, контекст, возможности, лимит или маршрут.

Модель: thedrummer/rocinante-12b
Поставщик: Thedrummer
Код статуса: 429

Как доказать при проверке

Только чтение. Данные удаляются через 5 минут.

Список models: проверить, виден ли thedrummer/rocinante-12b, а не угадывать по названию.
Лёгкий probe: минимальным вводом проверить, возвращает ли Thedrummer тот же 429, записать тело ошибки.
Сравнить факты модели: контекст 32 768, ввод 0,170 $, вывод 0,430 $.
supports frequency_penalty
supports logit_bias
supports logprobs
supports max_tokens

Следующее действие

TheDrummer: Rocinante 12B диагностика model rate limited не должен заканчиваться failed. Действие: сменить ID, добавить права, сократить контекст, отключить возможность, сменить маршрут, мониторить или не размещать.

Контекст: 32 768
Цена: 0,170 $ / 0,430 $
Только чтение. Данные удаляются через 5 минут.

Открыть проверку

Только чтение. Данные удаляются через 5 минут.

Открыть модели

TheDrummer: Rocinante 12B

Открыть поставщиков

Thedrummer