Диагностика ошибки модели

Meta: Llama 3.1 70B Instruct | диагностика model rate limited

Если Meta: Llama 3.1 70B Instruct возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID meta-llama/llama-3.1-70b-instruct для ключа Meta, затем разделите права, контекст, возможности, лимит или маршрут.

Модель

meta-llama/llama-3.1-70b-instruct

Meta: Llama 3.1 70B Instruct

Поставщик

Что обычно означает эта ошибка модели

Если Meta: Llama 3.1 70B Instruct возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID meta-llama/llama-3.1-70b-instruct для ключа Meta, затем разделите права, контекст, возможности, лимит или маршрут.

Модель: meta-llama/llama-3.1-70b-instruct
Поставщик: Meta
Код статуса: 429

Как доказать при проверке

Только чтение. Данные удаляются через 5 минут.

Список models: проверить, виден ли meta-llama/llama-3.1-70b-instruct, а не угадывать по названию.
Лёгкий probe: минимальным вводом проверить, возвращает ли Meta тот же 429, записать тело ошибки.
Сравнить факты модели: контекст 131 072, ввод 0,400 $, вывод 0,400 $.
supports frequency_penalty
supports max_tokens
supports min_p
supports presence_penalty

Следующее действие

Meta: Llama 3.1 70B Instruct диагностика model rate limited не должен заканчиваться failed. Действие: сменить ID, добавить права, сократить контекст, отключить возможность, сменить маршрут, мониторить или не размещать.

Контекст: 131 072
Цена: 0,400 $ / 0,400 $
Только чтение. Данные удаляются через 5 минут.

Открыть проверку

Только чтение. Данные удаляются через 5 минут.

Открыть модели

Meta: Llama 3.1 70B Instruct

Открыть поставщиков