Диагностика ошибки модели

Meta: Llama 3 70B Instruct | диагностика model rate limited

Если Meta: Llama 3 70B Instruct возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID meta-llama/llama-3-70b-instruct для ключа Meta, затем разделите права, контекст, возможности, лимит или маршрут.

Модель

meta-llama/llama-3-70b-instruct

Meta: Llama 3 70B Instruct

Поставщик

Что обычно означает эта ошибка модели

Если Meta: Llama 3 70B Instruct возвращает 429 / диагностика model rate limited, сначала проверьте, виден ли model ID meta-llama/llama-3-70b-instruct для ключа Meta, затем разделите права, контекст, возможности, лимит или маршрут.

Модель: meta-llama/llama-3-70b-instruct
Поставщик: Meta
Код статуса: 429

Как доказать при проверке

Только чтение. Данные удаляются через 5 минут.

Список models: проверить, виден ли meta-llama/llama-3-70b-instruct, а не угадывать по названию.
Лёгкий probe: минимальным вводом проверить, возвращает ли Meta тот же 429, записать тело ошибки.
Сравнить факты модели: контекст 8 192, ввод 0,510 $, вывод 0,740 $.
supports frequency_penalty
supports max_tokens
supports presence_penalty
supports repetition_penalty

Следующее действие

Meta: Llama 3 70B Instruct диагностика model rate limited не должен заканчиваться failed. Действие: сменить ID, добавить права, сократить контекст, отключить возможность, сменить маршрут, мониторить или не размещать.

Контекст: 8 192
Цена: 0,510 $ / 0,740 $
Только чтение. Данные удаляются через 5 минут.

Открыть проверку

Только чтение. Данные удаляются через 5 минут.

Открыть модели

Meta: Llama 3 70B Instruct

Открыть поставщиков