Маршрут ключа модели

NVIDIA: Llama 3.1 Nemotron 70B Instruct | лимиты и скорость

NVIDIA: Llama 3.1 Nemotron 70B Instruct: проверять RPM, TPM, параллельность, максимум вывода, задержку первого токена и риск 429/5xx.

Поставщик

NVIDIA

11 models in catalog

Контекст

131 072

глобальный маршрут

Цена ввода

1,2 $

USD / 1M tokens

Цена вывода

1,2 $

USD / 1M tokens

Сводка маршрута ключа

ID модели

nvidia/llama-3.1-nemotron-70b-instruct

Поставщик

NVIDIA

Измерение проверки

limit-probe

Только чтение. Данные удаляются через 5 минут.

Результат показывает только факты и не хранит полный ключ.

Сначала проверить идентичность и видимость

Сопоставить форму, Base URL, список models и лёгкий chat probe. Совместимость OpenAI не равна идентичности.

Результат показывает только факты и не хранит полный ключ.

Не заканчивать успехом/ошибкой. Дать действие: цена, метаданные, маршрут, баланс или не размещать.