Сначала проверить идентичность и видимость
Сопоставить форму, Base URL, список models и лёгкий chat probe. Совместимость OpenAI не равна идентичности.
- ID модели: meta-llama/llama-3.1-70b-instruct
- Поставщик: Meta
- Измерение проверки: лимиты и скорость
Маршрут ключа модели
Meta: Llama 3.1 70B Instruct | лимиты и скорость
Meta: Llama 3.1 70B Instruct: проверять RPM, TPM, параллельность, максимум вывода, задержку первого токена и риск 429/5xx.
Поставщик
Meta
14 models in catalog
Контекст
131 072
глобальный маршрут
Цена ввода
0,400 $
USD / 1M tokens
Цена вывода
0,400 $
USD / 1M tokens
Сводка маршрута ключа
ID модели
meta-llama/llama-3.1-70b-instruct
Поставщик
Meta
Измерение проверки
limit-probe
Только чтение. Данные удаляются через 5 минут.
Результат показывает только факты и не хранит полный ключ.
Затем разделить возможности и лимиты
Результат показывает только факты и не хранит полный ключ.
- Параметр: поддерживает frequency_penalty
- Параметр: поддерживает max_tokens
- Параметр: поддерживает min_p
- Параметр: поддерживает presence_penalty
- Параметр: поддерживает repetition_penalty
- Контекст: 131 072
- Цена ввода: 0,400 $ · Цена вывода: 0,400 $
Завершить операционным действием
Не заканчивать успехом/ошибкой. Дать действие: цена, метаданные, маршрут, баланс или не размещать.
- Только чтение. Данные удаляются через 5 минут.
- глобальный маршрут
- limit-probe