TestKey.ai logo
TestKey.ai
Verificación de claves y mercado de modelos
Ubicación actualEntrada principal
Ruta de key del modelo

NVIDIA: Llama 3.1 Nemotron 70B Instruct | límites y velocidad

NVIDIA: Llama 3.1 Nemotron 70B Instruct debe revisar RPM, TPM, concurrencia, salida máxima, latencia inicial y riesgo 429/5xx.

Proveedor
NVIDIA
11 models in catalog
Contexto
131.072
ruta global
Precio entrada
1,2 US$
USD / 1M tokens
Precio salida
1,2 US$
USD / 1M tokens
Resumen de ruta key
ID del modelo
nvidia/llama-3.1-nemotron-70b-instruct
Proveedor
NVIDIA
Dimensión de prueba
limit-probe
Solo lectura. Datos eliminados tras 5 minutos.
El resultado muestra hechos observados y nunca guarda la key completa.

Confirmar identidad y visibilidad

Cruzar forma, Base URL, lista models y probe chat ligero. OpenAI compatible no basta.

  • ID del modelo: nvidia/llama-3.1-nemotron-70b-instruct
  • Proveedor: NVIDIA
  • Dimensión de prueba: límites y velocidad

Luego separar capacidad y límites

El resultado muestra hechos observados y nunca guarda la key completa.

  • Superficie de parámetros: soporta frequency_penalty
  • Superficie de parámetros: soporta max_tokens
  • Superficie de parámetros: soporta min_p
  • Superficie de parámetros: soporta presence_penalty
  • Superficie de parámetros: soporta repetition_penalty
  • Contexto: 131.072
  • Precio entrada: 1,2 US$ · Precio salida: 1,2 US$

Terminar con acción operativa

No terminar en éxito/fallo. Dar acción: precio, metadatos, ruta, saldo o no publicar.

  • Solo lectura. Datos eliminados tras 5 minutos.
  • ruta global
  • limit-probe