モデル能力プローブ

NVIDIA: Llama 3.1 Nemotron 70B Instruct | streaming output 対応

NVIDIA: Llama 3.1 Nemotron 70B Instruct が streaming output 対応をサポートするかは名前だけでは判断できません。model ID nvidia/llama-3.1-nemotron-70b-instruct、提供元 NVIDIA、パラメータ、モダリティ、軽量 runtime probe、error body を一緒に見ます。

モデル

nvidia/llama-3.1-nemotron-70b-instruct

NVIDIA: Llama 3.1 Nemotron 70B Instruct

提供元

NVIDIA

11 models in catalog

能力

streaming output 対応

streaming-output

カタログ信号

runtime probe が必要

コンテキスト: 131,072

能力プローブ要約

モデル

nvidia/llama-3.1-nemotron-70b-instruct

能力

streaming-output

カタログ信号

runtime probe が必要

読み取り専用。検出データは5分で破棄。

この能力の判断方法

NVIDIA: Llama 3.1 Nemotron 70B Instruct が streaming output 対応をサポートするかは名前だけでは判断できません。model ID nvidia/llama-3.1-nemotron-70b-instruct、提供元 NVIDIA、パラメータ、モダリティ、軽量 runtime probe、error body を一緒に見ます。

モデル: nvidia/llama-3.1-nemotron-70b-instruct
提供元: NVIDIA
能力: streaming output 対応

検証時にどう証明するか

読み取り専用。検出データは5分で破棄。

まずカタログ信号: runtime probe が必要、次に実 Key で読み取り専用検証。
能力 probe は model ID nvidia/llama-3.1-nemotron-70b-instruct に固定し、同じ提供元の別モデルで代用しません。
streaming output 対応 · supports frequency_penalty · supports max_tokens · supports min_p · supports presence_penalty

次のアクション

NVIDIA: Llama 3.1 Nemotron 70B Instruct の streaming output 対応は運用アクションに変換します: 販売タグ確認、能力表補完、ルート変更、代替モデル提案、一時非対応。

読み取り専用。検出データは5分で破棄。
カタログ信号: runtime probe が必要
コンテキスト: 131,072

Key 検証を開く

読み取り専用。検出データは5分で破棄。

モデル一覧を開く

NVIDIA: Llama 3.1 Nemotron 70B Instruct

提供元一覧を開く

NVIDIA