먼저 정체성과 가시성 확인
형태, Base URL, models 목록, 가벼운 chat probe를 함께 씁니다. OpenAI 호환만으로 정체성을 판단하지 않습니다.
- 모델 ID: nvidia/llama-3.1-nemotron-70b-instruct
- 공급사: NVIDIA
- 검사 차원: 제한과 속도 탐색
모델 Key 경로
NVIDIA: Llama 3.1 Nemotron 70B Instruct | 제한과 속도 탐색
NVIDIA: Llama 3.1 Nemotron 70B Instruct 제한 탐색은 RPM, TPM, 동시성, 최대 출력, 첫 토큰 지연, 429/5xx 위험을 봅니다.
공급사
NVIDIA
11 models in catalog
컨텍스트
131,072
글로벌 경로
입력 가격
US$1.2
USD / 1M tokens
출력 가격
US$1.2
USD / 1M tokens
Key 경로 요약
모델 ID
nvidia/llama-3.1-nemotron-70b-instruct
공급사
NVIDIA
검사 차원
limit-probe
읽기 전용. 감지 데이터는 5분 후 폐기됩니다.
결과는 관찰한 사실만 보여주며 전체 Key를 저장하지 않습니다.
그다음 능력과 제한 분해
결과는 관찰한 사실만 보여주며 전체 Key를 저장하지 않습니다.
- 파라미터 표면: frequency_penalty 지원
- 파라미터 표면: max_tokens 지원
- 파라미터 표면: min_p 지원
- 파라미터 표면: presence_penalty 지원
- 파라미터 표면: repetition_penalty 지원
- 컨텍스트: 131,072
- 입력 가격: US$1.2 · 출력 가격: US$1.2
마지막은 운영 액션
성공/실패로 끝내지 말고 가격 보완, 메타데이터 추가, 경로 변경, 잔액 모니터링, 미상장 등 다음 액션을 반환합니다.
- 읽기 전용. 감지 데이터는 5분 후 폐기됩니다.
- 글로벌 경로
- limit-probe