NVIDIA: Nvidia Nemotron 70b

llama-3.1-nemotron-70b-instruct-hf

Nvidia Nemotron 70b 输入 $0.464/百万 token,输出 $0.530/百万 token,上下文 16K,通过兼容 OpenAI 的接口调用。

Nvidia's latest Llama fine-tune optimized for instruction following. Early results hints that it might outperform models such as GPT-4o and Claude 3.5 Sonnet.

模态

文本 → 文本

输入 / 输出价

$0.464 / $0.530 每 1M

上下文

16K · 最长输出 8K

能力

角色扮演开源权重

价格

按实际 token 计费,从余额中扣除。人民币按 1 美元 ≈ 7.2 元折算,仅供参考。

计费项美元 / 1M token人民币参考
输入$0.464¥3.34
输出$0.530¥3.82
缓存命中(输入)$0.232¥1.67

试算

拖动滑块估算这个模型的花费。

单次
$0.00182
每天
$0.9083
每月(30 天)
$27.25≈ ¥196

Nvidia Nemotron 70b:输入 $0.4641/M · 输出 $0.5304/M · 缓存命中 $0.2321/M

按这个配置调用
curl https://api.geniusrelaygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "llama-3.1-nemotron-70b-instruct-hf", "max_tokens": 800,
       "messages": [{"role": "user", "content": "…"}]}'

接入代码

兼容 OpenAI 接口。把 Base URL 换成 https://api.geniusrelaygpt.com/v1,模型名填 llama-3.1-nemotron-70b-instruct-hf。

curl https://api.geniusrelaygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-nemotron-70b-instruct-hf",
    "stream": true,
    "messages": [{"role": "user", "content": "你好"}]
  }'

在客户端里用:Cursor · Cline · 酒馆 · Codex

支持的参数

常用 OpenAI 参数都可以直接传。

temperaturetop_pmax_tokensstreamstoppresence_penaltyfrequency_penaltyseed

常见问题

Nvidia Nemotron 70b 怎么计费?
输入 $0.464、输出 $0.530 每百万 token,命中缓存的输入按 $0.232 计。每次请求的扣费都能在控制台使用日志里查到。
上下文有多长?
16K token。长对话每一轮都会按全部输入 token 计费,注意控制历史长度。
支持流式输出吗?
支持。请求里加 "stream": true,返回 SSE,格式与 OpenAI 一致。