Meta: Llama 3.1 8b Instruct

llama-3.1-8b-instruct

对比 API 获取 Key 试用获取 Key 试用

Fast and efficient for simple purposes.

模态

文本 → 文本

输入 / 输出价

$0.026 / $0.052 每 1M

上下文

131K · 最长输出 16K

能力

工具调用开源权重

价格

按实际 token 计费，从余额中扣除。人民币按 1 美元 ≈ 7.2 元折算，仅供参考。

计费项	美元 / 1M token	人民币参考
输入	$0.026	¥0.19
输出	$0.052	¥0.37
缓存命中（输入）	$0.013	¥0.09

试算

拖动滑块估算这个模型的花费。

每次输入 3K token每次输出 800 token每天请求数 500输入命中缓存 0%（长对话、固定系统提示词时较高）

单次: $0.00012
每天: $0.0598
每月（30 天）: $1.79≈ ¥13

Llama 3.1 8b Instruct：输入 $0.026/M · 输出 $0.052/M · 缓存命中 $0.013/M

按这个配置调用

curl https://api.geniusrelaygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "llama-3.1-8b-instruct", "max_tokens": 800,
       "messages": [{"role": "user", "content": "…"}]}'

接入代码

兼容 OpenAI 接口。把 Base URL 换成 https://api.geniusrelaygpt.com/v1，模型名填 llama-3.1-8b-instruct。

curl https://api.geniusrelaygpt.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b-instruct",
    "stream": true,
    "messages": [{"role": "user", "content": "你好"}]
  }'

在客户端里用：Cursor · Cline · 酒馆 · Codex

支持的参数

常用 OpenAI 参数都可以直接传。

temperaturetop_pmax_tokensstreamstoppresence_penaltyfrequency_penaltyseed

常见问题

Llama 3.1 8b Instruct 怎么计费？: 输入 $0.026、输出 $0.052 每百万 token，命中缓存的输入按 $0.013 计。每次请求的扣费都能在控制台使用日志里查到。
上下文有多长？: 131K token。长对话每一轮都会按全部输入 token 计费，注意控制历史长度。
支持流式输出吗？: 支持。请求里加 "stream": true，返回 SSE，格式与 OpenAI 一致。

价格

试算

接入代码

支持的参数

相关模型

常见问题