Together AI 免费赠额：新账号一次性额度领取与开源模型 API 接入

Together AI 的推理接口兼容 OpenAI 的对话补全格式，因此最省事的做法是保留原有 SDK，只替换 base_url 和密钥。接口基地址形如 https://api.together.xyz/v1，对话补全的完整路径为 /chat/completions。

一、准备密钥与环境变量

在控制台的 Settings → API Keys 中创建密钥，密钥只在创建时完整显示一次，请立即保存。建议用环境变量管理，避免写死在代码里：

export TOGETHER_API_KEY="你的密钥"
export TOGETHER_BASE_URL="https://api.together.xyz/v1"

二、获取可用模型名

平台托管大量开源模型，模型名带组织前缀，常见的有 meta-llama/Llama-3.3-70B-Instruct-Turbo、Qwen/Qwen2.5-72B-Instruct-Turbo 等。准确的模型名与实时价格请以模型列表接口和官网价格页为准，不要凭记忆拼写：

curl https://api.together.xyz/v1/models \
  -H "Authorization: Bearer $TOGETHER_API_KEY"

三、发起一次对话补全

下面是最小可用的 curl 示例，请求体中的字段与 OpenAI 一致：

curl https://api.together.xyz/v1/chat/completions \
  -H "Authorization: Bearer $TOGETHER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.3-70B-Instruct-Turbo",
    "messages": [
      {"role": "system", "content": "你是一名简洁的技术助手"},
      {"role": "user", "content": "用一句话解释什么是向量数据库"}
    ],
    "max_tokens": 256,
    "temperature": 0.7,
    "stream": false
  }'

如果项目里已经装了 OpenAI 的 Python SDK，改两个参数即可复用：

from openai import OpenAI

client = OpenAI(
    api_key="你的 Together AI 密钥",
    base_url="https://api.together.xyz/v1",
)

resp = client.chat.completions.create(
    model="meta-llama/Llama-3.3-70B-Instruct-Turbo",
    messages=[{"role": "user", "content": "写一句产品标语"}],
    max_tokens=128,
    temperature=0.7,
)
print(resp.choices[0].message.content)

四、关键参数说明

• model：必填，必须是平台在售的完整模型名，写错会直接返回 400。
• messages：必填，按 system / user / assistant 角色组成的对话数组，长上下文会按输入 token 计费。
• max_tokens：限制输出长度，是控制成本最直接的开关，不填则按模型默认上限生成。
• temperature：取值 0–1 区间较常用，越低越稳定，做结构化输出时建议调小。
• stream：设为 true 时返回 SSE 流式分片，适合网页端逐字输出。

五、额度耗尽与限流的典型表现及排查顺序

1. 返回 401 Unauthorized：先检查密钥是否复制完整、请求头是否为 Authorization: Bearer 格式，再确认密钥未被删除或轮换。
2. 返回 402 / 403 或提示余额不足：多为赠额已用完或已过期，到 Billing 页面核对余额；此时需充值或改用其他模型，账号通常会自动进入按量计费。
3. 返回 429 Too Many Requests：说明触发了速率限制，新账号与低价模型的并发、每分钟请求数限制更严；请降低并发、在代码里加指数退避重试，或把批量任务拆小。
4. 返回 400：多为模型名拼写错误、max_tokens 超过该模型上限、或上下文超出窗口，先用 /models 接口核对模型名与上下文长度。
5. 返回 5xx 或长时间无响应：属服务端或网络问题，先重试并检查是否开了代理；持续报错可查看官方状态页，再考虑切换同级别的其他模型。