DeepInfra 等新兴推理平台免费额度领取与注册教程

这些平台绝大多数兼容 OpenAI 风格的接口，因此改造现有代码的成本很低。base_url 通常形如 https://api.deepinfra.com/v1/openai、https://api.novita.ai/v3/openai 这类以 /v1/openai 或 /v3/openai 结尾的地址，具体以各平台控制台「API」或「Docs」页给出的示例为准。

第一步：保存密钥与地址

在控制台创建 API Key 后，把它写入环境变量，不要硬编码进代码仓库。

export DEEPINFRA_API_KEY="你的密钥"
export DEEPINFRA_BASE_URL="https://api.deepinfra.com/v1/openai"

第二步：确认可用模型名

模型名可在控制台的模型列表页或文档的模型清单中查询，常见形态如 meta-llama/Meta-Llama-3.1-8B-Instruct、mistralai/Mistral-7B-Instruct-v0.3 这类「厂商/模型名」格式。调用前先用模型列表接口确认账号当前可访问的模型，避免直接请求已下架或需额外审批的条目。

curl -s "$DEEPINFRA_BASE_URL/models" \
  -H "Authorization: Bearer $DEEPINFRA_API_KEY"

第三步：发起一次对话补全

关键参数包括 model（模型名）、messages（角色与内容数组）、max_tokens（生成长度上限）、temperature（随机性）、stream（是否流式返回）。赠额阶段建议把 max_tokens 设小一些，方便反复试错。

curl -s "$DEEPINFRA_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $DEEPINFRA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Meta-Llama-3.1-8B-Instruct",
    "messages": [
      {"role": "user", "content": "用一句话说明什么是推理服务"}
    ],
    "max_tokens": 128,
    "temperature": 0.7,
    "stream": false
  }'

第四步：额度耗尽与限流的排查顺序

• 先看返回状态码：401 多为密钥错误或未带 Authorization 头；404 多为 base_url 或模型名写错。
• 402 或提示余额不足，说明赠额已用完或已过期，去 Billing 页确认剩余额度与到期时间。
• 429 表示触发限流，通常是并发或每分钟请求数超标，未绑卡账号限额更低，可降低并发、加指数退避重试。
• 400 报参数错误时，检查 messages 是否为数组、max_tokens 是否超出模型上限。
• 若响应正常但内容为空，确认传入的模型是否支持对话补全格式。

压测多家平台时，建议把 base_url、密钥、模型名统一抽成配置，用同一段脚本轮换调用，并记录每家平台的成功率与首字延迟，便于横向对比后再决定是否充值。