DeepInfra 新账号免费赠额，开源模型托管 API 申请与调用指南

DeepInfra 对外提供的是 OpenAI 兼容接口，因此可以直接复用官方 SDK，只需改写 base_url 与密钥。下面按调用顺序说明。

第一步：准备令牌与 base_url

在控制台的 API Tokens 页面创建令牌，创建后只显示一次，请立即保存。接口前缀统一为 https://api.deepinfra.com/v1/openai，聊天补全的完整路径是 https://api.deepinfra.com/v1/openai/chat/completions。建议用环境变量管理，避免写死在代码里：

export DEEPINFRA_API_KEY="你的令牌"
export DEEPINFRA_BASE_URL="https://api.deepinfra.com/v1/openai"

第二步：确认模型标识

模型名在控制台的模型列表或模型详情页获取，写法一般是「厂商/模型名」的形式，例如 meta-llama/Meta-Llama-3.1-8B-Instruct、Qwen/Qwen2.5-72B-Instruct。请直接复制控制台里的标识，大小写写错会返回模型不存在。不同模型按输入与输出 token 分别计费，价格在同类托管服务中偏低，具体型号与单价以控制台实际显示为准。

第三步：发起一次对话补全

用 curl 调用时，关键参数有四个：model 指定模型标识，messages 是对话数组且每项包含 role 与 content，max_tokens 限制回复长度，temperature 控制随机性。请求头必须带上 Bearer 令牌：

curl https://api.deepinfra.com/v1/openai/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DEEPINFRA_API_KEY" \
  -d '{
    "model": "meta-llama/Meta-Llama-3.1-8B-Instruct",
    "messages": [
      {"role": "user", "content": "用一句话解释什么是向量数据库"}
    ],
    "max_tokens": 256,
    "temperature": 0.7
  }'

在 Python 项目中，直接安装并使用 openai 官方库即可，只改 base_url：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["DEEPINFRA_API_KEY"],
    base_url="https://api.deepinfra.com/v1/openai",
)

resp = client.chat.completions.create(
    model="meta-llama/Meta-Llama-3.1-8B-Instruct",
    messages=[{"role": "user", "content": "你好，请做个自我介绍"}],
    max_tokens=256,
    temperature=0.7,
)
print(resp.choices[0].message.content)

第四步：额度耗尽与限流的排查顺序

• 返回 401：令牌无效或请求头缺失，先确认环境变量已生效、Authorization 的格式为 Bearer 加空格加令牌。
• 返回 402 或提示余额不足：试用赠额已用完，到账单页面查看剩余额度并按需充值。
• 返回 404 且提示模型不存在：model 拼写或大小写有误，或该模型已下线，回控制台重新复制标识。
• 返回 429：触发并发或速率限制，应降低并发量并加入指数退避重试；它与余额不足是两回事，不要混淆处理。
• 返回 400：多为 max_tokens 超过该模型上限，或 messages 结构不合法，先缩减长度并核对字段。

排查时建议按「HTTP 状态码 → 返回体 error 字段 → 余额与模型名」的顺序逐层核对。线上服务务必设置请求超时与有限次重试，避免对 429 无休止重试导致费用和时间双重浪费。