LM Studio 免费本地部署：图形界面开箱即用，自带 OpenAI 兼容接口

本地服务器启动后，LM Studio 对外提供与 OpenAI 兼容的接口，任何支持自定义 base_url 的 SDK 或第三方工具都能直接接入，请求全程不出本机。

一、base_url 与鉴权

base_url 的形态固定为 http://localhost:1234/v1：协议加主机、端口（默认 1234，以服务器页面实际显示为准）再加 /v1。若开启 API Key 校验，在请求头里带上 Authorization: Bearer <你的密钥>；未开启时传任意非空字符串即可。

二、获取模型名

模型标识有两种获取途径：一是看对话页顶部当前已加载模型的名称，二是在服务器启动状态下直接查询模型列表接口，返回的 id 字段就是可用的模型名。

curl http://localhost:1234/v1/models

三、一次对话补全调用

下面是最小可运行的 curl 示例，把 model 换成上一步查到的模型标识即可。

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-loaded-model-id",
    "messages": [
      {"role": "system", "content": "你是一个简洁的中文助手。"},
      {"role": "user", "content": "用一句话解释什么是模型量化。"}
    ],
    "temperature": 0.7,
    "max_tokens": 256,
    "stream": false
  }'

用官方 Python SDK 时，只需替换 base_url 与模型名，调用方式与云端接口一致。

from openai import OpenAI

client = OpenAI(base_url='http://localhost:1234/v1', api_key='lm-studio')

resp = client.chat.completions.create(
    model='your-loaded-model-id',
    messages=[{'role': 'user', 'content': '你好，请做个自我介绍'}],
    temperature=0.7,
    max_tokens=256,
)
print(resp.choices[0].message.content)

四、关键参数说明

• model：必填，必须是本地已加载模型的标识，写错会直接报模型不存在。
• messages：必填，按 system、user、assistant 角色组织的对话数组，上下文越长占用显存越多。
• temperature：采样随机度，写代码或抽取结构化字段建议调到 0 到 0.3。
• max_tokens：单次回复的长度上限，本地推理建议显式设置，避免生成过长把显存撑满。
• stream：设为 true 时以流式分块返回，适合需要逐字输出的聊天界面。
• top_p：与温度配合的采样阈值，通常只调其中一个，另一个保持默认。

五、额度耗尽与限流的典型表现及排查顺序

本地部署不存在云端额度，但会出现功能上类似「请求失败」的情况，按下面顺序排查最省时间。

1. 连接被拒绝或超时：先确认服务器页面处于运行状态、端口是否被改动、电脑是否刚从休眠中恢复；服务没启动时请求会直接连接失败。
2. 401 未授权：说明服务器开了 API Key 校验，检查请求头里的密钥是否与控制台生成的一致。
3. 404 模型不存在：多为模型名写错或模型未加载，重新查一次模型列表接口并核对拼写。
4. 首个请求特别慢：可能是模型空闲自动卸载后重新载入，或上下文长度超过显存导致部分层回落到内存；缩短提示词、降低 max_tokens 或换更小的量化档位。
5. 并发时排队或报错：单机推理的并发能力有限，多个客户端同时请求会互相拖慢，建议在应用侧加队列或串行发送。

排查时优先看 LM Studio 应用内的服务器日志窗口，错误原因通常直接写在那里，比在客户端猜更快。