Qoder怎么配置DeepSeek自定义模型？

要在Qoder中配置DeepSeek自定义模型，前提是，你已经拿到了合法授权的DeepSeek-R1-Distill-Qwen系列模型权重文件，并且在本地方便可用的推理服务上部署好了——比如vLLM或Ollama的HTTP API。这件事没那么复杂，但有几个关键点必须搞清楚。 ## 确认Qoder支持的模型接入协议 Qoder目前只认一种接入方式——OpenAI兼容API协议。这意味着，你的DeepSeek模型服务必须暴露一个符合OpenAI REST规范的`/v1/chat/completions`端点。不是HuggingFace Transformers的原生接口，也不是什么裸模型加载路径，就是这个特定端点。 如果你用的是vLLM，启动时记得加上`--enable-api`参数；如果用Ollama，运行`ollama serve`，确保`http://localhost:11434`能正常访问。 ## 准备DeepSeek模型的API服务 有两种主流方法可以搞定。 **方法一：用vLLM启动DeepSeek-R1-Distill-Qwen-7B** 执行命令启动服务（注意，路径要换成你实际的模型目录）： ``` vllm serve --model /path/to/deepseek-r1-distill-qwen-7b --host 0.0.0.0 --port 8000 --tensor-parallel-size 1 --dtype bfloat16 --enforce-eager ``` 这一步必须成功返回`INFO: Started server`日志，否则Qoder连不上。端口`8000`后面就是Qoder的API入口。 **方法二：用Ollama注册并运行** 先拉取模型：`ollama pull deepseek-r1:7b`（前提是你在`~/.ollama/Modelfile`里定义了该tag映射到本地权重）；然后运行`ollama serve`保持后台服务活跃。 ## 在Qoder中填写模型配置 **第一步：** 打开Qoder设置页 →「模型管理」→「添加自定义模型」 **第二步：** 填入基础信息 * 模型名称：输入`deepseek-r1-7b`（这只是个标识，不影响调用） * API Base URL：`http://localhost:8000/v1`（对应vLLM）或`http://localhost:11434/v1`（对应Ollama） * API Key：留空（vLLM默认不需要key；Ollama也不用认证，但如果你启用了Basic Auth，那就填对应的凭证） **注意，这里有个关键点：** 必须勾选「启用流式响应」，否则Qoder前端会卡在等待完整响应，对话直接没输出。 **第三步：** 高级参数配置 在「请求头」区域手动添加一行：`Content-Type: application/json` 在「模型参数」JSON框中填入： ```json {"model": "deepseek-r1-distill-qwen-7b", "temperature": 0.7, "top_p": 0.9, "max_tokens": 1024} ``` 这里有个容易踩坑的地方：`"model"`字段的值必须与vLLM启动时指定的`--model`路径末尾名称完全一致，否则会返回404错误。比如你启动时用的是`deepseek-r1-distill-qwen-7b`，那这里就必须一模一样。