Qwen3.5 9B + Hermes，这可能是本地电脑玩Agent最好的组合！
想在本地电脑轻松搭建专属AI助手？今天这篇文章就介绍一种完全工作在本地、不需要联网就能跑通的智能体方案——Qwen3.5:9B + Hermes，实测下来，性能与易用性之间达到了一个相当不错的平衡。
下面是我们接下来要聊的重点：
- Qwen3.5 9B模型的实测性能与硬件要求
- Hermes工具的安装便捷性与整合优势
- 该组合在本地智能体任务中的实际应用价值
1. 实测 Qwen3.5:9b
目前在开源领域，Qwen系列的表现可以说是独一档。不仅国内大量用户在使用，最近英伟达也在做相关模型的量化，如Qwen3.6-27B：
这个模型实测下来，量化后的Qwen3.6:27B要想在单张消费级显卡上跑流畅，只有32G显存的5090显卡才勉强够看。这个门槛确实太高了，对于绝大多数人来说，几乎无法流畅运行。
基于更现实的考量，大量实测后发现，Qwen3.5:9B 才是那个最接地气的选择。它只需要16G内存 + 8G显存就能跑通，如果显卡在12G-16G之间，则可以获得流畅体验。比如实测环境使用的是32G 5090显卡，运行得非常流畅。具体数据如下：5090显卡对单张图的理解速度可以达到500 tokens/s：
推理速度的表现同样值得关注。针对上述输入做了10次测评，并绘制了以下折线图：
首token延时（TTFT）平均为2.29s（绿色折线），首token后生成平均速度为0.40s。推理输出token数/s的曲线如下：
模型推理的平均速度达到了175.5 tokens/s。以上数据基于ollama搭载的qwen3.5:9b，在单人单机场景下表现最佳。
实测下来，Qwen3.5:9B更像是本地Agent的“甜点位”模型。它不像27B那样吃显存，也不像小模型那样一遇到复杂任务就容易掉链子。另外，它最大支持256K上下文，足以应对绝大多数本地Agent任务：
再结合Hermes自带的记忆功能，在处理多轮任务时，连续性能得到明显提升。
总结来看，将Qwen3.5:9B接入Hermes后，它不再局限于简单的聊天对话，而是能胜任很多实际的本地Agent任务。这也是为什么这个组合特别适合单机本地玩家。
2. 接入Hermes
为什么这次选择把Qwen3.5 9B接入Hermes？一个很现实的原因是：Hermes相对更容易安装。
它更加轻量，安装链路更短，对普通用户来说，成功搭建的概率更高。这一点非常重要，因为本地Agent工具的核心价值不在于功能看起来有多炫酷，而在于你能否在自己的电脑上快速装好、接上模型，然后真正开始干活。
现在Ollama已经方便地支持了Hermes，只需下面一行命令，它会自动指定模型为qwen3.5:9b，后续无需再手动配置，非常便捷：
ollama launch hermes --model qwen3.5:9b
如果Hermes尚未安装，系统会自动完成安装：
点击“Yes”，安装过程自动开始：
大概不到3分钟，Hermes就安装好了，Windows电脑也能丝滑兼容：
如图显示模型为qwen3.5:9b，接下来可以开始测试提问：
这套搭建方案因为完全接入本地算力，所以token想怎么用就怎么用，再也不用担心费用问题。接入步骤也异常简单：之前从未安装过Hermes，只需一行命令；如果之前安装过，可能会遇到一个问题，解决方法如下：
首先执行以下两行命令：
hermes config path hermes config show
找到输出的配置文件具体路径，例如：
C:UsersguozhAppDataLocalhermesconfig.yaml
打开这个文件，输入以下内容：
model: default: qwen3.5:9b provider: custom base_url: http://127.0.0.1:11434/v1 api_key: ollama context_length: 65536
以上就是完整的Hermes接入步骤，没有任何省略。
3. 开始本地玩Agent
1) 想直接理解一张图？告诉它图片路径即可：
2) 当作OCR使用，提取图片中的文字：
3) 自动分析Excel文件，只需告诉它文件位置，中间它会自动安装pandas等数据分析包：
最终得出结论：
中间遇到问题时，Hermes会自动处理：
如果超过模型上下文限制，Hermes会自动压缩：
Hermes的一大亮点在于它并非一次性聊天工具——它会在多轮使用中自动更新用户画像和长期记忆：
比如这里显示“User profile updated · Memory updated”，说明它已经把本轮对话中具有长期价值的信息写入了记忆。
因篇幅限制，更多实用且好玩的应用场景，大家可以自行探索。总体而言，本地玩Agent确实值得一试。
最后总结一下
虽然Qwen3.5:9B这样的模型在绝对能力上不及云端满血模型，但实测和日常使用体验表明，它配合Hermes能够胜任很多本地办公任务，运行起来的确比较丝滑顺畅。
对于AI爱好者来说，在本地搭建自己的Agent，完全消耗本地算力，token可以随意使用，这种掌控感非常令人愉悦。
结论明确：Qwen3.5:9B + Hermes，到目前为止，很可能是本地玩Agent的最佳搭配。感兴趣的读者，可以根据文中步骤亲自尝试一下。