手机「本地部署」开源 GPT，火了！

最近圈子里最炸裂的消息之一，莫过于把GPT级别的多模态大模型直接塞进手机里——不是调云端API，而是真正本地化运行。MiniCPM-V 就是干这件事的。这个系列本身不小，但核心突破在于，它把过去只能跑在服务器或者PC上的大模型，移植到了移动端（当然，苹果阵营暂时没戏）。

一、MiniCPM-V

系列里有两个值得拎出来说的模型：MiniCPM 侧重文本，MiniCPM-V 则专攻图像处理。今天的主角是后者。你只需要给出一张图片，再配上简单的文字指令，它就能快速生成你想要的内容。比如，把图片里的文字转成 Markdown 格式，或者提炼一份说明。

OCR 能力是 MiniCPM-V 的压箱底功夫。MiniCPM-Llama3-V 2.5 可以接受180万像素任意宽高比的输入，在 OCRBench 上拿下了725分——这个数字直接压过了 GPT-4o、GPT-4V、Gemini Pro、Qwen-VL-Max 这些商用闭源模型，差距还不小。

更值得提的是幻觉率。得益于 RLAIF-V 对齐技术，MiniCPM-Llama3-V 2.5 的多模态行为可信度大幅提升，幻觉率已经显著低于 GPT-4V-1106，稳坐开源模型的头把交椅。

部署方案覆盖 Windows、Mac 和手机，全部支持本地化。当然，如果你只是想先试试手，Huggingface 上也有在线 demo 可以直接玩。项目地址和在线体验链接放在下面，感兴趣的话不妨自己跑一遍。

https://huggingface.co/spaces/openbmb/MiniCPM-V-2

https://github.com/OpenBMB/MiniCPM-V

二、VirtualWife

名字听起来有点不好意思——“虚拟老婆”。但本质上，这是一个基于 Python 的虚拟数字人项目，用到了自然语言处理（NLP）和机器学习技术。你可以把它理解为：给自己定制一个 AI 伴侣。

还记得前些年那款很火的游戏《主播女孩重度依赖》吗？玩家扮演男友，陪伴有心理疾病的主播女友，最终走向不同结局。但哪怕有20多种结局和大量细节，游戏内容终究是预设的。VirtualWife 则完全不同——它不是 Galgame 式的有限交互，而是借助 AI 实现真正的私人订制。

核心技术是 NLP。自然语言处理让 AI 能够理解你说的话，并给出合理的回应。而且随着交流的深入，它会持续学习，生成越来越个性化的回复。经过一段时间的“培养”，你就拥有一个能陪你聊日常、听你倾诉、上知天文下知地理的虚拟伴侣了。

如果你愿意，还能让她上B站直播。观众在弹幕里发信息，她会像真正的虚拟主播那样实时回应。

部署方式用的是 Docker，项目主页上教程写得很详细，照着走基本不会出岔子。项目地址在这里，有空可以试试。

https://github.com/yakami129/VirtualWife