苹果终于有一款真正的AI应用了！

距离苹果的AI发布会过去已经有一段时间了。尽管安卓阵营早已把AI手机的概念炒得火热，甚至有国产厂商直接推出了基于AI计算的手机工作站，但一个关键问题始终悬而未决：苹果的AI功能究竟何时会来？以怎样的方式落地？到目前为止，答案依然模糊。

不过，这并不影响市场向前推进。群众需求是真实的，苹果迟迟没有大动作，但AI模型开发商们对苹果生态流量的渴望可是一点都不掺假——这不，H2O.ai机构刚刚发布了H2O-Danube3的论文，直接公布了一款可以在iPhone手机本地运行的大语言模型：H2O-Danube系列（已开源且可商用）。

可能有人会疑惑：本地运行的AI应用，和现在市面上的ChatGPT App有什么区别？简单来说，本地运行意味着模型直接部署在手机上，依靠手机自身的硬件能力提供服务；而ChatGPT这类AI App本质上是通过远程API调用，依赖服务器的能力来完成推理。两者在数据隐私、响应速度和离线可用性上，差距相当明显。

功能体验

H2O AI模型已经上线到苹果商店，可以直接下载体验。

为了验证它是否真的基于本地硬件推理，我们特意在手机上开启了飞行模式，切断网络连接。几轮对话测试下来，模型在回答速度方面确实有质的突破。整体体验如下：

• 体感速度极快，根据官方数据，峰值可达25.6 tokens/s，平均约20 tokens/s。
• 毕竟是大语言模型，中英文对话完全没问题，体感上的智能水平确实优于GPT-3.5。
• 无需联网，完全本地运行。应用安装包大小为1.28GB，介意容量的朋友需要注意。