首发！本地运行最强开源大模型Llama3

首发！ 本地运行最强开源大模型Llama3

4月18日，Meta一口气放出了两款开源大模型——Llama 3 8B和Llama 3 70B，直接免费提供给开发者使用。在同类模型中，这两款的表现堪称顶尖，尤其是8B版本，在某些测试中甚至超越了上一代的70B模型。性能提升的幅度，让人不得不感叹“开源的力量”。

Llama 3这次带来的几大亮点，值得认真了解：

• 训练数据超过15T token，是Llama 2数据集的7倍以上；
• 训练效率是Llama 2的3倍；
• 支持最长8K的文本输入，改进的tokenizer拥有128K个token的词汇量，模型性能因此大幅提升；
• 在多个重要基准测试中表现卓越，直接登顶；
• 推理和编码能力显著增强，能搞定更复杂的任务；
• 安全性也上了新台阶，搭载了Llama Guard 2、Code Shield和CyberSec Eval 2等新一代信任与安全工具，错误拒绝率比Llama 2更低。

为了方便大家快速上手，我们已经将这些模型和应用文件整理打包。你只需下载并替换模型文件，就能在本地轻松体验Llama 3的强大功能。

? 安装指南

下载压缩包

访问下方链接下载所需文件（建议使用电脑浏览器打开）。在页面右侧找到下载按钮即可。

安装步骤

1. 下载并解压缩后，你会看到以下目录结构：

• FaradayDotDev：存放Llama3-8B模型的目录
• .exe：最新的、兼容Llama3模型的LM Studio安装程序

1. 安装LM-Studio。双击运行安装程序，按提示完成安装。安装完成后，软件界面如下所示：

1. 加载模型。打开LM-Studio软件内的模型目录：

1. 将FaradayDotDev目录复制到模型文件夹内，然后重启LM-Studio软件。

1. 重新启动软件后，检查模型文件列表，确保新模型已经加入。

1. 切换到聊天界面，在模型列表中选择Llama模型并加载。

1. 以上步骤完成后，你就可以直接和AI对话了。

按照这个流程，你就能在本地环境中感受Llama 3的惊人能力，开始探索AI的无限可能。