Meta Llama 官方开发指南使用教程

打开 Meta Llama 的 How-to guides 页面，真正让人停下来的，不是某个参数该怎么调，而是七条路线同时摆在眼前：Prompt engineering、Fine-tuning、Quantization、Distillation、Validation、Vision Capabilities 和 Responsible Use Guide。这可不是什么从第一章读到第七章的课程。问题来了：选错入口，会怎样？常见的画面是，提示词还没稳定就急着开始微调，或者模型都已经量化完了，才发现连一套能判断质量到底掉了多少的基线都没有。

更稳妥的做法，是给自己画一张可执行的开发路线单：当前问题究竟属于哪一类？先读哪份指南？需要准备什么证据？用什么结果来判断该继续还是该停下？下面这些步骤，只解决“如何选择与使用官方指南”的问题，不代替模型许可核对、数据准备、训练作业、部署测试和安全审查——那些是另一回事。

开始前，把问题写成可检查的一句话

准备一个能正常打开 Meta 开发者文档的浏览器，然后写下一个带输入、期望结果和限制的任务。举个例子：“让客服问答在现有测试集上减少答非所问，同时不增加部署显存。”还要准备一小组固定样例，至少包含正常输入、边界输入和失败样例。没有固定样例，后面无论改提示、改权重还是改精度，都很难做前后对照——基本等于盲人摸象。

这一步不要求先下载模型，也不要求先决定用什么训练工具。账号有没有、模型访问权能不能拿到、算力够不够、数据许可对不对，这些要在真正执行对应方案前单独核对。公开指南能帮你选路线，但不会自动满足这些前置条件。

第一步：从 How-to guides 总入口确认范围

在 Meta Llama 开发者文档中进入 How-to guides 页面，页面顶部应该显示 How-to guides，正文下方会出现 Develop with Llama。

先浏览指南卡片的名称，把它们映射到当前问题就行，别急着进入训练或下载流程。把问题标成“输出行为、领域适配、部署优化、小模型迁移、效果验证、多模态输入、安全与治理”中的一类或两类。

浏览器停在官方指南集合页，并且能用一句话说明当前主问题。比如“先解决输出行为，暂不改权重”，对应的首选入口就是 Prompt engineering。

如果页面只有产品介绍，没有 How-to guides 标题与开发指南卡片，那就返回 Llama Documentation 后重新进入 How-to guides。要是任务同时命中三四类，先选最接近业务失败的那一类，其余的写成后续约束，别贪多。

图中 How-to guides 是整套实践资料的入口，Develop with Llama 是指南集合的正文起点。确认这两个位置，能避免把产品页、新闻页或第三方整理页误当操作依据——这种事其实挺常见的。

第二步：先用 Prompt engineering 建立低成本基线

在指南集合中找到 Prompt engineering 卡片并进入对应页面。

保持模型权重不变，用同一组固定样例测试更清楚的上下文、指令和示例。官方说明覆盖零样本、少样本、角色提示和检索增强等方向；一次只改一个因素，并保存改动前后的输出。

固定样例上出现可复现的改善，而且能指出是哪项提示改动带来的结果。如果质量已经满足要求，路线可以停在提示工程，不必为了“更高级”而进入训练——没必要为了炫技而折腾。

如果不同写法都在同一领域知识、术语或格式上稳定失败，先把失败样例归档，再评估 Fine-tuning。如果是测试样例不断变化，那先修复评测集，别把波动误判为提示无效。

这张卡片直接说明一件事：提示工程不需要重新训练或微调。这里要观察的是“先改输入组织方式”的边界，而不是把卡片中的每个技巧一次性叠到同一个提示里——那样只会让事情变得更乱。

第三步：只有持续适配需求才进入 Fine-tuning

回到 How-to guides 集合，打开 Fine-tuning 卡片。

先写清楚需要固化到模型行为里的变化，再选择一种微调方向。官方页面列出了 LoRA、QLoRA、强化学习等方法，也列出了 torchtune、PEFT、Axolotl 和 Unsloth 等工具。这里要记住：方法和工具是两层决策——先确认训练目标与数据，再选能实现它的工具。

实验单至少包含基础模型、训练数据范围、训练方法、输出产物和验证标准。提示工程基线仍被保留，微调结果能与它使用同一组样例比较。

如果没有获得可用数据、模型访问权或算力，那就停在方案阶段，别把阅读完指南等同于真正完成微调。如果连提示基线都没有，返回上一步建立基线，否则训练收益无法归因——你根本不知道改的是模型还是运气。

图中的全参数微调、LoRA、QLoRA 和 RLHF 是不同路线，不是必须全部执行的步骤。新手最该先写清楚的是“要改变什么行为”和“用什么样例证明改变有效”——这比选哪个方法重要得多。

第四步：用 Quantization 解决部署约束

在 How-to guides 中进入 Quantization and performance optimization。

先记录未量化模型的质量、内存、延迟和成本基线，再根据运行环境研究仅权重量化、动态量化或静态量化。官方说明把选择明确放在精度、延迟、内存和成本之间权衡，不能只看模型文件变小就兴奋。

部署目标有数值边界，比如内存上限、可接受延迟和最大质量损失；候选方案在同一环境、同一验证集上与基线比较。

如果只有量化后的速度，没有量化前的数据或质量结果，那结论无效，返回补基线。如果质量下降超过业务边界，换量化方式或精度，别用平均速度来掩盖关键样例的失败。

第五步：用 Distillation 规划教师模型到学生模型的迁移

在 How-to guides 中打开 Distillation。

明确教师模型、学生模型和知识迁移信号。官方页面将合成数据生成、微调，以及 hard targets、logit targets、feature targets 列为蒸馏方向。先选一种可获得的监督信号，再设计学生模型训练与评测。

路线单能回答四个问题：谁是教师？谁是学生？传递什么信号？用哪些质量与效率指标判断学生是否值得部署？

如果只是换了个更小模型，却没有教师输出或迁移过程，别把它记作蒸馏。教师结果无法合法取得、生成数据无法审计或学生模型没有独立验证集时，先停下补前置条件。

第六步：用 Validation 固定所有改动的判断尺

从指南集合进入 Validation。

在提示修改、微调、量化或蒸馏之前，冻结一版评测样例和指标，然后对改动前后使用同一套条件。官方说明的核心目的，是测量并判断不同微调技术带来的改进；这份指南也应该贯穿其他优化路线。

每个候选方案都有同源的前后结果，评测集包含正常、边界和高风险样例，团队能根据预先写下的阈值作出保留、回退或继续实验的决定。

如果评测集在实验之间被替换，或只展示最好的一次结果，先恢复固定样例再重测。一个综合分数无法解释关键失败时，增加分项指标和逐例检查，不要直接宣称模型全面变好——那是在自欺欺人。

第七步：输入包含图片时再进入 Vision Capabilities

在 How-to guides 中选择 Vision Capabilities。

确认任务确实需要图像加文本输入，再核对所选模型是否支持相应多模态能力。准备一条最小样例，包含真实图片、文字指令和可人工核验的预期结果，随后再扩展到业务数据。

最小样例能稳定接收图片与文字，输出回答了图中可见内容，并且同一输入在项目所用模板中可以复现。

如果所选模型或服务不支持图像输入，回到模型与运行环境说明重新选型，不要把图片文件名塞进纯文本模型冒充视觉理解。文本任务没有图片依赖时，也无需为了功能完整而增加 Vision 路线——别为了凑数而瞎折腾。

第八步：把 Responsible Use Guide 放到项目起点

在指南集合中打开 Responsible Use Guide 或 Developer use guide resources。

把安全、伦理、合规和透明度要求写进路线单，并为数据标注、模型对齐、安全评估和结果说明指定检查人。它们应该和样例、训练、验证同时设计，不是发布前才补的一段说明——那是亡羊补牢。

任务单里已经列出禁止用途、数据边界、高风险输入、人工复核条件、失败回退和对外说明；每一项都有负责人或明确的检查位置。

如果团队只写“遵守规范”，却没有测试样例和处置动作，返回把风险改成可执行检查。法规、行业要求或组织政策不明确时，先交给具备相应权限的负责人确认，不要用通用指南替代专业判断。

卡片把安全、伦理与合规放在开发流程里，并点出数据标注、模型对齐、安全评估和透明度。看到这张卡片时，正确动作是回到任务单补检查项，而不是等模型上线后再写免责声明——那会儿写什么都晚了。

把七条路线排成自己的开发顺序

• 输出质量或格式不稳定，但不需要改权重：先走 Prompt engineering，再用 Validation 比较。
• 领域术语或行为需要长期固化：保留提示基线，进入 Fine-tuning，随后回到 Validation。
• 模型质量已可接受，但内存、延迟或成本不达标：进入 Quantization，并用原验证集检查损失。
• 目标是把较大模型的能力迁移给较小模型：进入 Distillation，再同时比较质量与效率。
• 输入需要图片和文字：先核对 Vision Capabilities 与模型支持范围，再叠加提示、微调或验证路线。
• Responsible Use Guide 不单独排在末尾，它约束数据、实验、评测和发布的每个阶段。

路线选择完成检查清单

• 已经从官方 How-to guides 入口进入，而不是依赖第三方整理页。
• 任务被写成带输入、期望结果和限制的一句话，并准备了固定样例。
• 只选了一个首要改动方向，没有同时堆叠提示、微调、量化和蒸馏。
• Prompt、Fine-tuning、Quantization、Distillation、Validation 与 Vision 的使用边界能分别说清。
• 每项改动都有成功阈值、失败信号和回退动作，验证条件保持一致。
• 安全、数据、人工复核和透明度要求已进入任务单，不是留到发布前补写。
• 四张官方界面截图均能打开，并分别证明总入口、提示工程、微调和负责任使用。