大模型是怎么随机说话的？从 Temperature 到 LangChain 工作流实战

你一定遇到过这样的困惑：同样一段 prompt，大模型有时妙语连珠，有时却答非所问；想让 AI 写首诗，结果却蹦出一堆逻辑混乱的“幻觉”内容。这背后的“罪魁祸首”正是**随机性控制参数**——Temperature 和 TopK。而要让它们稳定、可控地服务于业务，还得请出 LangChain 这位“工作流编排大师”。 今天，就从这两个参数说起，一路聊到如何用 LangChain 把“随机”驯服成“创意”和“严谨”两条生产链。

---

一、随机性的“旋钮”：Temperature 与 TopK

大模型本质上是基于概率预测下一个词（token）的机器。每次生成时，模型会为词典里所有词打分，然后根据概率分布采样。**随机性参数就是调整这个采样策略的阀门**。

️ Temperature（温度）

• 取值范围
  ：通常 0 ~ 1（部分框架支持 >1）

• 作用
  ：控制概率分布的“锐度”

  • 低温度（如 0.2）
    ：高分词概率更突出，模型倾向于选择最可能的词，结果

    确定性强、严谨
    ，适合代码生成、合同起草、法律文书。

  • 高温度（如 0.8）
    ：概率分布被“拉平”，低分词也有机会被选中，结果

    多样性高、有创意
    ，适合小说写作、广告文案、多模态艺术生成。

TopK（采样候选集）

• 取值
  ：正整数，默认常为 8

• 作用
  ：只保留概率最高的 K 个词作为候选池，再从中采样

  • 小 TopK（如 3~4）
    ：缩小选择范围，防止“跑偏”，但可能丢失一些优质低频词。

  • 大 TopK（如 8~10）
    ：保留更多候选，信息完整性好，但随机性也增大。

---

二、幻觉问题：随机性是把双刃剑

提高随机性能带来惊喜，但也可能引发“幻觉”——模型生成看似合理但完全错误的内容。如何驾驭？ * **创作类场景**：希望有“惊喜”，但不想质量崩塌 → 可以用 `temperature=0.8, TopK=4`，既发散又约束。 * **严谨类场景**：代码、财务、法律 → 必须压低随机性，用 `temperature=0.2, TopK=8` 保证信息完整且保守。 所以，**别指望用一个模型包打天下**，而是为不同业务配备不同的参数配置。而这，正是 LangChain 的用武之地。

---

三、为什么需要 LangChain？

如果每次调用 API 都硬编码 prompt、手动拼接输出，项目会变得臃肿难维护。LangChain 提供了一套**标准化的 AI 工作流（Chain）**，把“输入 → 提示词模板 → 模型调用 → 输出解析”串成一条流水线。

核心模块（@langchain/core）

• messages
  ：对话消息列表，管理多轮交互。

• output_parsers
  ：输出解析器，帮我们把模型返回的复杂结构（如 JSON）自动转成 Python 对象或纯文本。

• tools
  ：工具调用，让 AI 能联网、查数据库等。

• prompts
  ：提示词模板，将业务逻辑与 prompt 文案解耦，复用性强。

开发效率提升

• 业务驱动
  ：同一套提示词模板，只需切换模型参数就能产出不同风格的内容。

• AI Agent 友好
  ：工作流中的每个节点可插拔，便于调试和观测。

• 避免“黑盒焦虑”
  ：把复杂的生成过程拆成清晰的步骤，你知道每一步在干什么。

---

四、实战：搭建“创意”与“严谨”双写作流水线

下面用 LangChain + DeepSeek 模型（兼容 OpenAI API）实现两条写作链。一条 `temperature=0.8, TopK=4` 专攻创意散文，另一条 `temperature=0.2, TopK=8` 用于写实记录。

1. 环境准备

ja vascript

 复制代码// .env 文件
DEEPSEEK_API_KEY=your_api_key
DEEPSEEK_API_BASE_URL=

bash

 复制代码pnpm add dotenv @langchain/openai @langchain/core

2. 导入依赖与模型初始化

ja vascript

 复制代码// JSmain.mjs
import 'dotenv/config';
import { ChatOpenAI } from '@langchain/openai';
import { StringOutputParser } from '@langchain/core/output_parsers';
import { PromptTemplate } from '@langchain/core/prompts';

// ---------- 创意模型（高温度，小TopK） ----------
// 适合写故事、诗歌、广告语，需要发散但不脱离主题
const creativeModel = new ChatOpenAI({
  model: 'deepseek-v4-pro',
  temperature: 0.8,          // 高随机性，激发灵感
  topK: 4,                   // 只从概率前4个词采样，防止跑偏
  maxTokens: 600,
  apiKey: process.env.DEEPSEEK_API_KEY,
  configuration: {
    baseURL: process.env.DEEPSEEK_API_BASE_URL,
  },
});

// ---------- 严谨模型（低温度，大TopK） ----------
// 适合描述事实、技术文档、合同条款
const preciseModel = new ChatOpenAI({
  model: 'deepseek-v4-pro',
  temperature: 0.2,          // 保守，选最高概率词
  topK: 8,                   // 保留更多候选，保证信息完整性
  maxTokens: 600,
  apiKey: process.env.DEEPSEEK_API_KEY,
  configuration: {
    baseURL: process.env.DEEPSEEK_API_BASE_URL,
  },
});

3. 定义提示词模板（PromptTemplate）

将主题和风格要求抽离为变量，方便复用。 ja vascript

 复制代码// 模板里同时包含“任务”和“风格指令”
const storyPrompt = PromptTemplate.fromTemplate(`
  请写一篇短篇散文，主题：{theme}。
  风格要求：温柔治愈，篇幅在200字左右，不要分段，文字细腻有画面感。
`);

4. 输出解析器（统一返回纯文本）

`StringOutputParser` 会把模型返回的复杂消息对象转成简单的字符串，便于下游使用。 ja vascript

 复制代码const outputParser = new StringOutputParser();

5. 构建工作流（Chain）

使用 `.pipe()` 方法把“模板 → 模型 → 解析器”串联起来，形成两条独立的流水线。 ja vascript

 复制代码// 创意写作链：模板 → 创意模型 → 解析器
const creativeChain = storyPrompt.pipe(creativeModel).pipe(outputParser);

// 严谨写作链：模板 → 严谨模型 → 解析器
const preciseChain = storyPrompt.pipe(preciseModel).pipe(outputParser);

6. 执行调用（喂入原料）

ja vascript

 复制代码async function runWriteDemo() {
  const theme = '秋日山野晚风';

  console.log(' 创意写作模式（temperature=0.8, topK=4）');
  const creativeText = await creativeChain.invoke({ theme });
  console.log(creativeText);

  console.log('n------------------n');

  console.log(' 严谨写实模式（temperature=0.2, topK=8）');
  const preciseText = await preciseChain.invoke({ theme });
  console.log(preciseText);
}

runWriteDemo().catch(err => {
  console.error(' 运行出错:', err);
});

7. 运行结果对比（示例）

• 创意版
  可能会用“晚风揉碎了一池金黄，银杏叶打着旋儿落在肩头”这样的诗意表达。

• 严谨版
  则会平实描写“傍晚的山野，气温下降，光线渐暗，林间有风吹过树叶的沙沙声”。

---

五、总结：驯服随机性，打造可靠AI应用

参数组合	适用场景	效果特征
temp=0.2, topK=8	代码、法律、事实	稳定、准确、信息完整
temp=0.8, topK=4	创意写作、营销文案	丰富、有惊喜、但不偏离主题
temp=0.5, topK=6	聊天机器人、通用	平衡，日常对话

• Temperature 和 TopK 是随机性的两个独立维度
  ，组合使用才能精准控制。

• LangChain 将随机性管理嵌入工作流
  ，让不同业务线共享模板，只切换模型配置，维护成本直线下降。

• 善用输出解析器和提示词模板
  ，把 AI 生成从“黑盒”变成“透明流水线”。

最后，记住一句话：

。