Anthropic 大神揭秘:提示工程的精髓,是把你的大脑“复制”给 AI
如果你对提示工程(Prompt Engineering)感兴趣,最近Anthropic三位顶级提示工程师——Amanda Askell、Zack Witten和Da vid Hershey——的一场深度对谈,可能是目前能找到的最好资源。整个对话超过1小时,几乎把提示工程这门手艺的里里外外都聊透了。
本次对话的核心观点已经梳理出来,并且把重点部分也一并划出来了。当然,强烈建议去看原视频(自行搜索“AI prompt engineering: A deep dive / Anthropic”),那里面的细节远比摘要丰富。
好的提示就像是在给“受过教育的门外汉”解释复杂概念
提示工程的核心不在于把提示写得多么简单幼稚,而是要确保清晰、准确、易懂,让AI能轻松理解你的意图,哪怕它对你的专业领域一无所知。就像Amanda强调的那样:写提示时,你得时刻想象一个“受过教育的门外汉”坐在对面,他会问哪些问题?他对这些概念的理解可能有偏差?这需要提示工程师具备极其扎实的沟通能力和换位思考能力,把复杂的专业概念翻译成AI能“秒懂”的语言。
“把你的大脑外化到模型中”
这才是提示工程的精髓所在。提示工程师需要把自己对任务的理解、目标、期望,以及所有相关的背景知识,都清晰、完整地表达出来,然后“灌输”给AI。这本质上就是在复制一份自己的大脑,让AI能像你一样思考问题——只不过是用自然语言在编程。
提示工程将继续在追求模型极限性能中发挥作用
AI技术发展再快,我们也得想方设法“压榨”出它的极限性能,才能完成更复杂、更高级的任务。而提示工程,就是压榨AI潜力的关键手段,这一点不会因为模型越来越强而改变。
下面是对话中提到的10个核心要点,逐一拆解:
1. 定义提示工程
提示工程本质上就是编程
它还需要考虑系统层面的问题,比如数据来源、延迟、数据量等,并把这些因素整合到整体系统设计中。
写提示的过程很像写论文,但写出来的“论文”要被当作代码来管理:需要版本控制、实验跟踪,该有的工程化流程一个不能少。
2. 如何成为一名优秀的提示工程师
清晰的沟通能力
快速迭代能力
逆向思维能力
系统性思考能力
善于从模型输出中学习
3. 如何改进提示
让模型解释提示
让模型修改提示
预测用户的真实输入
4. 提示中的诚实、角色扮演和隐喻
别对模型撒谎
慎用“角色扮演”
隐喻有用,但要谨慎
5. 模型推理
思维链(CoT)确实有效
有一点很关键:即使AI的推理过程有
错误
可以通过
结构化CoT提示
6. 企业级提示 vs 研究型提示 vs 聊天型提示
企业级提示
研究型提示
聊天型提示
7. 提高提示技巧的建议
多读别人的提示
多做实验
尝试挑战AI的极限
8. 越狱
越狱攻击本质上是利用AI系统的漏洞,通过精心设计的提示,让AI做出违反规则或预期之外的输出。要绕过安全限制,需要对AI的工作原理和训练过程有深刻理解,有时还会用到社会工程学技巧——比如假装自己是AI的“朋友”,或用诱惑性语言来欺骗它。
9. 提示工程的演变
随着LLM能力提升,一些早期的提示技巧已经失效了,比如“重复某个词语”或“使用特定语法结构”。现在的模型更善于理解自然语言,提示可以写得更简洁、更直接。我们对模型的能力也更有信心,可以放心地提供更多信息和上下文。
10. 提示工程的未来
AI会越来越聪明,能更好地理解我们的意图,但这不意味着我们可以不表达清楚。提示工程工具会越来越强大,能自动生成示例、识别潜在问题等。
更重要的是,人机交互的方式将发生改变——我们不再只是输入文字,而是用更直观、更自然的方式与AI互动。未来甚至可能会出现AI反过来“提示”我们的场景:它主动询问我们更详细的需求,提供建议或选项。这才是真正意义上的双向沟通。
-
- 关于宇宙的好的网名有哪些
- 角色扮演 | 1
- 网名