OpenAI 扩展零数据留存安全机制，自动化分析跨交互风险

8 月 20 日消息，OpenAI 公司今天（8 月 20 日）发布博文，宣布面向符合资格的前沿模型 API 客户，扩展“零数据留存”（Zero Data Retention）服务，自动化系统可识别跨交互风险模式。

援引博文介绍，OpenAI 公司强调请求处理完成后，不保留提示词或模型回复，员工无法审阅客户内容，企业数据也不会用于训练模型（除非客户明确选择加入）。

OpenAI 指出随着模型承担更长、更复杂的任务，部分严重安全风险可能要在多轮交互后才会显现。现有兼容 ZDR 的安全系统通常逐条评估交互，难以识别跨对话、跨账户或持续试探安全机制的行为模式。

OpenAI公司为解决该问题，推出了私有安全处理预览版（Private Safety Processing），该机制能在保持与零数据保留兼容的前提下，提升安全防护水平，同时不让OpenAI员工接触底层内容，而是利用自动化系统分析关联交互中的风险模式。

该系统适用于客户自行控制基础设施中的内容，也适用于 OpenAI 提供的存储。在后者场景中，客户内容由客户控制的密钥加密，OpenAI 员工不持有这些密钥，因此无法访问底层提示词和回复。

当系统识别出风险后，OpenAI 只会收到范围受限的安全信号，用于说明涉及的活动类型，并据此判断是否需要采取处置措施。

即使内容被标记，员工仍无法查看客户内容。客户可通过自身系统中的信息调查警报和处置决定；如需申诉、说明合法活动，或协助核查已确认的滥用行为，客户可自行选择向 OpenAI 提供相关信息。

OpenAI表示，其正在进行私密安全处理功能的预览，该功能能够在监控复杂人工智能交互的同时，不留存客户数据，也不会违背企业的安全合规义务。此系统基于零数据留存架构构建，确保提示词与模型回复均不会被保存，OpenAI工作人员也无法查看。除非客户明确选择许可，否则企业客户数据不会用于模型训练。目前，该系统正在与早期客户进行测试，计划于9月开始推出这一能力，并发布技术白皮书。OpenAI还指出，后续会提前向客户说明更新内容、其对既有承诺的影响，以及客户规划所需的时间和支持。