跳到正文
热点事件观察中

OpenAI 发布对抗性蒸馏防御研究及 GPT-6.2 安全更新

2 篇报道2 个报道来源首报2 天前更新

先了解这件事

AI 综述

OpenAI 发布了针对对抗性蒸馏的防御研究,并更新了 GPT-6.2 Astra 等模型的安全机制,旨在防止攻击者提取模型的受保护推理过程(Chain-of-Thought)。 OpenAI 称,通过结合对抗性训练、分类器检测及 API 保护策略,已显著降低了模型被提取推理逻辑的成功率。该公司同时呼吁行业共享防御经验,以共同应对此类安全风险。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. The Decoder
    OpenAI 强化 GPT-6.2 系列模型内部推理保护机制

    OpenAI 通过针对性训练、输入输出过滤及 API 限制,大幅降低了 GPT-6.2 Astra 和 GPT-6.2 Sol 模型被提取内部推理过程的成功率,其中针对历史请求的攻击成功率从 54.0% 降至 0.2%。此外,OpenAI 每周封禁数万个违规账户以应对协同攻击,Anthropic 也采取了类似措施打击系统性蒸馏攻击。

11月20日
  1. OpenAI News精选
    OpenAI 应对对抗性蒸馏的防御策略与实践

    OpenAI 介绍了如何通过对抗性训练、分类器和 API 保护来防范对抗性蒸馏,即防止恶意攻击者提取模型的受保护推理过程(Chain-of-Thought)。通过在 GPT-6.2 Astra 等模型中强化防御,攻击成功率已显著降低,OpenAI 同时呼吁行业共享防御经验以共同应对安全风险。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。