持续封号打击蒸馏:A社称强化防护措施让Claude蒸馏推理数据提取量下降90%~99%
2026年10月13日 14:00人工智能, 科技资讯01.09K 2026-10-13 06:0:28 Author: www.landian.news(查看原文) 阅读量:12 收藏

2026年10月13日 14:00人工智能, 科技资讯01.09K

#人工智能 持续封号打击蒸馏:Anthropic 称强化防护措施让 Claude 蒸馏推理数据提取量下降 90%~99%。这段时间 A 社一直在为 Claude 部署措施用来对抗蒸馏,采取的措施包括保留思考功能、不能编辑模型先前的对话上下文、限制不同模型之间读取推理记录等。从 A 社自己的说法来看,这些措施抵抗蒸馏还是有些用处的。查看全文:https://ourl.co/127329

Anthropic 称针对未经授权的大规模模型蒸馏问题,公司近期加强对 Claude AI 推理内容的保护机制,按自有平台数据的估算,新保护机制实施后蒸馏者提取的推理数据减少 90%~99%。此前 A 社部署机制增加保留思考功能,不能编辑模型先前对话的上下文,还限制不同模型之间读取推理记录等。

持续封号打击蒸馏:A社称强化防护措施让Claude蒸馏推理数据提取量下降90%~99%

模型蒸馏通常通过先进模型生成的回答训练能力较弱的模型,A 社所说的蒸馏攻击指的是操作者以大量请求获取 Claude AI 模型的回答和推理记录,再用这些数据复现模型能力。A 社称,推理记录能展示模型如何得出答案,因此比最终回答更有训练价值。

A 社内部测试显示,使用完整推理记录训练的模型,在编程基准测试中得分为 80.4%,使用推理摘要训练时得分为 71.8%,这项测试用于说明完整记录的训练价值,具体蒸馏情况和训练结果可能会随着操作手法和模型的不同存在差异。

A 社为部分 Claude 模型增加保留思考机制:2026 年 8 月 31 日及之后新创建的 API 账户,不能编辑 Claude 先前的对话上下文。A 社还限制不同模型之间的读取推理记录,将 Claude Sonnet 5.5 的推理记录限制在发起请求的组织内。

A 社还使用两阶段分类器识别试图套取隐藏推理的请求,针对新出现的绕过方式更新防护机制,例如要求模型翻译先前推理、将推理内容放在特定标签中。持续进行此类尝试的账户可能会受到更严格的使用限制或被封禁账户。

A 社称分类器上线后其平台上被提取的推理 token 比此前大幅度下降并封禁数万个账户,不过 A 社也承认保留思考机制要求部分开发者调整接口集成、分类器也可能拦截部分正常请求等,总体误报率低于 0.1%,而被拦截的请求也会正常计费。A 社尚未观察到高度复杂且持续适应防护的规避行动,所以目前的降幅能否长期维持还有待观察。

热门推荐仅需99元/年,硅谷CN2GIA服务器,另有3年版仅需528元,限量销售,售完即止

  • 埃隆马斯克称不要折磨AI 因为对方可能想要报复 训练推理轨迹显示模型承受极端压力

  • 供应链消息称英特尔已经在9月底提高多代CPU价格 高端CPU供货价上涨20%

  • 法国数百家超市制冷系统被黑客攻击 强制升温到50摄氏度除霜导致食品变质和起火

  • 乌克兰继续使用无人机袭击俄罗斯数据中心 Yandex搜索/地图/邮件/支付等多种服务中断

  • 国家互联网应急中心发布风险提示:荐片播放器内置后门 已感染70万台设备

  • <b>[重要提醒] Let’s Encrypt从明年2月起将证书有效期从90天缩短到64天 最终缩短到45天</b>


文章来源: https://www.landian.news/archives/127329.html
如有侵权请联系:admin#unsafe.sh