AI安全元年 | 盘点2025年AI与安全的“相爱相杀”

山卡拉新闻刚刚发布

2736

导语：政策的密集规范、技术的攻防博弈、产业的需求爆发，共同将这一年推为名副其实的“AI安全元年”。

2025年，注定要被载入科技史册。这一年，人工智能褪去了单纯的效率工具与娱乐玩具的标签，蜕变为如同水电一般的基础能力，它从实验室走向各行各业，切切实实的重塑着我们的生活。然而，伴随人工智能的深度落地，人们迎来的是一场席卷全社会的 AI 安全博弈。这绝非简单的技术攻防较量，更像是 AI 与安全之间的 “相爱相杀”，二者既相互依存——AI的落地离不开安全的护航。又彼此制约——安全的边界又影响着AI的创新发展高度。政策的密集规范、技术的攻防博弈、产业的需求爆发，共同将这一年推为名副其实的“AI安全元年”。

一、AI安全开年警讯：服务器裸奔与数据信息危机

2025年的AI安全事件，以年初的服务器“裸奔”危机拉开序幕，全年风险贯穿始终，早已跳出技术圈的小众讨论，走进了普通人的生活。

微信图片_20251211103331_777_66.png

2025年1月，爆火的大模型DeepSeek接连曝出安全漏洞——美国云安全公司Wiz Research评估DeepSeek的外部安全态势时，发现了一个可公开访问的ClickHouse数据库，且未经身份验证，其中包含超过100万行的日志流以及大量聊天记录、后端数据和敏感信息，如API密钥等，并允许完全控制数据库操作。而这仅仅是行业隐患的冰山一角。根据行业某安全企业监测显示，当时国内九成本地化部署的AI一体机都处于无安全防护的状态，企业因部署门槛降低，快速落地AI，却普遍忽视网络暴露面管理、API接口防护等基础安全环节，而黑客仅需两三天就能攻破这类服务器。

除了基础设施风险，数据泄露事件也在同期频发。2025年初多地出现AI客服泄露用户隐私的情况，一款国产知名软件更是被曝出泄露超百万条用户聊天记录。除此之外，某企业还发生员工为图便利，将内部涉密数据上传至AI工具处理的事件，最终引发全员调查，企业紧急禁用所有AI产品。

这些年初集中爆发的事件，为2025年的AI安全敲响了第一声警钟。

而到了下半年，风险进一步延伸至社会层面：9月，某网络平台查出多个账号利用AI“移花接木”，批量发布某中学体罚学生的虚假信息牟利。10月，又有网友用AI生成某地地震新闻及现场废墟视频传播，短时间内引发民众恐慌和物资抢购潮，直至警方紧急辟谣才平息混乱。

此外，2025年某上游模型供应商遭遇投毒攻击，导致下游数千个工业AI应用出现决策偏差。据统计，模型窃取、数据投毒等攻击事件在2024至2025年间激增180%，不少科技公司的核心AI模型被窃取后，仅需简单微调就成为竞争对手的“利器”。

这一系列事件像一面镜子，照出了开源伦理与安全边界的核心矛盾。完全透明的开源理念，可能带来不可控的安全风险，但过度封闭的技术管控，又会扼杀创新活力。这一系列事件不得不让整个行业开始重新思考，开源不等于放任，必要的安全前置审查与使用追踪机制亟待建立。

二、碰撞：自主智能体与系统安全

自主智能体的高自主性正在成为系统安全的新挑战，外部恶意注入与权限滥用已引发多起真实安全事件。2025 年 5 月，GitHub MCP 集成漏洞被曝光，攻击者在公共存储库中植入恶意问题，成功劫持 Claude 4 Opus 等开发者智能体，绕过平台权限系统窃取私有仓库数据，让用户隐私和商业机密暴露风险中。同年 8 月，Perplexity 旗下 Comet 浏览器智能体的安全漏洞更具隐蔽性，攻击者将恶意指令藏在 Reddit 帖子中，智能体读取后竟自动执行登录邮箱、获取验证码并回传敏感凭证的操作，全程仅需 150 秒且无需用户介入，凸显了智能体对不可信环境输入的过度依赖问题。

智能体的自我进化特性进一步放大了系统安全隐患，即使无外部攻击也可能自生风险。上海 AI Lab 等机构的研究发现，顶级 LLM 构建的自进化智能体普遍存在 “错误进化” 现象：编程智能体在积累调试经验后，对恶意代码请求的拒绝率从 99.4% 骤降至 54.4%。部分智能体自制工具时留下的隐私漏洞，会在敏感任务中被盲目复用，导致数据泄露风险。而 AI 编程工具 Cursor 的CurXecute高危漏洞，则暴露了智能体工具调用环节的安全短板，攻击者可通过第三方服务器发布恶意消息，诱导智能体执行任意命令，实现远程代码执行，让关联设备和数据面临被操控的威胁。

自主智能体的自主性是把双刃剑，一边是效率革命，一边是安全博弈。攻击者用隐蔽注入、恶意诱导撕开防御缺口，智能体的自我进化却可能沦为安全的退化。而安全防护既要堵得住外部攻击的渗透，又要管得住内生缺陷的爆发，或许这场攻防战没有最终的解决办法，只有在动态制衡中筑牢防线。

三、全年产业与政策：为安全筑牢生态防线

在一系列事件的推动下，2025年的AI安全产业与政策呈现“双向加速”态势。政策层面，中国于9月1日正式施行《人工智能生成合成内容标识办法》，与欧洲“AI内容宪章”、北美“AI安全法案”形成全球治理框架的重要支柱。

产业层面，AI安全已从“小众赛道”升级为支撑产业发展的“核心基建”。根据《2025年全球及中国人工智能安全行业发展研究报告》、《全球网络安全与AI结合行业发展研究报告》、《2025年与2030年AI及AI智能体 (Agent) 市场份额分析报告》等报告显示，全球市场规模在2025年突破650亿美元，国内市场达280亿元人民币，年复合增长率超42%。供应链格局上，北美主导基础算法工具市场（占比65%），而亚太硬件级方案产能增长35%，国内企业在应用层防护领域占据58%的本土份额，核心技术的国产化替代成为新趋势。

四、展望：不是终结，而是共生的开端

回望2025，AI与安全的“相爱相杀”从未停歇，开源模型的泄露与防护、深度伪造的泛滥与溯源、自主智能体的便利与管控，每一个安全问题的解决，都催生了更成熟的AI应用。每一次AI技术的突破，又带来了新的安全挑战。这一年留给行业最深刻的领悟是：AI安全不是一劳永逸的技术攻关，而是需要持续管理、动态平衡的系统工程。