AI技术的突破性进展带来了前所未有的机会，但同时也带来了巨大的安全风险。正如Venables所强调的，AI平台的漏洞和攻击面与技术的发展速度几乎同步，且这种变化是动态的。无论是基础模型、深度学习系统，还是人工智能在医疗、金融、国家安全等敏感领域的应用，都面临着多种潜在的安全威胁。这些漏洞不仅可能导致数据泄露、系统滥用，还可能被恶意攻击者利用，造成更为严重的后果。

由Google Cloud Vulnerability Research（CVR） 团队领导的 Google 自己的 AI 漏洞研究发现了其 Vertex AI 平台中的关键漏洞，甚至报告了在其他云平台上发现的类似漏洞。这种类型的透明度对于构建有弹性的 AI 系统至关重要。通过披露漏洞和分享缓解策略，Google正在帮助防止同样的问题在其他地方出现。

AI系统的广泛应用使其安全性成为全球关注的焦点。从自动驾驶汽车到智能医疗，从金融风控到国家安全，AI正逐步渗透到社会的各个角落。这些系统一旦遭遇攻击或出现故障，可能带来灾难性的后果。因此，如何保障AI系统的安全，已成为开发者、监管者和公众共同关注的问题。

Venables提到，安全漏洞的发现和披露并不意味着技术的失败，而是技术不断完善和进步的过程。相反，隐瞒漏洞不仅会导致单个系统的风险积累，更可能在行业层面带来广泛的安全隐患。因此，主动披露漏洞、分享防范策略和安全措施应成为AI开发者的责任和义务。

在传统的软件开发领域，漏洞研究和安全透明度早已被视为常规做法。然而，在AI领域，由于技术的复杂性和潜在的商业竞争压力，很多AI供应商对公开漏洞持谨慎态度。Venables指出，隐瞒漏洞的做法将助长攻击者的力量，而开放和共享漏洞研究结果不仅能提高行业整体的防御能力，还能促进技术创新与合作。

谷歌的漏洞奖励计划（bug bounty program）就是一个典型例子。通过邀请外部安全研究人员参与漏洞发现，谷歌不仅能够在漏洞被恶意利用前发现并修复问题，还能够推动整个行业在安全防护方面的不断进步。此外，AI安全的开源和透明度也有助于吸引更多的技术人才和安全专家参与，从而构建一个自我修复和进化的安全生态系统。

为了应对AI领域日益复杂的安全挑战，Google提出了“安全AI框架”（SAIF）和“安全AI联盟”（Coalition for Secure AI）等倡议，推动行业的广泛协作。SAIF为AI开发者提供了一个一致的安全控制框架，确保AI技术在设计、开发和部署过程中的安全性。而安全AI联盟则旨在促进跨企业、跨行业的合作，统一安全标准与协议。这些框架为行业建立了可扩展、效益高的安全保护体系。

跨行业的协作是解决AI安全问题的关键。通过建立共同的安全标准，AI开发者可以共享最佳实践，防止漏洞在不同平台和技术中蔓延。与此同时，行业合作还能够推动政府、学术界、企业等各方共同参与，推动政策、法规以及行业标准的完善。

未来，随着AI技术的不断进化，单一公司或组织的安全防护将无法应对复杂多变的威胁。因此，建立行业层面的安全标准和协作机制显得尤为重要。Venables强调，AI的安全性不仅仅依赖于开发者自身的防护措施，更需要整个行业的协同努力，形成统一的安全标准和防护体系。

正如他所指出的，AI开发者应当摒弃对漏洞披露的负面看法，转而将其视为推动技术不断完善的动力。只有在整个行业都采取透明、开放、协作的态度，才能够实现“安全的AI技术默认启用”的目标，进而推动AI技术的健康、可持续发展。

文章参考：

https://be4sec.com/2024/11/11/why-ai-developers-must-embrace-vulnerability-research-and-transparency/