人工智能（AI）技术正在改变众多行业的业务运营模式，不仅可以将大量的人力资源从繁琐的事务性工作中解放出来，还可以通过快速而准确的大数据分析，为企业提供前所未有的洞察力。不过在AI技术快速应用发展过程中，其安全威胁在快速演变，这是由AI系统日益增长的复杂性和普遍性所驱动的。

为了防范AI技术大规模应用的安全风险，企业需要打赢一场“双线战争”，不仅需要阻止攻击者对已部署AI模型的破坏，而且还要面对攻击者利用AI技术发起各种新攻击。在此背景下，零信任技术有望成为帮助企业有效缓解AI应用风险的灵丹妙药。AT&T Business（美国电话电报公司）安全专家Keith Thomas在其最新发表的博客中表示：零信任安全技术的适应性和稳健性特别适合帮助企业组织应对先进AI技术应用中不断变化的安全风险与威胁。因为零信任技术具有以下天然的安全属性和防护优势：

• 零信任架构：基于最小特权原则设计细粒度访问控制。从安全角度来看，对每个AI模型、数据源和用户的保护都应该单独设计的，应该拥有严格定义的权限，只允许访问必要的内容。零信任方法能够大大减小可被攻击者利用的威胁面；
• 零信任可见性：零信任强调所有数字资产的深度可见性，包括AI算法和数据集。这种透明度使组织能够快速监控和检测异常活动，帮助其迅速缓解AI应用时特有的威胁，比如模型漂移或数据操纵；
• 零信任持续安全监测和评估：在快速发展的AI领域，只关注静态安全威胁态势是远远不够的。零信任技术能够促进组织对安全控制的持续评估和实时适应，帮助组织面对AI威胁时能领先一步。

零信任技术倡导更严格的访问控制、更全面的可见性和更持续的威胁监控。当网络犯罪分子企图通过攻击AI系统时，零信任安全技术将发挥出重要作用。以下是零信任技术在应对AI应用风险时的一些关键性功能：

• 身份和访问管理（IAM）：AI技术应用时需要实施稳健的身份验证机制，比如多因素身份验证，以及针对用户行为和风险级别评估的自适应身份验证技术。因此，部署遵循最小权限原则的细粒度访问控制，确保用户只拥有执行任务所需的访问权限，这一点至关重要。
• 网络分段：在零信任技术理念中，会根据信任级别和数据敏感度将网络划分为更小的隔离区域，并部署严格的网络访问控制和防火墙以限制网段间通信。它还需要使用VPN等安全连接，以远程访问敏感数据或系统。
• 数据加密：使用稳健的加密算法和安全密钥管理实践对静态和传输中的敏感数据进行加密至关重要。对通信通道实施端到端加密对于保护与外部系统交换的数据也必不可少。
• 数据丢失防护：这指部署DLP解决方案来监测和防止潜在的数据泄露，使用内容检查和上下文分析来识别和阻止未经授权的数据传输，以及定义DLP策略来检测和防止敏感信息传输到外部系统（包括AI模型）。
• 用户和实体行为分析（UEBA）：实施UEBA解决方案有助于监测用户行为，并识别异常活动。分析模式和正常行为的偏差可以检测窃取数据的潜在活动，还可以通过设置实时警报或触发机制，向安全团队通知任何可疑活动。
• 持续监测和审计：部署稳健的监测和日志记录机制对于跟踪数据访问和使用情况至关重要。利用安全信息和事件管理（SIEM）系统有助于聚合和关联安全事件，定期检查日志和主动分析可以减少潜在的安全泄露事件。
• 事件响应和补救：为数据泄漏或未经授权的数据传输专门制定事件响应计划至关重要。应该明确界定事件响应团队成员的角色和职责，定期进行演练和演习，测试计划的有效性。
• 安全分析和威胁情报：利用安全分析和威胁情报平台是识别和减轻潜在风险的关键。及时了解与AI系统相关的新威胁和新漏洞，并相应地调整安全措施也至关重要。

参考链接：

https://cybersecurity.att.com/blogs/security-essentials/understanding-ai-risks-and-how-to-secure-using-zero-trust