2024 VDC安全与隐私会场:持续构建安全能力,应对AIGC时代新挑战
2024-10-13 02:0:0 Author: mp.weixin.qq.com(查看原文) 阅读量:8 收藏

2024 vivo开发者大会于10月10日在深圳成功举办。安全与隐私会场上,vivo聚焦可信OS构建与升级、AI赋能可信生态以及AIGC带来的安全挑战与解决方案等热点议题,并向在场开发者及合作伙伴展示了过去一年在安全领域的最新产品和技术创新成果,构建更加可信的安全生态。

全面拥抱AI,共建透明可信的安全体验

在AIGC时代,用户与移动应用面临的安全风险日益增多。vivo安全规划负责人邹力佳指出,vivo致力于为用户提供卓越的安全体验。今年,vivo在可信OS上持续升级,针对三大场景升级本机体验:从数据安全到设备安全,为用户提供双重保障;在权限管理上,vivo提供透明智慧的权限管控体验;同时AI加持vivo千镜,提供全链路诈骗防护。vivo也利用AI为平台工具进行提效升级,和行业伙伴共建可信生态。此外,vivo在数据安全、模型安全、内容安全及运营安全四个方面为AIGC安全保驾护航。

vivo安全规划负责人邹力佳

强化可信底座,护航智慧服务

vivo对千镜安全架构持续优化。vivo首席安全研究专家胡志远表示,今年vivo对千镜安全架构各个层面的能力进行了拓展,充分利用安全启动芯、安全计算芯和安全支付芯三颗安全芯片,分别守护系统安全、敏感数据安全和支付安全,实现多芯融合,专芯专用

vivo首席安全研究专家胡志远

同时,vivo与DARKNAVY深度合作,在手机可信执行环境(TEE)中共同推进了量化安全评估(AVSS,Adversarial Vulnerability Scoring System)的应用。AVSS作为网络安全碰撞测试,通过模拟真实的攻击场景,针对TEE中的生物特征数据的机密性、完整性和可用性,以及密钥管理和权限管理等安全保护能力进行了量化评估,评估各组件攻击成本,不断提升TEE安全能力。

DARKNAVY安全研究员肖轩淦

另外vivo千镜安全架构新增多端协同的数据保护能力,包括查找网络、密码保险箱同步、支持跨设备跨生态的通行密钥三种能力,为用户提供更全面、智能的安全保障

AI赋能可信生态,千镜可信引擎新增三大能力

千镜可信引擎,作为vivo行业首发的端侧系统级风险检测引擎,通过对手机芯片、内核、框架和应用各层级进行可信度量,确保用户能够更安全地使用手机。

vivo安全总监史领航表示,今年vivo通过AI赋能升级,推出了AI诈骗应用识别、AI识别诈骗电话、AI端决策模型三大能力。升级后的千镜可信引擎优化了检测链路,可实现风险拦截和预警,助力用户止损并协助业务进行风险控制。

vivo安全总监史领航

在多设备全场景的智能互联中,终端风险变得分散且隐蔽,模糊的风控决策增加用户困扰。解决的关键在于确保真实用户、真实设备、真实目的和真实请求。蚂蚁终端安全通过和vivo千镜可信引擎合作,构建端上隐私计算范式,以“应用、设备、身份、业务”四大可信能力应对挑战,驱动可信互联未来。

蚂蚁终端安全负责人万小飞

积极应对安全挑战,推动产业健康发展

面对AIGC带来的新安全挑战,vivo安全合规高级经理吴佳颖分享了vivo针对AIGC安全问题所带来的安全挑战以及解决策略。针对AIGC特有风险,vivo推出了《大模型安全风险评估基准》,能持续跟进大模型的迭代更新,整体度量大模型全生命周期的安全水平。

vivo安全合规高级经理吴佳颖

vivo构建了大模型管理平台和内容安全策略平台,并针对不同的内容场景,建立了完善的内容标签体系,并据此开展内容安全质量评估并出具报告。在源头数据质量把关方面,vivo对训练数据进行严格清洗与质量监测,确保其合法性和可靠性。

百度安全技术委员会主席包沉浮

在整套治理环节中,vivo与合作伙伴百度共同努力,针对数据及数据源的不同问题进行专项处理,形成了一套全面的训练语料清洗与质量监测体系,对大模型训练语料进行提质纠偏,从源头护航AIGC安全。

中国信息通信研究院人工智能研究所安全部主任石霖

除了不断夯实内部安全能力外,vivo还在行业内开展广泛合作。中国信息通信研究院人工智能研究所安全部主任石霖表示,在信通院成立AIIA安全治理委员会构建人工智能安全评测体系的过程中,vivo积极参与各项工作并贡献了实践经验。2024年7月,vivo率先通过了信通院首轮AIIA大模型安全测评,携手合作伙伴共同促进AI产业健康发展。

拥抱AIGC,全面增强安全工具

vivo一直致力于构建覆盖全面、检测高效的安全检测能力,以发现移动应用的安全与隐私风险。vivo安全工具高级经理宣伟表示,今年vivo安全工具建设的核心思想是“拥抱AI,全面增强”。会上,宣伟分享了vivo的最新技术创新成果——千镜大模型安全检测平台,其可以保障大模型输出内容的安全,以解决AIGC带来的安全合规方向的新挑战。

vivo安全工具高级经理宣伟

安势信息高级安全专家陈泽远

vivo与安势合作研究了针对Android应用跨语言场景的静态分析能力,可检测现有分析工具无法检测的复杂漏洞场景,并为人工挖掘跨语言漏洞提供了自动化工具的支持。

双引擎驱动,用户数据更安全

在数据安全方面,vivo安全工程师曾志均表示,对数据进行科学分类分级并建立详尽的数据资产台账,是制定有效的数据安全治理策略和实现精细化管控的基础。vivo将不断提升现有的大模型和规则识别双引擎能力,努力提高识别准确率和召回率,打造分类分级智能体,赋能更多业务场景,为用户的数据安全保驾护航,持续提高vivo用户的安全体验。

vivo安全工程师曾志均

随着AIGC时代的到来,vivo全面拥抱AI,携手开发者共建可信透明的安全生态。未来,vivo安全将以技术创新为驱动,深化AIGC技术在安全领域的应用,通过持续优化安全工具与平台,为用户提供更加高效智能的安全服务。

往期推荐:

AI重构未来,安全防范未然丨vivo 2024安全与隐私主题周活动圆满落幕!

圆满举办|ISC2华南分会vivo专场:数字安全新纪元 大模型与Web3.0的实践探索 活动总结

行业首批!vivo成功通过信通院AIIA安全标准测评

关注我们,了解更多安全内容!

文章来源: https://mp.weixin.qq.com/s?__biz=MzI0Njg4NzE3MQ==&mid=2247491864&idx=1&sn=782ae134d068d766268bba9b44e259b2&chksm=e9bac774decd4e62891770bb7a1f236557d0b9fd691fa0c9bfe3b797aa5afc57650db2f7383b&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh