阿里发布安全基建大图，为新基建搭建免疫系统

2020-09-02 11:17

安全AI从概念到落地

去年12月，阿里安全提出“安全AI”概念，指出安全和AI是互相促进的有机体。一方面，AI技术应用在安全领域，可以让安全能力更智能；另一方面，安全技术应用在AI领域，可以让AI能力更可靠。

阿里安全认为，安全技术在经历了专家运营阶段、数据智能阶段后，已经迎来的安全AI阶段。在安全AI阶段，更多的安全识别、决策、处置等关键动作将主要依靠AI来实现。

目前，阿里安全正在做的是，主动挖掘机器学习算法的安全漏洞，以期构建更加安全和可信的AI系统，并发展新的机器学习算法，逐步将AI的安全问题体系化、标准化。

在今年CVPR 2020关于行为检测AI的两项赛道任务中，阿里和华科大联手提出的解决方案不仅获得了双料冠军，并以平均均值精度（mAP）42．788％的性能一举打破众多顶尖科技公司、科研院校去年无法突破40％的瓶颈，在AI视觉领域带来新的可能。

行为检测AI经过长时间打磨，在阿里安达实验室的多媒体AI和安全审核等系统中布局成为安全AI的核心组件之一。

行为检测AI在体育、直播、影视传媒和安防领域有广阔的应用前景，比如精彩动作检测、智能集锦生成、介绍商品行为，以及通用动作检测识别、多模态搜索、异常动作检测等。

安全架构理念促进技术开发

阿里安全的新一代安全架构的应用成果促进了AI技术的发展和进步，为新一代人工智能的理论方法研究提供了支持。

基于从源头打造安全免疫力的新一代安全架构理念，最近，阿里安全发布了一项核心技术“AI安全诊断大师”，可对AI模型全面体检，让AI模型出生就自带增强型免疫力，抵御安全威胁。

它提供了全方位的体检与诊断开方服务，对AI模型进行体检后，通过诊断算法可能出错的特殊情形，给模型防御增强提供细化指导。

其提供了一个可视化界面，以模型的损失曲面分析图呈现被评估AI模型的输入扰动及响应表现，可以直观地看出AI模型的总体安全性能，曲面越平缓，AI遭遇攻击时，抵御攻击的能力更强。

“AI安全诊断大师”检测到算法服务的潜在安全风险后，还有针对恶意攻击的防火墙功能，定制化提供防御升级的建议。

经过在色情、暴恐、敏感图像识别等多种内容安全服务上的测试，可将模型对外部攻击的有效防御能力整体提升40％以上。

结尾：

未来基于新基建下的智慧城市、智慧社区和智慧生活，虽然会体验到互联网带来的便利性，但同时也要承受网络安全带来的挑战，未来新基建的基础应该是网络安全。

网络安全绝对是未来新基建最重要的基石，想要人们体验智慧城市带来的完美体验，就必须完善网络安全体系。

<上一页 1 2

声明： 本文由入驻维科号的作者撰写，观点仅代表作者本人，不代表OFweek立场。如有侵权或其他问题，请联系举报。

共0条评论，0人参与

登录登录即可访问所有OFweek服务

请输入评论内容...

请输入评论/评论长度6~500个字

暂无评论

图片新闻