DoNews12月11日消息（记者 翟继茹）11日，阿里安全图灵实验室整理归纳了学界针对AI模型提出的32种攻击方法，以此为基础搭建了一个自动化AI对抗攻击平台CAA，帮助检测AI系统存在的安全漏洞。

据介绍，经CAA“体检”后，AI安全专家可针对被检测AI的薄弱地带提出安全建议，帮助AI鲁棒性（稳定性）检测，以此增强AI系统的安全性。近日，该研究成果被人工智能顶会AAAI2021接收。

相比业界此前提出的其他攻击工具箱，阿里图灵实验室研发的自动化对抗攻击平台CAA首度实现了对抗攻击的“工具化”。它让AI应用的使用者即使不具备任何专业领域知识的情况下，也可以进行AI模型的对抗攻击和鲁棒性测试。

此外，CAA还可预先评估待检测AI的特性，通过自动化搜索技术来合成多个攻击算法的组合，提升了现有模型攻击方法的性能和效率。阿里安全专家通过实验表明，CAA超越了最新提出的攻击方法，是可有效评估当前AI系统安全性的“攻击”。

阿里安全图灵实验室算法专家箫疯表示，阿里安全首次提出将智能技术引入到对抗攻击中，使得所有攻击细节和参数作为一个黑箱，而攻击者只需要提供目标模型和数据，算法就会自动选择最优的攻击组合和参数。（完）

来源：DoNews资讯