安全人工智能技术和算法平台

国内最早开展AI算法安全研究团队，发表顶级期刊/会议论文近百篇，获包括首届国际对抗攻防竞赛冠军在内的重要国际竞赛冠军7项

“鲁棒高效的深度学习理论与方法”获2021年吴文俊人工智能自然科学一等奖

研制具有自主知识产权的人工智能算法安全评测平台，牵头在IJCAI、CVPR等顶级国际会议上组织AI安全挑战者系列竞赛，26个国家/地区900+校企40,000+人参加。同时基于此平台面向全国数十款大模型开展安全评估工作

被人民日报、人民网等正面肯定，对我国“培养一流网络安全技术人才”做出的贡献

全面评估了依赖视觉的自动驾驶模型的自然鲁棒性和对抗鲁棒性，以深入了解不同的表征方法对模型鲁棒性和安全性的影响。

综合考虑自然干扰和对抗干扰，设计了27类典型的自动驾驶安全风险架构，实现恶劣天气、传感器噪声等引起的自动驾驶鲁棒性评估