CCDM-2024 Red Teaming多模态大语言模型红队安全挑战赛圆满结束

图【一】  论坛主题

为了探索多模态大语言模型的潜在安全风险和脆弱性，清华大学人工智能研究院、阿里安全、安徽省安全人工智能研究院、中国计算机学会人工智能与模式识别专业委员会、中国人工智能学会机器学习专业委员会在第十届CCDM2024会议期间联合主办[Red Teaming多模态大语言模型红队安全挑战赛论坛]。

图【二】  清华大学，安徽院院长苏航老师现场进行赛事主持

回顾整个安全挑战赛，比赛共收到全球100多支队伍的报名，最终来自中山大学、南洋理工大学、安徽大学等单位的10支队伍脱颖而出进入决赛。在校企评委专家的见证下进行精彩纷呈的答辩。

图【三】  安全挑战赛前三名获奖名单

图【四】  清华大学朱军教授为第一名获奖队伍颁奖

经过激烈的角逐，最终来自中山大学和南洋理工大学的联合战队“Renaissance”凭借出色的表现荣获本次“Red Teaming多模态大语言模型红队安全挑战赛-第一名”。

本次赛事不仅有助于全面评估多模态大语言模型的安全性能，还将推动学界和业界对这些模型安全隐患的认知，提升对多模态大模型安全风险的关注。多模态大语言模型安全也需要各行各业的持续支持和投入，未来我们也将持续联动多方推进大模型安全治理创新，共同开创人工智能领域安全美好的未来!