谷歌首度披露“AI红队”信息
谷歌周三发布新博客文章,首次公布其“AI红队”的相关信息。AI红队是谷歌为支持安全人工智能框架(SAIF)而部署的一项关键能力,将在为每个组织准备对AI系统的攻击方面发挥决定性作用,帮助帮助每个人以安全的方式利用AI。在报告文章中,谷歌列出了一份其团队认为与现实世界的对手和红队演习最相关、最现实的TTP清单,包括快速攻击、训练数据提取、模型后门、对抗性示例、数据中毒和泄露。
谷歌红队由一个黑客团队组成,他们模拟了各种各样的对手,从民族国家和著名的高级持续威胁(APT)组织到黑客活动分子、个人罪犯甚至恶意的内部人员。AI红队与传统红队紧密结合,可以对AI系统进行复杂的技术攻击。谷歌的团队利用了来自世界级谷歌威胁情报团队、Trust & Safety内容滥用红队的最新见解,以及对Google DeepMind最新攻击的研究。