谷歌首度披露“AI红队”信息

谷歌周三发布新博客文章，首次公布其“AI红队”的相关信息。AI红队是谷歌为支持安全人工智能框架（SAIF）而部署的一项关键能力，将在为每个组织准备对AI系统的攻击方面发挥决定性作用，帮助帮助每个人以安全的方式利用AI。在报告文章中，谷歌列出了一份其团队认为与现实世界的对手和红队演习最相关、最现实的TTP清单，包括快速攻击、训练数据提取、模型后门、对抗性示例、数据中毒和泄露。
谷歌红队由一个黑客团队组成，他们模拟了各种各样的对手，从民族国家和著名的高级持续威胁（APT）组织到黑客活动分子、个人罪犯甚至恶意的内部人员。AI红队与传统红队紧密结合，可以对AI系统进行复杂的技术攻击。谷歌的团队利用了来自世界级谷歌威胁情报团队、Trust & Safety内容滥用红队的最新见解，以及对Google DeepMind最新攻击的研究。