谷歌DeepMind联合多家机构设立1000万美元基金研究多智能体AI安全风险
谷歌DeepMind联合Schmidt Sciences、ARIA、Cooperative AI基金会和Google.org，宣布提供1000万美元资助学术界研究多智能体AI系统的安全问题。该基金旨在催生一个新的研究领域，聚焦数百万AI智能体在线互动时可能引发的欺诈、提示注入和网络攻击等风险。谷歌DeepMind的AGI安全负责人Rohin Shah指出，工业实验室尚未重视这类长期研究，必须通过逼真的沙箱模拟来理解涌现行为。合作方希望在智能体大规模部署前提前预判危险，Shah估计这一时刻将在数月后到来。他表示孤立研究单个智能体无法预测大规模多智能体动态，而Schmidt Sciences的James Fox警告若无前瞻研究，数字公共领域可能陷入混乱。