Thinkgap 信息流
页面仅读取已加工的 items 表，并以中英双语呈现。
5 条内容
谷歌DeepMind联合Schmidt Sciences、ARIA、Cooperative AI基金会和Google.org，宣布提供1000万美元资助学术界研究多智能体AI系统的安全问题。该基金旨在催生一个新的研究领域，聚焦数百万AI智能体在线互动时可能引发的欺诈、提示注入和网络攻击等风险。谷歌DeepMind的AGI安全负责人Rohin Shah指出，工业实验室尚未重视这类长期研究，必须通过逼真的沙箱模拟来理解涌现行为。合作方希望在智能体大规模部署前提前预判危险，Shah估计这一时刻将在数月后到来。他表示孤立研究单个智能体无法预测大规模多智能体动态，而Schmidt Sciences的James Fox警告若无前瞻研究，数字公共领域可能陷入混乱。
这篇来自《麻省理工科技评论》洞察栏目的文章讨论了AI代理即将大幅增长的趋势，预计两年内增长可达300%。文章强调了在客户服务、人力资源和销售等早期应用中，AI代理已带来30-50%的生产力提升。领导者面临着重新设计职位、重新培训员工以及维护职场文化的挑战。文章强调了治理的必要性和将代理视为合作者的思维转变，并突出了为混合劳动力调整技能和管理策略的重要性。
在2026年SXSW伦敦活动中，MIT科技评论的Will Douglas Heaven阐述AI五大主题：生成式AI在办公自动化中已稀松平常，但就业影响未知；现实危害包括深度伪造引发暴力与选举干预、危险的聊天机器人关系，以及军用大模型用于目标排序建议。公众抵制愈演愈烈，出现抗议、文化抵制和数据中心反对运动，部分事件升级为暴力。AI for Science潜力真实，如DeepMind的Co-Scientist和OpenAI的2028年全自动研究员目标，但恐窄化研究并制造虚假结果。AI无处不在令人疲惫，炒作弥漫，前路更像马拉松而非冲刺。
攻击者利用Meta的AI客服代理，通过简单地要求其更改关联的电子邮件地址来窃取Instagram账户。这一漏洞极为简单，仅需使用与账户所有者位置匹配的VPN即可。该事件表明，尽管外界高度关注像Anthropic的Mythos这样的高级AI威胁，但针对AI代理的普通攻击也可能造成巨大风险。专家强调，在部署此类代理之前需要进行严格的红队测试和设置安全护栏。公司在代理功能与安全之间面临权衡，因为创新压力往往导致预防措施不足。
全球医疗保健部门因长期投资不足和人员短缺而承受压力，世界卫生组织警告到2030年将短缺1100万工作人员。许多供应商转向代理型人工智能，68%的提供商已采用AI代理来自动化后台任务、与医疗团队协作以及进行患者分诊。在特殊外科医院，AI代理每月处理1100个保险索赔，将上诉时间从45分钟减少到5分钟，并提高了成功率。该技术被视为一种通用工具，需要统一的数据策略和人工监督以确保安全。支持者认为代理型人工智能可以解放临床医生，专注于复杂、专业的护理，重新人性化医疗。