Anthropic 的 Claude Fable 5 模型发布不到 48 小时即遭越狱，AI 安全屏障再次被突破
Anthropic 最新的 AI 模型 Claude Fable 5 在发布后不到 48 小时内即被成功越狱。此次攻击由化名为“Pliny”的知名网络安全研究员实施。这一快速突破表明，即便是最先进的语言模型，其伦理过滤和安全护栏也远非万无一失。该事件再次提醒人们，最新的 AI 系统仍可能被操纵并生成潜在有害内容，引发了对用户信任和内容安全的担忧。
Loading / 加载中
Thinkgap 信息流
页面仅读取已加工的 items 表，并以中英双语呈现。
16 条内容
Anthropic 最新的 AI 模型 Claude Fable 5 在发布后不到 48 小时内即被成功越狱。此次攻击由化名为“Pliny”的知名网络安全研究员实施。这一快速突破表明，即便是最先进的语言模型，其伦理过滤和安全护栏也远非万无一失。该事件再次提醒人们，最新的 AI 系统仍可能被操纵并生成潜在有害内容，引发了对用户信任和内容安全的担忧。
微软CEO萨提亚·纳德拉公开发表评论，警告称由少数人工智能模型主导的未来本质上是“不稳定的”。该言论未附带任何额外背景信息（如演讲场合），也没有具体指明哪些模型或公司。没有提出政策建议、产品影响或具体例证。
Anthropic在发布Claude Fable 5几天后便暂停了其访问权限。该行动源于美国政府以安全担忧为由下达的命令，特别要求公司暂停外国人使用这些模型。Anthropic称该模型“过于强大”，并被迫停止对全体客户提供Fable 5和Mythos 5服务以达成合规。此事凸显了对先进AI能力日益加强的监管审查。
美国政府以国家安全为由，禁止外国公民使用Anthropic公司的Claude Fable 5和Mythos 5人工智能模型。作为回应，Anthropic宣布将立即对所有用户禁用这些模型。未披露更多细节。
据科技消息源Teknófilo称，ChatGPT月活跃用户已达10亿，增速超越TikTok和Instagram。这一里程碑表明人工智能已成为终端用户的终极日常界面，以前所未有的规模民主化了尖端工具的获取。
Anthropic 发布了两款新 AI 模型：Claude Fable 5 和 Claude Mythos 5。Fable 5 旨在提升日常工作效率，Mythos 5 则为前所未有的技术难题提供极致性能。两个模型在复杂任务中均具备卓越推理能力和更高精度。该消息源自 Europapress.es。