IT之家 6 月 11 日消息，此前，Anthropic 被曝会在用户不知情的情况下，限制竞争对手使用新模型 Claude Fable 5 开发其他 AI 模型。AI 研究社区强烈反对后，Anthropic 决定做出点改变。
Anthropic 在给《连线》的声明中致歉称：“我们正在调整 Fable 5 面向前沿模型开发的安全防护措施，让这些措施对用户可见。我们作出了错误权衡，也为没有拿捏好平衡而道歉。”
Anthropic 本周早些时候发布 Claude Fable 5。作为最新模型，Claude Fable 5 加入了额外护栏，用于防止滥用。用户如果询问网络安全、生物学或化学问题，系统会把请求转交给能力较弱的 AI 模型，以降低先进 AI 被用于网络攻击或生物武器制造的风险。
但面对使用 Claude Fable 5 从事前沿 AI 开发的研究人员，Anthropic 原本准备采用另一套更隐蔽的做法：在用户不知情的情况下，故意降低模型表现。换言之，研究人员如果试图用 Claude 训练竞争性 AI 模型，Claude Fable 5 可能会暗中“拖后腿”。
据IT之家了解，Anthropic 的服务条款明确禁止使用 Claude 训练竞争性 AI 模型。
官方最新给出的措施是，Claude Fable 5 面向 AI 开发的安全防护措施会改为对用户可见。如果 Anthropic 怀疑用户试图使用 Claude 构建高能力 AI，Anthropic 会明确提醒用户系统将拒绝请求，或将用户转到能力较弱的模型。
Anthropic 是在 AI 研究社区强烈反对后撤回该政策的。据IT之家了解，此前，其已限制竞争对手使用 Claude 构建闭源和开源 AI 模型，但批评者认为，面向特定用户悄悄降低模型性能已经越过界线。
当前，Claude 智能体已经成为许多开发者喜爱的工具，开源 AI 研究项目也在使用 Claude。多名研究人员告诉《连线》，如果 Anthropic 最新政策落地，先进 AI 研究未来可能被少数头部 AI 实验室垄断。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
机器之心Pro 2026-06-10 15:03:01
华尔街见闻官方 2026-06-11 13:53:28
新智元 2026-06-11 16:06:17
量子位 2026-06-11 16:23:55
量子位 2026-06-11 12:13:41
量子位 2026-06-10 14:45:24
智东西 2026-06-11 20:36:13
机器之心Pro 2026-06-11 15:49:58
新智元 2026-06-11 10:02:21
DeepTech深科技 2025-12-26 18:07:26
澎湃新闻 2026-06-11 08:00:27
量子位 2026-06-07 04:37:43
钛媒体APP 2026-06-11 18:19:20
智东西 2026-06-11 22:01:56
DeepTech深科技 2025-12-24 14:02:44
量子位 2026-04-23 11:44:18
财联社 2026-06-11 21:22:08
财联社 2026-06-11 17:28:58
果然探影 2026-06-10 09:45:34
北青网-北京青年报 2026-06-11 13:19:02
澎湃新闻 2026-06-11 12:16:30
骑着蜗牛追导弹85 2026-06-10 11:40:00
新智元 2026-06-10 06:02:18
新智元 2026-06-10 11:29:23
南方都市报 2026-06-11 14:08:24
红星新闻 2026-06-11 11:28:53
硬核玩家2哈 2026-06-09 10:56:46
中国新闻周刊 2026-06-11 07:22:08
方蕊 2026-06-10 11:43:10
北青网-北京青年报 2026-06-11 12:27:30
飛尚日记 2026-06-10 10:48:35
星视频 2026-06-11 15:03:06
钛媒体APP 2026-06-11 14:06:21
AppSo 2026-06-11 14:28:34
BioArt 2026-06-10 08:44:22
英中眼 2026-06-11 20:05:31
上海发布 2026-06-11 14:10:30
晚星归航2 2026-06-11 22:26:21
SuperStreet超级街 2026-06-09 09:15:13
澎湃新闻 2026-06-11 11:52:30