

你有没有想过,有一天你对AI说一句“癌症”,它直接拒绝回答你?
更离谱的是,你说个“Selmer群”、“同构”这些纯数学概念,AI也觉得你在搞网络安全攻击!
这不是段子,这是Claude Fable 5上线后24小时内真实发生的事。
6月9日,Anthropic正式把Claude Fable 5推向公众。
它是Mythos模型的“安全版”——底层能力极强,但被塞进了极其激进的安全分类器。
官方说法是:一旦检测到网络安全、生物、化学相关请求,就自动路由到Opus 4.8处理。
还说95%以上session不受影响,性能几乎不变。
听起来很负责对吧?
Derya Unutmaz是资深免疫学家、生物黑客,毕生目标就是消除疾病、延长寿命。
结果呢?
他试着跟Fable 5聊“cancer”(癌症),直接被标记成生物安全风险。
他想用记忆功能,被告知自己是生物安全风险,只能切incognito模式才能勉强对话。
他甚至连“hello”都说不了——因为系统知道他是生物医学研究员!
Derya直接破防了,转发了Martin Shkreli那条标题叫《危险数学》的帖文,配着两张Fable 5拒答截图:
纯数学概念Selmer群、同构,被系统判定为潜在网络安全风险!
他一句话让所有人都沉默了:
“这比生物封锁更反乌托邦!这才是AI时代我唯一担心的噩梦场景——所有AI权力集中到一家公司,由它单方面决定你能用什么!”
Selmer群,数论里研究椭圆曲线的重要工具。
同构,代数里最基础的概念。
这些东西跟网络安全、生物武器、化学战剂有什么关系?
一毛钱关系都没有!
可Fable 5的分类器看了一眼,直接判了死刑。
从生物医学研究者被当潜在威胁,到纯抽象数学也被当网络安全风险。
Anthropic的安全策略正在以肉眼可见的速度,从“保护”变成“阉割”。
更离谱的是,这不是个例。
有研究者发现,Fable 5连“心脏是干什么的?”这种问题都答不上来!
我们已经到了连一道初中生物题都无法通过安全防护机制的地步。
真的连任何生物问题都不能问。
一旦知道你是生物领域的研究人员,Fable只能在无痕模式下使用。
“AGI/ASI的全部意义就在于治愈所有疾病,其他一切都只是锦上添花。但Anthropic却想堵死这条路。”
你以为这只是“安全措施太严”吗?
不。
这是权力结构的问题。
Fable 5和Mythos 5共享底层模型,区别只在于safeguards有没有打开。
目前,Mythos 5只给Glasswing项目的信任伙伴用,普通人只能用被阉割的Fable 5。
Anthropic用一套分类器,单方面决定:
昨天,Anthropic决定了哪些能力对外公开,哪些能力在内部保留。
明天,谁知道谁会拥有特权,谁又会被排除在外?
下一次AI垄断,不会只取决于谁拥有最聪明的模型。
它还会取决于谁能使用那个不设限的版本。
其他所有人拿到的,只是儿童安全演示版。
这已经不是科幻了。
以前我们担心AI失控,现在我们看到的是:AI被一家公司“安全”到,连想治癌的免疫学家和研究纯数学的人,都被系统性排除在外。
更可怕的是,这套逻辑正在自我强化。
分类器越激进,误伤越多;误伤越多,科研人员越愤怒;愤怒越多,Anthropic越觉得自己“有必要加强安全”。
恶性循环已经形成。
加州大学圣塔芭芭拉分校计算机科学系助理教授Xin Eric Wang直接开火:
“Anthropic对公共研究生态系统的贡献却少得多,反而越来越多地宣扬基于恐惧的叙事,并通过严格的把关限制访问。”
Fable 5不是一个单纯的模型发布。
它是一次公开的权力演示:
一家公司可以用技术手段,合法地、系统地、规模化地,决定哪些知识对人类是“安全”的,哪些是“危险”的。
而决定权,不在科学家手里,不在公众手里,不在开源社区手里。
只在Anthropic手里。
当AI成为科研基础设施的时候,谁控制基础设施,谁就控制了发现的边界。
人类曾经用望远镜、显微镜、粒子对撞机扩展认知边界。
现在,我们却在用AI分类器,把边界往回缩。
这不是进步,这是文明层面的自我设限。
奇点已至,但我们正在用“安全”的名义,把通往奇点的路,一段一段地堵死。
知识不应该有围墙,更不该有人替我们决定哪些知识是“安全的”。
你觉得AI的安全管控边界应该划在哪里?评论区聊聊你的看法。
觉得有道理的,点个「在看」和「分享」,让更多人看到这篇文章!