这几天AI圈的神仙打架，看得我直呼过瘾。
10月1日，LeCun（杨立昆）在《Fortune》采访里说Anthropic的Dario妄想，称有效利他主义有毒。
10月3日，Altman也开口了：赋予AI宗教力量，或者把人的判断交给模型，让他感到很不舒服。他认为这是一个真正的安全问题。
[图片]
这条原帖虽然没有点名Anthropic，但全世界都知道他在说谁。
但他们吵架不是因为私人恩怨，只是在争一件事：谁有资格定义AI的危险？
1.定义危险，就能影响门槛
你说自己的模型更强，别人可以做一个更强的来竞争。可如果你能影响什么模型允许发布，竞争对手就得先过你认可的那道关。
这事已经有具体方案了。
今年6月，Dario主张达到一定算力门槛的模型接受强制第三方测试，政府应有权阻止风险不可接受的模型部署。
这套主张可以讨论。但它也把一个技术问题变成了权力问题：测试由谁设计，危险由谁认定，谁能对结论提出异议？
模型做得好，是参赛资格；定义谁能参赛，是裁判权力。
说白了，几家AI公司的争论，也会影响其他人有没有资格进场。
2.安全才是真的护城河
你想想，假如一道评估流程要求养专门团队、反复审查、长期等待，大公司能消化，小团队可能还没卖出产品，钱就烧光了。
同一道门槛，对巨头是成本，对后来者可能是墙。
Anthropic在2025年的透明度方案里，也提出给小开发者适当豁免。
所以不能一句监管就是垄断糊弄过去。要看最终规则到底约束了巨头，还是替巨头挡住了对手。
我相信有人真心担忧安全。但真心担忧和商业利益，完全可以同时存在。
替全人类负责的口号，不能成为商业利益免于审查的理由。
3.资格
我以前写过，模型从来不是中立基础设施。现在更值得警惕的，是模型厂商进一步影响使用它的资格。
我喜欢AI，是因为它让普通人也能做以前做不起的事。
最扫兴的未来，就是技术刚把门槛拆掉，几家公司又打着保护所有人的旗号，把门槛装回去。
全世界忙着讨论AI有没有灵魂，结果最后我们连用什么工具，都得先看几家公司的脸色。
所以，安全需要有人管，管安全的人也得有人管。
如果几家公司既能制造最强的AI，又能决定谁有资格使用它、谁有资格挑战它，那我们该担心的，就不只有模型失控了。
替全人类做主的权力，本身就是一个需要防范的安全问题。
有值得继续追问的问题？写信交流 ↗