跳到正文
← 全部笔记
生活随笔BOOTNOTE

K3开源到底开了什么?

尹睦3 分钟阅读

原载公众号 BookNote · 保留原文观点与写作日期

#生活随笔

阅读公众号原文 ↗

前几天,Kimi 的 K3 模型正式问世,昨天,K3 开始开放模型权重。这个开放模型权重,意思就是把模型的细节公布出来,让有实力的厂商都可以自己部署这个家模型。看起来好像任何人都可以用上他们的开源模型,但是事实上没有那么简单。最核心的事情在于,经过很多专业测算,想要完整部署K3,需要的算力卡成本大概是 3000万人民币,即使在各个方面节约,最后的成本也不会低于1000万。国内能拿出这么多成本去布局AI的企业依然屈指可数。那这个开源到底有什么意义呢?先说结论:开源不是让每家公司都买得起一套K3,而是让整个行业都有得选。 K3有2.8万亿总参数,虽然每次只激活1040亿参数,但完整权重依然非常大。官方部署方案里,最低要8张GB300;换成H200需要16张,H100需要32张。再算上服务器、网络、存储、机房和冗余,生产级部署进入千万级并不奇怪。所以K3开源,不等于免费,更不等于人人都能在办公室里跑起来。但把它理解成我买不起,所以开源没用,就像说普通人造不起电厂,所以开放电力市场也没用。一个云厂商花钱部署,可以服务成千上万家公司;十个厂商部署,就会出现十套API、十种价格和十种服务方案。大部分企业仍然不用自己买显卡,却不必再接受唯一供应商的价格和规则。开源降低的不是一套机器的价格,而是竞争进入这个市场的门槛。这也是K3真正让闭源模型紧张的地方。以前,一家企业研发出最强模型,只能把数据、成本和业务连续性交给少数几家公司。对方涨价、限流、下架,甚至因为政策突然断供,你都没有办法。

但是有了开放权重,有能力的大厂可以自己部署,云服务商可以托管,芯片公司可以适配,开发者可以量化、蒸馏和优化。今天需要3000万,不代表半年后仍然需要3000 万。部署成本会随着推理框架、国产芯片和工程优化继续往下掉。而更重要的是,闭源公司失去了只有我能卖给你的确定性。 AI行业没有永久护城河,只有版本。K3又把这句话往前推了一步。过去大家竞争的是谁先做出最强模型。现在还要竞争:当别人把接近你的能力开放出来以后,你还能凭什么维持原来的价格、生态和利润?当然,K3开源不会消灭闭源模型。绝大多数人还是会直接买API,因为方便、稳定,也不需要养一支基础设施团队。但从今天开始,买API是一种效率选择,不再是唯一选择。 K3没有让每个人都拥有前沿AI,它让前沿AI第一次不再只能被少数公司拥有。 3000万说明这项能力仍然昂贵;开源说明通往这项能力的钥匙,不再只有一把。这才是K3给业界带来的真正冲击。我是敦敦,多年获客操盘手,如果你对流量获客有任何想法或者困惑,欢迎和我聊聊。

—

有值得继续追问的问题?写信交流 ↗