
全文速览图

你要说最近 AI 行业里,最热的、被讨论最多的一件事。
那必然就是一个由老黄、Anthropic、kimi、开源,看着风牛马不相及的 4 个词,共同串起的故事。
故事是这样的。
前几天,7 月 24 日,黄仁勋发了自己在 X 上的第一篇帖子。

这个 AI 圈可能最火的男人,为了发这封公开信,不惜注册了个 X。
这封信的名字叫《Open Weights and American AI Leadership》,开放权重与美国 AI 领导力。

大概意思就是,AI 会改造每一个行业,驱动每一家公司,也会被每一个国家建设。
开放模型能强化安全、加快创新,也能带来技术主权。
这个世界既需要最前沿的闭源模型,也需要最前沿的开放模型。
咱们不能制裁开源模型啊。
老黄之所以这么操碎了心,其实是有前情提要的。
我们把时间拨回 11 天前,那天有一个标志性的事件发生。
7 月 17 日凌晨,Kimi K3 正式发布。

2.8 万亿总参数,1040 亿激活参数,原生视觉能力,100 万 Token 上下文。
最关键的是,Kimi 当时就承诺,模型权重会在 7 月 27 日正式开源。
这,是全球首个开源的 3T 级模型。
一个中国团队,在算力远没有那么宽裕的情况下,做出了一个能力逼近全球最强闭源模型的东西,还要把权重交给全世界。
这一下子,美国那边的气氛就变得不对劲了。
7 月 22 日,美国白宫科技政策办公室负责人 Michael Kratsios 公开指控月之暗面,声称 Kimi K3 的开发使用了对 Claude Fable 5 的大规模蒸馏。

不过有趣的是评论区。
大家可以看看群众的呼声。

然后呢,美国财政部长好死不死,火上浇油,又提到了贸易黑名单和制裁。

评论区这下彻底沦陷了。



这个事越闹越大,眼瞅着一场原本关于模型能力和开源路线的竞争,迅速被拖进了知识产权、国家安全、出口管制和中美科技竞争里。
也就在这个时间点,黄仁勋站出来了。
他接受采访,公开反对封禁中国开源模型。

两天以后,他发出了人生第一条 X,用一封公开信告诉华盛顿,开放模型关乎美国的创新、竞争、安全和技术主权,你不能封禁,不能制裁,我们得鼓励开源。
讲道理,老黄为了卖卡,真的是操碎了心。
然后呢,在最下面,一个很长的 Logo 墙被贴了出来,整个科技行业开始排队在公开信上签名。
公开信刚发布的时候,签名的有 25 家公司和组织。
英伟达、微软、Meta、IBM、戴尔、Palantir、Mistral、Hugging Face 等等等等。
到了周末,名单开始疯狂变长。
OpenAI 来了,Google 来了,SpaceX 来了,AMD、Cisco、Cloudflare、GitHub、Linux Foundation、Mozilla、Vercel、Y Combinator、OpenClaw 等等,也全都来了。
到我写这篇文章的时候,已经有 77 个签署者了。

也有无数的大佬疯狂打 Call 站台。

好久好久好久没见过这么集结,一起起义,同仇敌忾的了。
但是如果细心的朋友就会发现,上面那个 logo 墙,几乎集结了美国绝大多数的前沿科技公司,甚至英伟达和 AMD 都世纪同框了,但是你会发现,莫名其妙的怎么缺了一个熟悉的名字。
Anthropic。
我觉得这张世界名画可以改名叫《Anthropic 在哪里?》。
甚至有网友直接恶搞做了一个视频,我笑蒙了,我必须要给大家看看。
而就在 Anthropic 装死,美国科技巨头们联手推特上书起义之时。
本次事件的导火索,在昨晚,也就是 7 月 27 日晚上 23 点 13 分,正式官宣了 Kimi K3 开源。

而且这个开源程度,远超乎我的意料。
我本来以为只是开源模型权重而已。

结果。
模型权重,开源。
详细的技术报告,也放出来了。
训练 K3 用到的关键 Infra,也开源。
全都开。。。
我大概列举一下。
Kimi K3 模型权重,一个 2.8 万亿参数的 MoE 模型,一共有 896 个专家,每个 Token 激活其中 16 个。
然后是 K3 完整的技术报告,一共 47 页。

这里面公开了 KDA 和 Attention Residuals 的架构细节,解释了他们如何用 3 比 1 的比例混合 KDA 与 Gated MLA,如何让信息跨越几十层继续流动。

还有 Stable LatentMoE。
896 个专家只激活 16 个,稀疏程度高得离谱,Kimi 又用 SiTU GLU、Quantile Balancing 这一整套方法,把这种极端稀疏的训练维持在稳定状态。

还有 MoonViT V2、百万 Token 上下文的强化学习基础设施、大规模任务合成、后训练方法,接近 20 个内部评测集的完整结果也放了出来。

这个技术报告很详细和扎实,推荐一读。
除了技术报告之外,还有开源的关键 infra 技术。
MoonEP,一套专门为超大规模 MoE 打造的专家并行通信库。

MoE 训练时,经常会出现某些专家忙得要死,某些专家闲得抠脚,最后所有 GPU 都得等最忙的那一张卡。
MoonEP 会根据当前路由结果,动态复制一小部分热门专家,让每张卡收到完全一样数量的 Token,同时维持静态内存形状,避免训练越跑越碎,最后直接 OOM。
这已经属于超大模型训练里非常底层、非常值钱的东西了。
FlashKDA,Kimi Delta Attention 的高性能算子。

它用 CUTLASS 实现,在英伟达 H20 上,相比 flash linear attention 基线,prefill 速度提升了 1.85 倍到 2.31 倍,还可以直接接进现有的 flash linear attention 后端。
再往下,还有 AgentENV。

这是 Kimi 和 KVCache.ai 一起做的分布式 Agent 沙箱系统,也是 K3 做大规模 Agent 强化学习时真正跑环境的那层底座。
它可以在一堆机器上同时启动海量 Firecracker 微虚拟机,环境恢复低于 50 毫秒,暂停低于 100 毫秒,还原生支持快照、恢复和 fork。
一个 Agent 跑到某个关键节点以后,可以直接分叉成几十条互不干扰的轨迹,继续并行探索。
虽然我对底层技术不是很了解,只是纸上谈兵的一些浅薄知识,但是从这几个技术来说,我觉得已经能感受到真香了。
真的就是掏老底了。
MoonEP 解决超大 MoE 模型的通信和负载。
FlashKDA 解决新注意力架构的算子效率。
AgentENV 解决 Agent 强化学习需要的海量真实环境。
开源社区要起飞了。
如今,我愿将 Kimi 和 DeepSeek 并称为开源二圣。
我也读了一下这次 Kimi K3 的许可证。

普通研究者、开发者和公司,可以免费使用、复制、修改、部署、微调、分发,也可以做衍生产品和商业化。
它只给超大规模商业使用留了两道门槛。
如果你做模型服务生意,公司及关联方连续 12 个月总收入超过 2000 万美元,需要另行和月之暗面签协议。
如果使用 K3 的商业产品月活超过 1 亿,或者单月收入超过 2000 万美元,产品界面需要显著展示 Kimi K3。
对,需要显著展示 Kimi K3 就行。
菩萨啊。。。
已经有人说,如果 Kimi K3 能给他带来单月 2000 万美元的收入,别说显著展示 Kimi K3 的品牌标识了。
他可以把 Kimi 的 logo 纹在屁股上,甚至可以纹两个。
今天这晚,随着 Kimi K3 的开源,我感觉把整个事件,推向了最终的高潮,舆论基本一边倒。

也在 Hugging Face 中,创造了历史。

这一刻,美国的态度,和 Kimi K3 开源,有了一种神奇的化学反应。
未来,这件事有可能被史称为:
AI 行业的萨拉热窝事件。
这个世界,需要开源。
老黄他们拥抱开源,当然除了理想之外,还有很多金钱的气息。
2002 年,Joel Spolsky 写过一个很经典的商业规律,叫 Commoditize Your Complements,把你的互补品变成商品。
一个东西的互补品越便宜,人们对这个东西的需求就越大。
英伟达卖 GPU。
开源模型越多,全球就有越多公司愿意自己部署、自己微调、自己训练,最后需要的 GPU 也越多。
AMD、戴尔、云计算公司、推理服务商,逻辑差不多。
GitHub、Vercel、Replit、LangChain、OpenClaw 这些开发工具和应用平台,也天然希望底层模型越来越多、越来越便宜、越来越容易替换。
因为模型成本每降一块钱,应用层就多出一块钱的空间。
老黄坚定的相信开源,以及老黄是开源模型的最大受益者之一,这两件事不冲突的。
但是我坚定的相信、也拥抱开源。
原因也特别简单,因为,我是个普通人。
这辈子,我可能都训练不起 K3 这样的模型,我没有几万张卡,我什么都不懂,技术报告里的公式,我都只能在 AI 的加持下勉勉强强看懂一点点。
但是不妨碍我,今天,踩在无数前人开源的工作、框架还有模型上,来创作我自己的作品。
普通人能参与每一次技术革命,靠的其实就是前面那些前辈,愿意把终点留下来,给后来的人,当起点。
我们没有突然变成天才。
我们只是,不用从零再走一遭。
开源真正厉害的力量就在这里。
一个团队花掉巨大算力、无数大佬熬了很久才得到的东西,一旦公开,第二天就会成为全世界无数普通人的公共起点。
我觉得,这就是文明的复利。
最后,向所有为人类世界、开源世界、AI 世界的大佬们。
致以我最崇高的敬意。

谢谢你们。
复制本文链接 文章为作者独立观点不代表优设网立场,未经允许不得转载。









发评论!每天赢奖品
点击 登录 后,在评论区留言,系统会随机派送奖品
2012年成立至今,是国内备受欢迎的设计师平台,提供奖品赞助 联系我们
用户体验增长
已累计诞生 795 位幸运星
发表评论
↓ 下方为您推荐了一些精彩有趣的文章热评 ↓