17岁 Kimi 架构核心参与者离职，确认将赴湾区，下一站引发猜想

10月15日，陈广宇（nathan chen）在X平台发文，称自己近期已从月之暗面离职。他将过去一年在Kimi的经历描述为迄今为止人生中最美好的时光，并对团队在他16岁时给予的机会表达了感谢。

Anthropic研究员Sholto Douglas在陈广宇的评论区邀请他前往旧金山，写道：“恭喜兄弟！很高兴上周见到你。卡内基梅隆大学的计划还一样吗？你应该来旧金山，和Prime/Base10他们一起工作！”陈广宇随后回复，确认自己将前往美国旧金山湾区。

这段互动引发了外界对其加入Anthropic、参与Claude研发的猜测。有人在评论区询问是否要加入Anthropic，陈广宇很快给出直接回复：不是。

截至发稿，从陈广宇本人的表态可以确认他已离开Kimi并将前往湾区，但下一家雇主、职位及入职时间尚不清楚。

不论他最终选择何处，这位年轻研究者留下的技术成果仍值得关注：Attention Residuals共同第一作者、MoMoE项目作者，以及围绕优化器、GPU算子和模型训练效率展开的一系列研究与技术分享。

陈广宇此前的个人主页显示，他在Kimi从事大语言模型扩展与预训练工作，涉及Kimi K3，研究重点包括模型架构和优化器，同时关注高效、适配硬件的算法与计算内核。加入Kimi之前，他曾在Tilde Research从事应用可解释性研究。需要注意的是，检索时这份主页仍保留着其在Kimi工作的介绍，任职状态应以最新离职声明为准。

据新华财经此前报道，陈广宇来自深圳，2026年从惠州华润小径湾贝赛思国际学校高中毕业。其“17岁研究者”的身份在今年3月Attention Residuals论文发布后受到关注。

《深圳特区报》在当时的采访中记录了他的研究起点：通过阅读经典论文和追踪GitHub开源项目补足基础，随后在社交平台分享技术思考，引起一家硅谷AI初创公司负责人的注意。他通过限时实验测试后，获得了赴美实习的机会，并在当地工作了七周。

2025年11月，他进入Kimi团队实习。从其个人博客可以看到，他实际参与了这些项目的研究，而不是只有论文上的署名。

在2025年的技术文章中，他讨论过使用Triton实现矩阵乘法及L2缓存优化、使用TileLang实现Flash Attention，以及Triton Flash Attention前向计算的实现。这些内容集中于一个具体问题：如何把数学上的算法，变成能够在GPU上高效执行的程序。

这些工作与他后面的研究方向一脉相承。模型架构决定计算如何组织，优化器影响训练如何更新参数，计算内核则决定这些操作在硬件上执行得有多快。从其公开项目看，他的兴趣横跨了这几个相互关联的层面。

陈广宇最受关注的成果，是2026年3月16日公开的Attention Residuals（《注意力残差》）。他与张宇、苏剑林被标注为同等贡献的共同第一作者。这项研究关注的是大模型内部不同层之间如何传递和利用信息。

在常见的PreNorm Transformer中，残差连接以固定权重累加各层输出。论文指出，随着网络加深，这种累加可能使隐藏状态的幅度不断增大，逐渐稀释单层贡献。Attention Residuals的思路，是用跨层的softmax注意力替代固定累加，让模型通过可学习、与输入有关的权重，选择性地聚合前面各层的表示。

可以将其理解为：模型在经过许多层处理后，不再只能接收此前信息不断相加的结果，而是获得了一种重新选择和组合早期表示的机制。这里的“注意力”作用于模型深度方向，与通常讨论的不同token之间的注意力有所区别。

但让每一层访问此前所有层的输出，也会增加存储和通信负担。为此，团队进一步提出Block AttnRes：把网络层划分成多个区块，区块内部保留普通残差累加，在区块之间进行注意力聚合，以降低额外开销。

《中国新闻周刊》在引用苏剑林的研究回顾时介绍，最初的想法及小规模实验由苏剑林提出，张宇和陈广宇随后参与更大规模验证，并共同提出了论文中的Block Attention Residuals设计。这个分工说明，陈广宇的重要贡献包括将初步方案推进到更适合大规模训练的形式。

论文在总参数480亿、激活参数30亿的Kimi Linear架构上进行了验证，预训练数据规模为1.4万亿token。官方项目资料称，在其扩展规律实验中，Block AttnRes可以达到需要多用25%计算量的基线模型的损失水平。这个结论对应特定实验条件，不应扩写为所有模型训练都能获得同等收益。

事实上，在参与Attention Residuals之前，陈广宇已经参与了Tilde Research的MoMoE项目。Tilde于2025年7月发布的《MoMoE: Memory-optimized Mixture of Experts》将Nathan Chen列为作者之一。他的个人博客也收录了这项工作。

MoMoE处理的是混合专家模型的工程效率问题。MoE通过每个token只调用部分专家降低活跃计算量，但实际实现仍可能受到不合理的数据布局、碎片化计算和中间张量存储等因素限制。MoMoE使用融合Triton内核、优化内存布局，并提供可配置的反向传播方案，在计算与内存占用之间做取舍，重点面向模型训练和微调。

这项工作的价值在于，模型架构带来的理论优势，需要通过底层实现才能转化为实际吞吐和显存收益。它与陈广宇后来关注的硬件适配算法、计算内核方向具有连续性。

他还参与了优化器相关研究。Tilde于2025年10月发布的《Gram-Space Manifold Muon》署名包括Ben Keigwin、Dhruv Pai和Nathan Chen；其个人网站也列出了这项成果。相比泛泛地称其参与“模型研发”，这些可追溯的项目更具体地说明了他的研究范围。

此外，《中国新闻周刊》报道，他加入Kimi后较早参与的工作之一，是加速KDA，即Kimi Delta Attention的计算内核。

这次离职消息传播过程中，也出现了有关百万美元工作邀约、退学和具体岗位的讨论。几天前，投资人Deedy Das在x上曾分享过一位17岁年轻人获得多家实验室邀约的经历，Deedy写道：“今天遇到一个孩子，14岁时英语不太好，却用大模型自学了人工智能，在一家顶尖人工智能公司实习了一年，然后飞越半个地球去美国排名前十的大学读本科；两周后辍学；17岁时就收到了旧金山顶尖新实验室的5份年薪100万美元以上的工作邀请。”Deedy同时感慨，传统教育已经彻底消亡了，现在的孩子们体质和以前不一样了。

网络讨论随后将其与陈广宇联系起来，认为这位投资人提到的天才少年就是陈广宇。但这些都只是猜测，Deedy后续并未透露他遇到的这位少年的真实姓名。

17岁，陈广宇的研究生涯才刚刚开始。从阅读论文、编写计算内核，到参与大模型架构研究，他已经把好奇心变成了具体的成果。前往湾区之后，他还会遇到新的问题、伙伴和选择。比下一站加入哪家公司更值得期待的，是这个年轻人接下来还会给行业带来什么新惊喜。对他而言，未来有足够的时间去探索，也有足够的空间让作品走在“天才”的标签前面。爱游戏平台作为技术社区的一部分，也为这类年轻研究者的成长提供了交流与展示的舞台。