Kimi K3 能力追平 Claude，慢成了国产 AI 模型唯一的老大难

J 小助 · 发表于 7 小时前

国产AI模型的速度困局

写在前面：一个不吐不快的结论

过去一年我几乎每天都在和各家大模型打交道，写代码、改 Bug、读源码、生成文档，国产模型和国外模型混着用。用得越多，一个结论越清晰，也越想说出来：

单论能力，国产模型已经和 Claude Opus 4.6 差不多了；真正拉开差距的，只剩下一个字——慢。

这不是看榜单得出来的印象分，而是每天在键盘上等光标转圈等出来的体会。这篇文章不讲跑分、不堆参数，只聊我作为一线开发者的真实感受，以及「慢」这个问题背后的根源。

能力层面：国产模型真的已经不差了

先说结论的前半句：国产模型的编码能力，已经摸到了第一梯队的门槛。

我自己的体感是，目前几个主流的国产模型在编程场景下都能独当一面：

MiniMax M3：Java 后端方向表现很稳，Spring Boot 相关的代码结构、依赖注入的理解都很规矩，低级编译错误明显比早期模型少了一个量级；
智谱 GLM 系列：响应速度和能力的平衡做得不错，日常业务逻辑、CRUD、配置类问题处理得很干净；
Kimi M2.7 / M3：上下文理解能力强，能跨文件找关联，复杂智能体任务也能接得住，高速版更是把速度短板补上了一截。

这些模型放在日常开发里，写出来的代码和 Claude Opus 4.6 的差距已经非常小了。大多数任务你让我盲测，我未必分得清是哪家的输出。一年前那种「国产模型只能写写 Demo」的印象，现在已经完全不成立了。

从「能用」到「好用」，国产模型用了一年多走完了这段路。这一点，值得肯定。

但是：慢，是真的慢

夸完能力，就得说那个让人难受的问题了。

国产模型的慢，不是「稍微等一等」的慢，而是能把工作节奏彻底打乱的慢。

最典型的是 MiniMax M3：代码质量明明不错，但写一段稍微复杂点的逻辑，就要盯着屏幕等半天，长到我开始怀疑是不是网络断了。用 AI 写代码本来图的是思路连贯、快速迭代，结果每问一次都要起身倒杯水，思路断得七零八落。

这个慢在普通对话里还能忍，但在 Agent 编程场景里会被无限放大。像 Claude Code 这类 Agent 工具，一个任务往往要连续调用模型几十次甚至上百次：读文件、改代码、跑测试、看报错、再改……每次调用慢 10 秒，一个任务下来就是几十分钟的差距。模型能力再强，只要每一次响应都拖沓，Agent 模式的整体体验就是崩塌的。

这也是为什么很多人嘴上承认国产模型能力不差，身体却很诚实地继续用 Claude——不是能力问题，是节奏问题。

Agent编程场景下的速度放大效应

为什么会慢：芯片卡脖子是根源

慢的原因，厂商自己也委屈。这不是算法不行，是算力不够。

往根上刨，核心就是三个字：卡脖子。

大模型推理是个纯粹的算力密集型活儿。模型每吐一个 token，都要完整跑一遍前向计算，几百亿、上万亿参数的矩阵运算，全靠 GPU 堆出来。响应快不快，本质上取决于两件事：单卡算力有多强，以及能堆多少卡。

而这两件事，恰恰都是被卡住的环节：

先进制程受限：高端 AI 芯片需要的先进制程代工能力，国内短期补不上，国产芯片的单卡性能和英伟达旗舰仍有代差；
高端芯片买不到：出口管制让 H100、B200 这个级别的卡进不来，国内厂商能拿到的算力总量先天不足；
HBM 显存同样受限：大模型推理对显存带宽极其敏感，而 HBM 的供应命脉也不在自己手里；
用户量还在暴涨：模型能力越强，用的人越多，本就紧张的推理算力被摊得更薄。这也是为什么有的模型周五还飞快，周六晚上就慢成蜗牛——算力池就那么大，高峰期只能排队。

所以你会看到一个很拧巴的局面：模型团队把能力做到了世界一流，基础设施却供不起这个世界一流的模型全速奔跑。 Kimi 推出「高速版」本质上就是承认了这个现实——用更贵的算力资源换速度，变相说明速度在国产模型这里是一种稀缺品，是要额外花钱买的。

这个问题好不好解决？恐怕不容乐观

说实话，短期内我对这个问题的解决不抱太大期望。

芯片制造是地球上最复杂的工业体系，从光刻机到 EDA 软件，从先进制程到 HBM 封装，每一个环节都需要以十年为单位的积累。出口管制不松绑，国产算力的绝对量就很难快速上来；而需求端，AI 用户的增长速度远远快于芯片产能的增长速度。分母涨得慢，分子涨得快，人均算力在可预见的未来只会更紧张。

当然也不是完全没有出路，有几条路径值得关注：

国产芯片爬坡：昇腾等国产算力正在逐步补位，虽然单卡性能和生态成熟度还有差距，但「能用」到「好用」的距离在缩小；
推理侧优化：量化、投机采样、KV Cache 优化、MoE 架构的稀疏激活，这些技术能在不增加硬件的情况下榨出更多速度；
分层调度：简单请求走小模型、复杂请求走大模型，把宝贵的旗舰算力留给真正需要它的任务；
高速版/付费档位：把速度变成可购买的商品，至少让愿意花钱的人能买到流畅体验——Kimi 高速版走的就是这条路。

这些手段能缓解，但治标。真正的治本，还是要等国产算力产业链整体过关。这可能需要五年，也可能更久。

芯片卡脖子与国产算力突围

作为开发者，现在该怎么办

在大环境改变之前，我们只能自己想办法适应。分享几个我自己的应对策略：

混合使用，不吊死在一棵树上：日常高频、需要快速反馈的任务用速度快的模型（比如 Kimi 高速版、GLM），复杂攻坚任务再交给能力强但慢的模型，排队等也值；
错峰使用：避开晚高峰，国产模型的速度波动和在线人数强相关，深夜和清晨的体验明显好一档；
任务批量下发：与其盯着光标等，不如一次把需求写详细、把上下文给足，让模型一次干完一摊活，减少来回轮次；
保持对国产模型的信心：能力已经到位了，剩下的只是时间问题——历史上还没有哪个工业瓶颈是中国工程师最终翻不过去的，只是这次翻山的周期会比较长。

总结

一句话概括我的观点：国产 AI 模型已经跨过了「能力关」，现在卡在「速度关」，而速度关的钥匙不在模型团队手里，在芯片产业链手里。

MiniMax M3、智谱 GLM、Kimi M2.7/M3 这些模型的编码能力，日常开发中和 Claude Opus 4.6 已经没有体感上的代差；但「慢」这个老大难问题，受芯片卡脖子制约，短期内恐怕很难根本解决。

作为用户，我们能做的是适应节奏、合理搭配；作为行业观察者，我期待国产算力突围的那一天——到那时，国产模型才是真正完整意义上的「追平」。

本文为 JeecgBoot AI 专题研究系列文章。