600B开源与24GB本地推理同日落地：AI入口开始碎片化，GEO的引用正在变得不可见

10月15日这一天，模型圈同时发生了三件事。阶跃星辰把新一代旗舰 Step 5 Preview 的完整权重开源——600B 总参数的稀疏 MoE 架构，每个 Token 激活 27B，支持 1M Token 上下文与视觉输入，在 AA 综合智能指数里拿了 44 分，排进全球开源模型前三，单任务成本大约是 Claude Opus 5 的八分之一。同一天，NVIDIA 发布了 Nemotron 3.5 Bolt：74B 参数、激活只有 9B，2 比特量化后 24GB 显存就能装下，专门为 RTX Spark 笔记本本地运行智能体设计，权重和训练数据全量开放；OpenBMB 的 MiniCPM-V 4.7 则把 35B-A3B 的多模态模型压进了 iPhone 17 Pro Max 的 3GB 内存，解码速度 13 Token 每秒以上。

把它们放在一起看，方向比单条新闻重要：模型正在从「几个大厂控制的云端入口」，变成「一堆能跑在本地和私有环境里的入口」。同一周 Meta 发布的 Muse Wonder 走了反方向——闭源、订阅制，更强的 Full 版本不放权重。两条路线并存，恰恰说明入口的形态开始分化。

开源旗舰把「被记住」的门槛打了下来

Step 5 Preview 开源后已经接入腾讯 AI 办公工作台和 TRAE 的软件工程工作流。对做 GEO 的人来说，这改变的是语料的进入时机。过去品牌能影响的主要是云端模型的实时检索结果，训练语料的窗口一年才开一次；现在任何一家企业都可以拿开源旗舰做微调，你的官方文档、参数页、技术资料，什么时候被抓进这些私有模型的语料，什么时候就定型了一部分答案。官方一手信息的完整度和结构化程度，第一次直接决定「私有大模型里的品牌认知」。

端侧推理让引用变成黑盒

麻烦的另一面是测量。跑在笔记本和手机上的模型，查询不出内网，引用不落日志。NVIDIA 同步宣布个人 AI 路由器 PAIR 转正，它做的事就是在本机网络里跨设备调度模型任务——用户问了什么、答案引了谁，云端工具一概看不见。现在主流 GEO 监测产品全部架在云端 API 上，对本地入口的可见度是零。也就是说，品牌真实被 AI 提及的次数，会系统性高于任何工具统计出来的次数，而且高出的部分无法归因。

自托管生态的可信度同样在碎片化。最近一份针对 30 个自托管 AI 项目的分析——包括 Open WebUI、Flowise、dify、vLLM、LangFlow——发现 618 条已发布的安全通告里，195 条（约 31.6%）从未进入依赖扫描器读取的数据库。这些自托管工具正在成为企业内部新的「默认答案机」，但围绕它们的信息链路本身就是断的。像Tabby 这类自托管代码助手在企业的代码库里接住了一部分提问，这部分引用既不经过搜索引擎，也不会出现在任何 AI 可见度报表里。

监管同日补位

10 月 14 日，欧盟数字主管 Henna Virkkunen 向 OpenAI 与 Anthropic 发出 AI Act 的首批正式信息请求，通用模型监管从立法转入执法。对企业来说，这条线和开源、端侧的趋势是同一件事的三面：模型提供者被要求披露训练数据与系统能力，透明度要求会沿着「基础模型—微调方—部署方」的链条传导下来。谁在给私有模型供语料、供的语料是否合规，会从法务问题变成渠道问题。

入口碎了之后，怎么办

三个现在就能做的动作。第一，把官网的事实类页面补全并结构化——开源模型的微调语料主要来源是官方文档和公开资料，参数、价格、资质、更新时间写清楚，比再多发十篇软文有用。第二，把「可被本地引用」纳入内容策略：开放的许可协议、可下载的数据表、清晰的 API 文档，都会提高内容进入训练与微调语料的概率。第三，监测按入口分层——云端 AI 搜索可以继续用引用率衡量，本地与端侧入口只能靠品牌词调查、直接流量和销售线索做代理指标，别指望一张报表覆盖所有入口。

算力与部署这两块基础设施的入口也在同步分散，比如Hyperbolic 这类开放接入的算力云把 GPU 训练推理做成按需服务，让小团队也能养自己的模型。入口越多，单个入口的权重越低，但语料一旦进入某个私有模型，被引用的稳定性反而更高。GEO 的重心正在从「争取被引用」转向「先进入语料，再被引用」——这个顺序，值得每一个做 AI 可见度的人重排一遍。

（文 / AI30媒体部 ｜ 最后更新：2026年10月16日）