Hermes 4.3-36B

1. 调研缘由

我们这次锁定的是 Hugging Face 上的 NousResearch/Hermes-4.3-36B 仓库，不是 Hermes Agent，也不是泛泛的 Hermes 系列综述。它归属于 Nous Research 的 Hermes 4 Collection，模型卡上标明这是一个 36B 参数的文本生成模型。[S1][S3]

Hermes 4.3-36B 有几个平时不太会凑在同一个模型里的信号：它拿开源底座做后训练，提供本地推理和工具调用入口，还被 Nous 称作第一个完全在 Psyche 网络上完成训练的生产模型。[S1][S2]

此外，Nous 还公开了对应的集中式训练版本，并把它标记为研究对照。这样一来，Hermes 4.3 就不只是一个新权重发布，同时也是一组可以继续核验的“去中心化后训练 vs 集中式训练”公开样本。[S2][S5]

2. 简介与产品工作流

Hermes 4.3-36B 是 Nous Research 发布的 36B 参数文本模型，BF16 权重，Apache 2.0 许可。模型树显示它的底座是 ByteDance-Seed/Seed-OSS-36B-Base。[S1]

技术路线属于“在开源基础上做开发”。这里说的后训练，简单讲，就是拿一个已有的基础模型，再用指令、推理过程、格式约束、工具调用这些数据接着训，让它更适合真实世界的交互任务。[S1]

官方把 Hermes 4.3 定位成一个“混合推理”模型。开发者可以让它直接给答案，也可以通过 thinking=True 或系统提示词，让它先输出 <think> 推理内容，再给出最终回答。[S1]

典型的用法大致是这样：

1. 开发者在本地电脑、工作站或者自建推理服务里加载 BF16 或量化后的权重。
2. 应用把用户消息、系统提示词和可用的工具定义一起传给模型。
3. 模型可以直接回答，也可以输出函数调用。函数调用就是模型按约定格式吐出工具名和参数，交给外部程序去执行。
4. 工具返回结果后，应用可以继续把结果送回模型，生成最终的回复。[S1]

Hermes 4.3 的工具调用格式用的是 <tool_call>{...}</tool_call>。模型卡里提到，vLLM 和 SGLang 都能通过相应的 parser 来解析这个格式。[S1]

官方博客称 Hermes 4.3 支持最长 512K 上下文；模型卡提供了 BF16 原始权重，还给出了 4、5、6、8 bit 的 GGUF 量化版本的链接。GGUF 是一种常用于本地轻量推理的权重格式，可以在 llama.cpp、Ollama、LM Studio 等环境里跑。[S1][S2][S6]

3. 团队与资本背景

Hermes 4 技术报告的署名作者包括 Ryan Teknium、Roger Jin、Jai Suphavadeeprasit、Dakota Mahan、Jeffrey Quesnelle、Joe Li、Chen Guang、Shannon Sands 和 Karan Malhotra。需要留意的是，这份报告覆盖的是 Hermes 4 整个家族，不是专门针对 Hermes 4.3 的独立技术报告。[S4]

从公开信息看，Nous 的强项集中在模型后训练、推理行为、工具调用训练和去中心化训练基础设施这几块。Hermes 4.3 所用的 Psyche 网络以及它的集中式对照版本，也说明这个模型跟 Nous 自己的训练基础设施路线是绑在一起的。[S2][S5]

资本方面，The Block 报道过 Paradigm 在 2025 年领投了 Nous Research 5000 万美元的 A 轮融资。不过这是公司层面的信息，不该直接等同于 Hermes 4.3 这一个模型的商业收入、客户规模或生产部署情况。[S7]

4. 技术基础与生态位

Hermes 4.3-36B 的底座是 ByteDance 的 Seed-OSS-36B-Base。Seed-OSS-36B 的公开模型卡上写着 36B 参数、512K 上下文和 Apache 2.0 许可；Hermes 4.3 就是在这个底座上做的后训练。[S1][S12]

模型卡上公开的能力重点有这些：

• 可切换的推理模式，用 thinking=True 或系统提示词触发。
• 函数调用与结构化的工具输出。
• 面向本地和自托管环境的部署入口，覆盖 Transformers、vLLM、SGLang、llama.cpp、Ollama、LM Studio 等。
• BF16 原始权重，还有多个 GGUF 量化版本。[S1][S6]

Hermes 4.3 的差异化，主要来自 Psyche。Nous 表示，这个模型完全是在 Psyche 网络上做的后训练；官方的介绍把 Psyche 描述成一个通过 DisTrO 优化器、用互联网连接训练节点的分布式训练网络。[S2]

Nous 还发布了 Hermes-4.3-36B-centralized。那个仓库明确说它是 Hermes 4.3 的集中式训练版本，以研究 artifact 的身份放出来；仓库的配置文件里显示，它的训练预设是面向 64 张 A100 GPU 的。[S5]

官方模型卡里给出了 Psyche 版本和集中式版本的内部评测对比表。比如 MMLU 是 87.7 对 86.5，MATH-500 是 93.8 对 92.3，AIME 2025 是 69.3 对 66.8。这些是 Nous 自己的内部结果，适合用来了解官方的实验设计，但不能替代独立的复现验证。[S1]

从生态位上看，Hermes 4.3-36B 属于开放权重的后训练模型这一层。它可以当作 Agent、代码工具、知识库问答或本地助手的底层模型来用，但本文不把它和 Hermes Agent 这个上层产品混在一起。

5. 市场与外部信号

截至这次复查，Hermes 4.3-36B 的 Hugging Face 页面显示最近一个月的下载量是 24,983，likes 是 257。页面同时也标着模型大小 36B、权重格式 BF16。[S1]

这些数字可以当成开源社区里的注意力信号来看，但不能直接证明企业客户数、收入、生产调用量或长期留存。

Nous 同时保留了原始 BF16 模型、GGUF 量化版本和集中式训练对照权重三个入口，这样开发者可以各取所需，分别应对研究、部署和量化的需求。[S1][S5][S6]

这次访问时，Hugging Face 页面显示它没有被 Inference Providers 面板托管。这个状态只反映 Hugging Face 页面上的托管情况，不能因此就说模型无法在其他服务或自托管环境里跑起来。[S1]

官方模型卡没有公开 Hermes 4.3 的统一商业 API 定价、付费客户名单或者专项收入数据。这一轮我们也没有找到足够公开资料来确认它的实际生产部署规模。

6. 公开评价与主要分歧

目前公开的独立评价还比较有限。能看到的讨论，大多集中在去中心化后训练的实验意义、低拒答倾向，还有不同本地推理框架下的配置问题。

正面评价（来自官方，不是独立评价）：

Nous 称，在内部评测里，Hermes 4.3 的 Psyche 版本得分高于集中式版本，并且给出了两个版本在多个 benchmark 上的并列对比表格。[S1][S2]

Nous 还用自己的 RefusalBench 去评估“问题回答率”。模型卡上列出的 Hermes 4.3 非推理模式结果是 74.60%，推理模式是 72.29%。这个 benchmark 和结论都来自官方，不能当独立评价用。[S1]

主要批评/质疑（来自社区用户）：

有部分社区用户反馈，在 llama.cpp 里通过 chat template 参数打开 Hermes 4.3 的 thinking 模式时，配置不一定按预期生效，得改用系统提示词或者其他 workaround。这个反馈更可能是模型模板、推理框架和启动参数搭配时的问题，不能直接说成模型权重本身有普适的兼容性问题。[S9]

存在分歧的地方：

Psyche 去中心化后训练到底能不能在更广泛的条件下稳定复现，是眼下最核心的待验证问题。官方已经把集中式对照权重和内部 benchmark 公开了，但这轮我们还没看到足够独立的复现材料，所以不能把官方的对照结果直接当成外部共识。[S1][S2][S5]

“更少拒答”这个定位也存在分歧。官方把它看作更可控、更贴近用户意图的模型行为；到了实际产品里，开发者还是得自己去处理应用场景、工具权限和安全边界这些事。[S1]

7. 同类对比（与头部/高知名度同类项目）

主要对标项目：

• Qwen/Qwen3-32B
• openai/gpt-oss-20b

关键维度对比（事实，标来源）:

维度	Hermes 4.3-36B	Qwen3-32B	gpt-oss-20b
参数规模	36B 参数。[S1]	32.8B 参数。[S10]	21B 总参数，3.6B 激活参数。[S11]
权重许可证	Apache 2.0。[S1]	Apache 2.0。[S10]	Apache 2.0。[S11]
推理控制	通过 thinking=True 或系统提示词触发推理模式。[S1]	支持 enable_thinking=True/False，也支持 /think 与 /no_think 软切换。[S10]	支持 low、medium、high 三档 reasoning effort。[S11]
工具调用	使用 <tool_call> 格式，可由 vLLM、SGLang parser 处理。[S1]	模型卡说明支持工具调用，并建议使用 Qwen-Agent 或 MCP 配置接入工具。[S10]	模型卡列出函数调用、网页浏览、Python 执行和 Structured Outputs 等能力。[S11]
上下文信息	官方博客称最高 512K。[S2]	原生 32,768 tokens；通过 YaRN 可扩展至 131,072 tokens。[S10]	本次未在引用的官方模型卡中核实统一上下文长度口径。
本地部署入口	Transformers、vLLM、SGLang，以及 GGUF 对应的 llama.cpp、Ollama、LM Studio 等。[S1][S6]	Transformers、vLLM、SGLang、Ollama、LM Studio、llama.cpp 等。[S10]	Transformers、vLLM、SGLang、Ollama、LM Studio 等。[S11]

公开评价中的对比（标源，非个人裁决）：

三个模型都提供开放权重、本地部署和 Agent 相关能力，但它们的推理控制方式、工具调用模板和评测披露口径不完全一样。Hermes 4.3 重点公开了 Psyche 与集中式训练的内部对比；Qwen3-32B 侧重提供思考与非思考模式的切换；gpt-oss-20b 用的是 Harmony 格式，并通过 reasoning effort 来控制推理强度。[S1][S2][S10][S11]

眼下各家放出的 benchmark 不能直接拼成统一排名。它们用的评测集、推理设置、上下文长度、工具环境和披露方式并不全都对齐。

8. 信息缺口与后续观察

• 没找到 Hermes 4.3 完整训练数据配比、筛选流程和数据许可证的细化说明。
• 官方公开了大约 500 万样本、大概 600 亿 tokens 的后训练规模，但还没有足够资料能把它拆成可复核的数据构成。[S1]
• Psyche 与集中式训练的差异，还缺少足够独立的复现验证。
• 512K 上下文在不同量化版本、不同显存条件和不同推理框架下实际稳不稳，这一轮没覆盖到。
• 工具调用在 vLLM、SGLang、llama.cpp、Ollama 等不同栈里的模板兼容性，后面值得继续观察。
• 没找到足够公开资料来确认 Hermes 4.3 的企业客户、生产部署规模、统一 API 定价或专项收入。

9. 归纳洞察 ★

Hermes 4.3-36B 让人看到一条清晰的开放模型路子：基础模型可以来自外部的开源底座，真正的区分度更多集中在后训练、推理行为、工具调用格式和部署适配上。

它把去中心化训练基础设施直接绑定在一个可下载、可自托管的权重发布里，还额外公开了集中式训练对照模型。这样一来，Psyche 就不只是一个基础设施叙事，也成了一组可以被继续检验、比较和复现的模型训练案例。

眼下的主要限制也很清楚：官方在能力、权重和内部对照上披露得比较多，但独立复现、跨框架的长期部署体验和一致的外部评测还很有限。所以，不妨把 Hermes 4.3 放到“开放后训练和分布式训练怎么走向可部署模型”这个观察框架里来理解。

10. 来源与更新时间

• 信息截至(as_of): 2026-06-30
• 最后复查(last_checked): 2026-06-30
• 最后更新(last_updated): null