Occamy-1.0：开放帕累托前沿的 35B co-work 智能

作者：Accio Lab（技术报告 arXiv 2609.11977，45 位作者）

Occamy-1.0 是一个为真实 co-work 打造的紧凑 agentic 模型：长时程、有状态、需要协同使用搜索、代码、工具、文件、结构化 API 和生产力软件的任务。

它的起点是已经后训练过的 Qwen3.6-35B-A3B checkpoint，进一步训练集中在可靠执行、持久状态追踪、恢复和后续跟进上——而不是从零重学通用能力。

关键特性

co-work 专业化：为跨多步专业工作流的持续执行而设计，不是孤立的问答。

紧凑推理足迹：35B 总参数、3B 激活的 MoE，让长时间运行的 agent 负载保持可用。

长时程连续性：在工具调用、委派运行、以及 context compaction 这类历史改写之间保持作业连贯。

广泛的 agentic 能力：co-work 收益的同时保持强工具调用、终端编码与指令跟随。

执行基础训练：监督微调覆盖通用 agentic 工作、长时程交互、软件工程与工具调用接地。

开放训练栈：训练 Occamy 用的多 harness 强化学习基础设施以 Dressage 开源。

官方自己标注的余量：Occamy 针对常见的 co-work 负载优化，不是在所有任务上替代前沿模型；检索密集任务和模拟用户任务仍有空间；原生浏览器或桌面视觉交互不在当前 co-work 的训练接口内。

规格

MoE 因果模型加视觉编码器；总参数 35B、激活 3B；40 层；256 个专家、8 个路由加 1 个共享；基础架构上下文 262,144 token；SFT 序列长度 131,072 token。后训练 = 全参数 SFT、HDPO、模型合并与 SAO。Occamy 对语言主干做后训练而不改架构，视觉编码器与投影器在 SFT 期间冻结。

评测（同级组内加粗为最佳）

co-work 类：

Claw-Eval 平均 82.20（它的起点 Qwen3.6-35B-A3B 是 69.50；GPT-5.6 Sol 81.80；Qwen3.8-Max 83.92；DeepSeek V4 Pro 81.70）。

Claw-Eval Pass³ 71.40（起点 54.80；GPT-5.6 Sol 68.90；Qwen3.8-Max 73.68）。

WildClawBench 49.16（同级最高；起点 40.40；GPT-5.6 Sol 67.20；Qwen3.8-Max 54.42）。

CommerceAgentBench 37.38（同级并列最高；起点 19.60；GPT-5.6 Sol 49.50）。

Business Arena 79,868 美元（同级最高；起点 44,751；Qwen3.8-Max 89,423）。

τ³-Bench（银行）37.10（同级最高；起点 11.90；Qwen3.8-Max 54.60）。

工具调用类：AutomationBench Pass¹ 27.60、partial 69.10；BFCL v4 65.40；VitaBench 41.75。

编码类：Terminal-Bench 2.1 是 59.00——同级里低于 Nex-N2-mini 的 60.70，也远低于 GPT-5.6 Sol 的 88.80；这是它的短板位。

指令跟随：IFEval 91.53（同级第二；起点 86.90）。

成本性能：在 Claw-Eval、WildClawBench、AutomationBench、GDPval 四个基准上（各自 min-max 归一化后等权、成本按报告冻结的定价协议对每任务做宏平均），Occamy-1.0 落在经验帕累托前沿的低成本拐点附近。相对它的起点 checkpoint，聚合能力提升很大，而实测的每任务推理成本只有小幅变化。

训练配方

分阶段的专业化与合并：

Qwen3.6-35B-A3B 分出两个专家——Marathon Expert 走 SFT 加 HDPO，学持续执行和「在精度条件下的效率」；Sprint Expert 走 SFT，保留更广的 agentic 能力。然后做一次参数空间的均匀合并，把两个专家合成一个 checkpoint，推理时没有路由也没有集成；最后用 SAO（Single-Rollout Asynchronous Optimization）在很宽的 co-work 混合上精修合并后的策略。

两个专家去重后的 SFT 并集共 14,998 条轨迹、平均 26.9K、合计 4.033 亿 token，分四类：通用 agentic（5,418 条 / 2.041 亿 token）、长时程交互 agent（923 条 / 8,840 万）、终端与软件工程（1,228 条 / 4,310 万）、工具调用接地（7,429 条 / 6,770 万）。

训练任务以可执行环境为基础，具备可观测的状态转移和任务级评分。开源的 Dressage 栈提供多 harness 执行、token 精确的轨迹捕获、沙箱集成，以及供强化学习使用的多段转换。

权重与部署

发布的 checkpoint 有四种格式：GGUF（Q4_K_M / Q8_0）、FP8、NVFP4，以及实验性的 MTP head。BF16、FP8、NVFP4 各自在单张 H200 上通过了九例 vLLM 兼容检查，覆盖文本、代码、JSON、工具调用与后续提问、以及图像；NVFP4 用的是 Marlin W4A16。这些检查用的是普通解码，单独的 MTP head 仍是实验性的。社区还提供了更小的 GGUF 量化和 Apple Silicon 上的 MLX 构建。

上游模型卡建议用 vLLM 0.19.0 或更新版本来服务 Qwen3.6 架构；典型启动参数是 8 路张量并行、max-model-len 262144、qwen3 推理解析器和 qwen3_coder 工具调用解析器。权重与一部分训练数据都已放出，供实用 co-work agent 与 agentic 后训练的研究使用。

原文：https://huggingface.co/Accio-Lab/occamy-1.0

技术报告：https://arxiv.org/abs/2609.11977

#本地模型 #MoE #CoWork