APUS-OpenJev-v1 – APUS AI Lab 开源的端侧决策大模型

AI模型20小时前更新 老高
14 0

APUS-OpenJev-v1是APUS AI Lab于2026年9月开源的端侧决策大模型系列,主要用于智能体执行任务过程中的下一步操作选择,提供 4B、9B 与 35B-A3B 三档权重,可在单卡 GPU 上完成本地部署。

基础信息内容
产品定位端侧决策大模型系列
出品方APUS AI Lab(麒麟合盛)
发布时间2026年9月22日
参数版本4B、9B 与 35B-A3B
决策机制候选动作打分,不生成文本
计算深度low 16 层 / high 32 层
应用方向浏览器自动化与业务规则路由
部署方式单卡 GPU 与 vLLM 服务化
开源范围权重、运行时源码与评测集
APUS-OpenJev-v1模型信息图

APUS-OpenJev-v1 的核心能力

浏览器自动化里最费时间的往往不是点击本身,而是让模型决定点哪里。传统做法是让语言模型生成一段文本再解析成动作,中间既有延迟也有格式出错的风险。理解这类决策组件在智能体链路里的位置,可以先了解 AI 智能体 的任务执行方式。

候选动作决策

模型把任务目标、页面上下文与候选操作描述都作为自然语言输入,并为每个候选动作绑定一个紧凑的标记。推理时只计算这些合法候选对应的概率,再由宿主程序映射回具体操作,不生成自由文本。

动态计算深度切换

同一套权重内置两个决策出口:轻量档只运行前 16 层并配合候选感知输出投影,用更低的算力完成高频常规动作;完整档执行全部层数,适合支付确认与权限校验这类高风险操作。调用方可以按动作的重要程度分配算力。

候选感知输出投影

常规模型每生成一个词都要遍历整张词表,而结构化决策的候选通常只有几个。项目直接抽取候选标记对应的输出权重行,把计算量从全词表缩小到候选范围,在保持概率逻辑的同时降低输出头开销。

本地毫秒级部署

模型支持在单卡 GPU 上运行,也提供 vLLM 服务化部署脚本,可以在本地或内网完成判断,减少对云端接口的依赖,同时省去按调用量计费的部分。官方给出的参考是 9B 版本在本地部署路径下 P50 延迟约 25.58 毫秒,4B 版本约 18 毫秒。

多规格参数覆盖

系列提供 4B、9B 与 35B-A3B 三种规格,分别面向轻量端侧、生产通用与高性能需求。配套开源的内容还包括统一运行时源码与标准评测数据集,便于在本机复现官方给出的对比结果。

APUS-OpenJev-v1 与同类决策模型的对比

下表从开放程度、运行方式与决策机制等维度,对比两个常被放在一起评估的决策方案。

对比维度APUS-OpenJev-v1Jev
产品性质开源端侧决策模型系列闭源商业托管的决策服务
参数规格4B、9B 与 35B-A3B 三档由服务方统一提供,规格未公开
运行方式本地单卡 GPU 或服务化部署仅云端接口
算力调度可在轻量档与完整档之间切换无法按动作调整计算量
决策机制对候选动作打分,不生成文本对外提供结构化决策接口
开源范围权重、运行时源码与评测数据集未开源
数据流向判断全程在本地完成请求需发送至服务方
适用场景对数据不出本机与延迟敏感的流程希望免去自建与运维的团队

上表 APUS-OpenJev-v1 一列取自其官方开源说明,Jev 一列取自其公开资料。两者的目标一致:把决策从文本生成里拆出来,直接给出结构化结论。差别在于开放程度与运行形态——APUS-OpenJev-v1 把权重、运行时与评测集一并开源,判断过程留在本地,并且可以按动作重要程度调整算力;Jev 以闭源托管服务的形式提供,接入更省事但请求必须发往云端。涉及敏感页面或对延迟有硬要求的流程,前者的可控性更强。

如果想了解这类决策模型通常嵌入在什么样的运行环境里,可以参考 Hermes Agent(Nous Research 推出的开源自主 AI Agent,与 APUS-OpenJev-v1 同属智能体执行链路上的组件,区别在于前者负责多智能体的调度与运行、后者承担其中每一步的操作判断)。

APUS-OpenJev-v1 的应用场景与适用人群

把操作判断收进本地模型之后,常见用途包括:

  • 浏览器自动化:把页面上可见、可交互的元素整理成带编号的候选动作集合,由模型判断下一步点哪里、填什么,减少选择器写错与格式出错的情况。
  • 业务规则路由:用于客服工单分流、流程审批与表单提交等场景,根据任务与上下文直接给出下一步流转动作。
  • 表单文本生成:除选择题式的判断外,还可以生成搜索关键词与输入文本等开放式内容,减少在两类模型之间切换。
  • 本地化智能体:在对数据不出本机有要求的流程里承担操作判断环节,避免把页面内容发送到外部接口。

适用人群:做浏览器自动化与流程机器人的开发团队,以及需要在内网环境部署智能体组件的工程人员。模型以开源方式发布,具体许可条款以官方开源页面标注为准,商用前需要逐项确认。

APUS-OpenJev-v1 的使用方法

从获取权重到接入智能体,可按以下步骤操作:

  1. 获取权重:从 Hugging Face 或官方仓库下载所需规格的模型权重与运行时源码。
  2. 部署服务:用 vLLM 启动推理服务,单卡即可运行较小规格,生产环境可按并发量增加显卡。
  3. 准备候选动作:把页面上可交互的元素整理成带编号的候选集合,并连同任务目标与页面上下文一起组成请求。
  4. 调用决策:向服务发送请求,模型返回各候选动作的概率,宿主程序据此执行被选中的操作并继续下一轮。
  5. 切换计算深度:常规动作使用轻量档降低延迟,支付、权限确认等高风险操作切换到完整档提高准确率。
  6. 本地验证:先用评测数据集复现一轮官方结果,确认部署环境与解析流程正确后再接入业务流程。官方项目地址见 APUS-OpenJev-v1 官方模型页。

建议先在小规模的候选动作集合上验证完整链路,确认概率到动作的映射逻辑与业务预期一致,再扩大任务范围;遇到页面结构变动或候选描述不准确时,判断结果会明显变差,接入时应当保留人工复核与回滚机制,并把每轮的候选集合与判断结果留档,便于回溯差异来源。

APUS-OpenJev-v1 的价格与开源情况

APUS-OpenJev-v1 的模型权重、统一运行时源码、部署脚本与标准评测数据集均已开源发布,可以在官方模型页与代码仓库获取;具体许可条款以官方页面标注为准,商用前需要逐项确认。

模型不收取调用费用,成本主要落在本地算力上。由于支持单卡部署,小规模场景的硬件投入相对有限;实际选型时可以先按并发量与延迟目标确定采用哪一档规格,再评估显卡数量。

APUS-OpenJev-v1 的常见问题

APUS-OpenJev-v1 和普通大模型有什么区别?

它不生成答案文本,而是为候选动作绑定标记,推理时只计算这些候选对应的概率,再由宿主程序映射回具体操作,因此延迟更低,也不会出现格式解析失败的问题。

APUS-OpenJev-v1 提供哪些参数规格?

系列包含 4B、9B 与 35B-A3B 三种规格,分别面向轻量端侧、生产通用与高性能需求,并支持在轻量档与完整档之间切换计算深度。

APUS-OpenJev-v1 可以本地部署吗?

可以。模型支持在单卡 GPU 上运行,也提供 vLLM 服务化部署脚本,判断过程可以在本地或内网完成,不需要把页面内容发送到外部接口。

© 版权声明

相关文章