Ark Mesh · 模型接入与路由 (Universal Gateway)

统一接入模型,管理调用与费用

通过统一入口管理模型配置、调用策略、预算与使用归因,让业务应用按需要选择模型。实现资产可控、用量清晰与路由灵活治理。

支持企业已有模型资产与主流模型提供商统一纳管,技术规格以实际对接环境为准。
拓扑概览

从业务应用到多模型的统一调用路径

平台架构示意
调用源端

业务应用与智能体

上层业务系统通过统一标准 SDK 或标准 API 提出推理请求,解耦底层模型接口差异。

金融文档审核应用
企业知识智能助手
复杂流程自动化工作流
客户数据洞察服务
协议:统一标准网关调用
核心控制平面
Ark Mesh Component

Universal Gateway

集中管控模型调用全生命周期,执行安全、路由、费用与状态治理。

统一鉴权与身份校验

统一 API Key 验签、应用主体鉴权与租户隔离。

策略路由与负载分发

基于任务类型配置模型策略,支持异常平滑降级。

预算校验与限流熔断

部门配额预检、超额拦截与高并发速率保护。

日志脱敏与 Trace 链路

请求数据自动脱敏过滤,全局调用 Trace 追踪。

结构化用量与成本归集
实时计量 · 精准归属
BYOK 凭证安全注入
目标提供方

模型资产与提供商

统一接入外部通用模型与内部私有算力,无缝对接多样化计算基础设施。

公开模型提供商
  • 通用大语言模型 (LLMs)
  • 长上下文理解模型
  • 专有数学与推理增强模型
企业自有基础设施
  • 本地私有化部署模型服务
  • 企业专有 GPU 算力集群
  • 开源模型微调专用端点
协议适配:供应商原生适配器
系统核心职能

四大核心价值:规范、可靠与可观测的模型治理

围绕企业关键生产诉求,提供自底向上的工程化调用抽象与精细化资源分配能力。

01

统一接入与 BYOK (自带密钥/算力)

统一不同模型服务接口规范,支持企业 Bring Your Own Key (BYOK) 与已有算力凭证。企业完全掌控模型商业合同与直接访问权限,无需将 API 密钥分散暴露给各个业务团队,从根本上杜绝凭据泄漏隐患。

集中凭据管理 · 接口标准化封装
02

策略配置与路由调度

根据业务场景要求(如长文本理解、复杂推理、日常查询或高并发响应),灵活配置模型选用策略与候补降级规则。当特定模型出现暂时拥堵或供应商异常时,系统自动平滑切换至备用模型,支持提升可用性。

场景化权重匹配 · 自动故障转移
03

调用控制与异常防御

提供组织与项目级别的并发限制、请求超时与自动重试策略。建立统一的敏感信息过滤与日志脱敏边界,防止关键业务请求中断或敏感合规数据外溢,为生产调用构筑坚实屏障。

速率保护 · 敏感字段审计与脱敏
04

用量与费用多维归集

对所有模型调用的 Token 消耗、请求次数和响应状态进行结构化记录。将底层复杂的原始计量统一折算,并按业务项目、调用部门与任务类型进行清晰的成本归集,告别粗放的黑盒计费。

颗粒化计量 · 部门成本中心映射
治理控制台

多维度预算管控与业务成本归因

管理后台示意
多级预算与熔断控制
配额治理策略
企业月度总预算上限配额已使用 62%
额度基准:当月有效账期全局熔断线:100% 阈值
金融分析研究组生产集群
已用 78% (正常)
策略:达到 80% 触发邮件与工作流告警通知预警状态
智能客服与运营组日常服务
已用 45% (安全)
策略:达到 100% 触发平滑限流,非核心请求排队运行平稳
支持按组织架构树逐级继承预算与配置阻断行为。
使用归因与成本分摊报表
业务分摊
业务项目 / 部门主要调用模型消耗计量归集占比
研报生成自动化 · 分析组复杂推理模型结构化记录38.4%
企业合规审核 · 风控部长上下文模型结构化记录26.1%
全员知识查询 · 协同办通用基础模型结构化记录19.5%
内部研发辅助 · 技术中心私有开源微调模型内部算力时长16.0%
多维度标签 Tag 体系支持Project · Dept · Env

支持在调用请求中透传自定义审计 Tag,无缝与企业内部 ERP、财务报销及成本中心系统对接。

统一提供标准 CSV 导出与管理审计 API 查询。
重要说明

BYOK 模式下的费用结算构成

为确保企业财务透明与采购合规,Universal Gateway 实施清晰的账单边界划分。企业使用自有密钥接入时,模型采购与平台治理服务独立核算。

①模型供应商直接费用

企业使用自有 API Key 时,模型推理生成的 Token 消耗直接由企业与相应模型提供商结算。ARK 不在其中赚取模型差价,亦不干预企业的商务采购折扣与结算协议。

账单主体:各模型供应商 ← 企业
②ARK 平台与运行服务费用

Universal Gateway 提供的统一网关接入、路由策略执行、状态监控、安全审计、平台运维支持与 SLA 保障,按 Ark Mesh 平台订阅/许可及网关服务约定另行收取。

账单主体:ARK AI 方舟智能 ← 企业
结论:提供自有 Key 并不等同于免除平台与治理系统的运行服务费用,二者账单边界分明、独立核算。
职责解耦

清晰边界:模型调用 vs 业务执行

Ark Mesh 架构强调控制平面的精细解耦:模型网关管“调用与生成”,业务运行时管“状态与执行”。

本产品定位

Universal Gateway (模型接入与路由)

专注于“模型调用层面”

统筹多供应商与本地模型的连接通道与凭证安全保管。
策略路由选择、健康检查与异常自动降级分流。
组织级速率控制、并发配额防爆与日志脱敏边界。
多维度 Token 消耗归因与成本中心预算拦截。
回答核心问题:
“模型如何高效、安全、可控地输出生成内容?”
协作组件

Agent Runtime (智能体运行时)

专注于“业务系统执行层面”

智能体工作流状态持久化与多步骤长任务挂起恢复。
企业 ERP、CRM、数据库读写接口与外部工具真实调用。
关键业务数据修改与外部消息/通知的实际派发。
人工审批介入机制 (Human-in-the-Loop) 与执行权限确认。
回答核心问题:
“大模型生成的指令能否在企业业务中执行?”
关键协作原则

模型网关能返回一段执行建议,不代表该操作已获得执行权限;所有对企业核心数据库、ERP 或 CRM 的真实写操作,必须交由 Agent Runtime 经过严密的业务规则、权限校验与人工确认后方可落地。

了解 Agent Runtime 智能体运行时
企业就绪型基础设施

为您的企业搭建统一可控的模型接入底座

无论是接入首个业务应用,还是统筹全集团多模型预算与路由,ARK 团队均可提供架构规划与落地支持。