tokgoai · TokenForge
TokenForge · docs

TokenForge｜企业 AI 枢纽。

聚合模型与算力，优化每一次 AI 使用，管理 AI 预算，并沉淀企业自己的 AI 数据资产。TokenForge 不是单纯的模型商城，也不是单一聊天工具，而是企业统一连接、调度、管理和沉淀 AI 能力的中枢。

来源聚合接入指南智能路由虚拟模型统一入口预算管理数据沉淀安全与治理私有化部署
首页关系AI 来源（公有模型 / 私有模型 / 自有算力 / 中转服务）进入 TokenForge，再面向 AI 使用方（员工 / 应用 / Agent / 业务系统 / 开发者）提供统一能力入口。
读者最关心的问题建议先读
企业管理者AI 被谁使用、产生多少成本、最终沉淀为什么资产？预算管理、数据沉淀
IT / 平台团队如何统一接入模型、控制权限、审计请求和管理数据边界？来源聚合、接入指南、安全与治理
开发者OpenAI、Anthropic 和内部模型如何接入，应用如何减少 Provider 配置？接入指南、统一入口、智能路由
高信任交付客户何时需要内网、离线、自有算力或数据驻留边界？安全与治理、私有化部署
01 · Source aggregation

一个枢纽，连接多种模型与算力

来源聚合解决的是企业 AI 资源分散问题。TokenForge 统一接入不同供应商、不同协议、不同部署位置和不同模型能力，让企业侧使用一个稳定入口。这里的 AI 能力不只包括文本对话模型，也包括未来的视频、图片、音频、Embedding、Rerank 和 Agent 工具等能力来源。

  1. 接入来源：把公有模型、私有模型、公有云模型、自有算力、多模态模型和中转服务纳入统一来源目录。
  2. 统一配置：按组织管理 Provider、协议、访问凭证和可用能力，减少应用侧重复配置。
  3. 进入治理：来源一旦接入，就可以进入权限、预算、审计、DLP 和路由策略。
  4. 统一使用：员工、应用、Agent、业务系统和开发者面对同一个企业 AI 能力入口。

公有模型

接入海外、国内和公有云模型，统一管理 API Key、协议差异和调用策略。

私有模型

接入企业自有模型、微调模型或内部推理端点，并纳入同一权限和预算体系。

自有算力

接入 GPU、内网推理服务或离线节点，用于更高数据控制和专属资源场景。

多模态能力

规划接入图片、音频、视频、Embedding 和 Rerank 等能力类型，纳入统一预算和治理边界。

中转服务

兼容已有代理、聚合服务或合作方通道，降低迁移成本。

边界说明来源聚合不是模型商城，也不表示 TokenForge 自己提供所有模型。文档中的模型和 Provider 名称只作为可连接类型示例，真实可用范围应以当前部署版本和组织配置为准。
02 · Access guide

接入指南：把 OpenAI、Anthropic 和多种 AI 能力纳入统一入口

接入指南说明企业如何开始使用 TokenForge。管理员先把不同 Provider 的连接信息配置到 TokenForge，再由应用使用统一的 TokenForge Key 调用模型、虚拟模型或其他 AI 能力。这里要区分两种 Base URL：应用连接 TokenForge 的 Base URL，以及 TokenForge 连接上游 Provider 的 Base URL。

基础接入

配置位置OpenAI / OpenAI-compatibleAnthropic-compatible
应用接 TokenForgeSaaS：https://api.tokgoai.com/v1
私有化部署：http://<私有化部署服务器 IP>:3080/v1		SaaS：https://api.tokgoai.com
私有化部署：http://<私有化部署服务器 IP>:3080
TokenForge 接上游 Provider官方 OpenAI：https://api.openai.com
中转服务：填写该服务给出的根地址，例如 https://api.example.com		官方 Anthropic：https://api.anthropic.com
实际请求路径应用或 TokenForge 会访问 /v1/chat/completions、/v1/models 等路径。应用或 TokenForge 会访问 /v1/messages、/v1/models 等路径。
  1. 选择 Provider 类型：OpenAI、Anthropic、OpenAI-compatible 中转服务、私有模型或自有算力端点。
  2. 填写连接信息：Provider 名称、协议类型、Base URL、API Key、默认模型和可用模型清单。
  3. 发布模型能力：把可用模型纳入组织来源目录，并设置权限、预算和路由策略。
  4. 应用统一调用：应用只使用 TokenForge 的兼容入口和 TokenForge Key，不直接暴露上游 Provider Key。

按能力类型接入

随着 AI 能力从文本扩展到图片、音频和视频，接入指南需要按“能力类型”说明协议、输入输出和治理边界。下面表格用于定义文档结构和产品方向；标注为规划的能力，应理解为后续支持方向，不等同于当前部署版本已经全部可用。

能力类型接入对象配置重点状态边界
文本 / 对话模型OpenAI、Anthropic、OpenAI-compatible、私有大语言模型Base URL、API Key、模型名、上下文长度、流式返回、预算和路由策略。当前重点能力。
图片模型图像生成、图像编辑、视觉理解、多模态输入模型输入格式、图片尺寸、文件存储、内容安全、输出资产记录和成本归因。规划接入类型。
音频模型语音识别 STT、语音合成 TTS、音频理解模型音频格式、采样率、时长限制、转写结果、语音资产和隐私边界。规划接入类型。
视频模型视频生成、视频理解、视频摘要和多模态检索文件大小、处理时长、异步任务、生成结果保存、成本和审计记录。规划接入类型。
向量 / RerankEmbedding、Rerank、检索增强和知识库相关模型向量维度、索引归属、召回策略、重排模型、知识库权限和使用记录。规划接入类型。
Agent / 工具能力Agent、工作流、工具调用和企业内部 API工具权限、执行上下文、调用链路、失败重试和审计留痕。作为 AI 能力统一治理。
命名原则接入指南不再只围绕“模型”展开，而是围绕“AI 能力”展开。文本模型是当前最明确的接入对象；图片、音频、视频、向量和 Rerank 应作为未来能力类型预留文档位置。
Provider上游 Base URL接入要素典型用途
OpenAIhttps://api.openai.comOpenAI API Key、模型名、组织侧权限和预算。GPT 系列、OpenAI-compatible 生态和常见 Chat Completions 接入。
Anthropichttps://api.anthropic.comAnthropic API Key、Claude 模型名、协议适配和调用策略。Claude 系列模型、长文本、推理和企业知识工作流。
OpenAI-compatible 中转中转服务给出的根地址中转服务 Base URL、上游 Key、模型映射和健康检查。已有代理、聚合服务、合作方通道和迁移过渡。
私有模型 / 自有算力企业内网 endpoint模型标识、认证方式、输入输出能力和数据边界。内部模型、GPU 推理、离线节点和高信任数据场景。

OpenAI 接入示例

OpenAI 或 OpenAI-compatible Provider 接入后，应用侧仍调用 TokenForge 统一入口。OpenAI SDK / 应用配置的 TokenForge Base URL 通常带 /v1；上游 OpenAI Provider 的 Base URL 则填写根地址 https://api.openai.com，上游 Key 保存在 TokenForge Provider 配置中。

# 应用调用 TokenForge；上游 OpenAI Key 不进入应用代码 curl https://api.tokgoai.com/v1/chat/completions \ -H "Authorization: Bearer $TOKENFORGE_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Hello"}]}'

Anthropic 接入示例

Anthropic Provider 接入后，可以把 Claude 模型纳入同一组织目录。Anthropic SDK、Claude Code 或 Cursor 配置的 TokenForge Base URL 通常不带 /v1，例如私有化部署为 http://<私有化部署服务器 IP>:3080；上游 Anthropic Provider 的 Base URL 填写 https://api.anthropic.com。

# 应用侧仍使用同一个 TokenForge 接口调用 Claude 能力 curl https://api.tokgoai.com/v1/chat/completions \ -H "Authorization: Bearer $TOKENFORGE_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"claude-sonnet","messages":[{"role":"user","content":"Explain TokenForge"}]}'
Base URL 规则应用侧配置的是 TokenForge 地址：OpenAI-compatible 客户端用 .../v1，Anthropic-compatible 客户端用根地址；私有化部署时把示例中的 <私有化部署服务器 IP> 替换为实际服务器 IP 或内网域名。Provider 配置里填的是上游地址：OpenAI 用 https://api.openai.com，Anthropic 用 https://api.anthropic.com。不要把上游 Provider 的 Base URL 填到用户应用里，也不要把 TokenForge 的 Base URL 当作上游 Provider 地址。
凭证边界真实 OpenAI / Anthropic / 中转服务 API Key 应只保存在 Provider 配置或安全凭证系统中。文档和应用示例统一使用占位符，不展示真实 Key。
03 · Intelligent routing

智能路由：根据请求动态选择更合适的执行路径

智能路由是 TokenForge 的关键技术特点。系统会基于任务类型、模型能力、成本、延迟、健康状态和企业策略，在固定模型、自动选择、故障切换之间做出执行决策。随着接入对象扩展，路由目标也应从文本模型扩展到图片、音频、视频、Embedding、Rerank 和 Agent 工具等能力类型。

01 / 请求

识别任务

识别模型、任务和使用场景，确认是否需要固定模型或自动路由。

02 / 评估

比较路径

评估模型能力、成本、健康状态、预算和安全策略。

03 / 执行

返回结果

路由到目标模型、Agent 或企业 AI 能力；必要时触发故障切换。

模式适合场景决策边界
固定模型业务要求指定模型、固定供应商或固定能力。直接解析单一目标，不把每个请求都强行进入自动选择。
智能路由同一任务有多个可选模型，需要在质量、速度、成本和稳定性之间平衡。按策略、模型能力、健康状态和预算边界规划候选路径。
故障切换目标模型不可用、超时、健康状态异常或策略允许备用路径。只在企业策略允许时切换，并记录切换原因和实际目标。
文本任务路由到对话、推理、总结、代码或企业知识问答模型。
图片任务规划路由到图像生成、图像编辑或视觉理解能力。
音频任务规划路由到语音识别、语音合成或音频理解能力。
视频任务规划路由到视频生成、视频理解、摘要或异步处理能力。
对企业的价值更合适的模型、更稳定的调用、更低的使用成本、更少的重复配置和更灵活的 AI 能力组合。
不做绝对承诺智能路由不承诺每一次都得到最低价格、最高质量或零故障。它提供的是可配置、可观测、可审计的执行路径选择机制。
04 · Virtual models

虚拟模型：把多模型与策略封装成一个稳定能力名

虚拟模型让应用不直接绑定某一个 Provider 或具体模型，而是调用一个稳定的能力名称。TokenForge 在后台维护候选模型、路由策略、预算边界和故障切换规则。

这个能力适合客服、研发助手、知识问答、Agent 执行等需要长期稳定入口但底层模型会变化的场景。

封装对象候选模型、路由策略、预算限制、健康状态和故障切换规则。
应用收益应用调用稳定能力名，不需要随底层 Provider 或模型变更频繁改代码。
管理收益管理员可以在后台调整候选模型、策略和预算，不破坏应用接入方式。
当前边界虚拟模型属于预览或能力说明；公开 API 与可用范围以目标发布版本为准。
与智能路由的关系虚拟模型是面向应用的上层能力形态；智能路由是执行路径选择机制。二者相关，但不等同。
05 · Unified entry

统一入口：让员工、应用、Agent、业务系统和开发者使用同一套 AI 能力

统一入口降低的是接入和维护成本。员工工具、业务系统、Agent 和开发者脚本不需要分别维护多个 Provider 配置，由 TokenForge 统一处理认证、协议、路由、预算和审计。

  1. 应用只接一个入口：请求进入 TokenForge，而不是分别接入多个 Provider。
  2. 入口处理企业上下文：识别组织、成员、项目、系统凭证和可用能力。
  3. 入口串联治理能力：认证、路由、预算、DLP、审计和数据沉淀在同一请求链路中发生。
  4. 结果返回使用方：返回模型、Agent 或企业 AI 能力结果，同时保留调用轨迹。
使用方典型场景TokenForge 提供的边界
员工日常协作、写作、分析和知识查询组织身份、可用能力和预算限制
应用产品功能、内部工具、自动化流程统一 API、路由策略和调用留痕
Agent任务执行、工具调用、流程编排能力授权、执行记录和风险控制
业务系统ERP、CRM、知识库和工单系统系统级凭证、项目归因和审计记录
开发者API 集成、脚本、测试和模型切换兼容入口、统一 Key 和可观测数据
设计重点统一入口不是“只有一个模型”，而是让多模型、多来源、多使用方在企业策略下使用同一个治理入口。
06 · Budget management

AI 用了多少、花了多少，企业应该清楚知道

TokenForge 将 AI 使用与组织、成员、项目、模型和来源关联起来，让预算管理进入实际调度策略，而不只是事后财务统计。

  1. 谁在使用：按组织、成员、项目、应用或 Agent 识别调用来源。
  2. 用了什么：记录目标模型、来源、能力类型和执行路径。
  3. 花了多少：关联 token、请求量、模型价格、来源成本或组织内部成本口径。
  4. 是否越界：检查预算、权限、频率和策略阈值。
  5. 如何处理：触发告警、限流、暂停调用或调整路由策略。
管理对象回答的问题可执行动作
组织团队整体 AI 消耗是否超出预期？设置预算线、告警和限流策略
成员谁在使用，使用了哪些能力？查看归因、权限和调用范围
项目哪个项目产生了成本？按项目聚合、分配预算和调整策略
模型与来源成本来自哪个模型或 Provider？比较来源、固定模型或切换路由
组织级预算用于控制团队整体 AI 消耗，适合管理月度或项目周期预算。
成员和项目归因用于追踪具体团队、人员、Agent 或业务系统产生的成本。
模型及来源成本用于比较不同 Provider、模型和算力路径的成本结构。
告警与限制用于在接近阈值时提醒，在超额时限流或调整策略。
调度含义预算不只是报表。预算达到阈值后，可以触发告警、限流或切换到更经济的路由策略。
07 · Data assets

每一次使用都沉淀为企业资产

TokenForge 记录每次 AI 使用中的调用者、模型、用量、结果状态和治理记录，形成可追溯、可分析和可复用的数据资产。

对话记录员工和业务系统与 AI 交互的上下文，用于回溯和复用。
调用轨迹请求经过的入口、策略、模型、来源和结果状态。
用量与成本Token、请求量、模型来源和预算归因数据。
模型使用经验哪些任务适合哪些模型、哪些路径更稳定或更经济。
企业知识由真实业务使用沉淀出的知识、规则和高价值问答。
治理记录权限、预算、DLP、审计和策略判断结果。
01 / 留痕

对话与调用

记录谁在什么场景使用了哪些模型、Agent 或企业 AI 能力。

02 / 归因

轨迹与用量

模型、来源、结果状态、用量、成本和策略结果被关联保存。

03 / 复用

知识与经验

沉淀模型使用经验、企业知识、Agent 执行记录和治理经验。

  1. 追溯：还原一次调用由谁发起、命中了什么策略、去了哪个模型。
  2. 分析：比较团队、项目、模型和来源维度下的质量、稳定性和成本。
  3. 复用：把高价值对话、规则和使用经验沉淀到团队知识体系。
  4. 提炼：为后续路由策略、Agent 工作流和治理规则优化提供依据。
边界说明这里强调沉淀和复用，不夸大为未经验证的自动训练或自动产生智能。
08 · Security & governance

企业需要的不只是更多 AI，而是可控的 AI

安全与治理用于保障模型与服务接入、AI 使用和数据沉淀过程可控、可查、可追溯。身份、权限、预算、策略、DLP 和审计进入同一请求链路。

  1. 请求进入：从员工、应用、Agent、业务系统或开发者进入统一入口。
  2. 身份与权限检查：确认组织、角色、项目和可使用能力。
  3. 预算和策略检查：判断是否超额、是否限流、是否需要调整路由策略。
  4. DLP 与敏感信息检查：在请求出站前识别或处理敏感信息。
  5. 路由和记录：路由到目标模型或 Agent，并记录审计结果与使用轨迹。
01 / 身份

权限检查

确认调用者、组织、角色和可使用的 AI 能力。

02 / 策略

预算与 DLP

检查预算阈值、路由策略和敏感信息边界。

03 / 审计

轨迹记录

记录策略结果、模型目标和调用轨迹，用于追溯、归因和复盘。

数据边界适合场景说明
外部模型需要使用公有模型能力、速度或生态。DLP 和策略可降低外发风险，但不承诺数据绝对不出域。
自有算力内部模型、GPU、内网推理或专属资源。可把部分任务路由到企业控制的模型或算力路径。
私有化部署数据驻留、离线、内网和高信任交付。改变运行边界和数据控制方式，产品能力保持一致。
表达边界安全与治理是企业可控运行的基础，不把 TokenForge 写成只做合规清单的产品，也不承诺外部模型场景下 100% 数据不出域。
09 · Start

注册开始

注册开始适合希望快速建立团队 AI 工作流的企业。管理员创建组织后，配置模型来源、API Key、成员权限和预算策略，即可让团队或应用开始接入。

01 / 组织

创建团队边界

建立组织、成员和角色，为后续权限与预算归因提供基础。

02 / 来源

配置模型来源

接入模型、Provider、API Key、私有模型或中转服务。

03 / 策略

设置预算与治理

配置可用能力、预算阈值、审计和数据边界策略。

打开注册与登录入口 →
10 · Private deployment

一个 TokenForge，两种部署方式

注册开始和私有化部署是两种交付方式，不是两个产品。私有化部署的核心价值是改变数据和运行边界，而不是改变 TokenForge 的产品能力。

方式适合场景边界变化
平台托管环境快速建立团队 AI 工作流平台托管运行，组织和租户隔离
私有化部署企业机器、内网、离线、自有算力和专属资源满足数据驻留、合规和更高信任交付要求
运行位置平台托管环境由 TokenForge 托管；私有化部署运行在客户机器、内网或离线环境。
数据控制私有化部署更适合数据驻留、内部模型、自有算力和合规审计要求。
产品能力统一入口、路由、预算、安全、审计和数据资产逻辑保持同一套产品能力。
交付关系注册开始和私有化部署是同一个 TokenForge 的两种入口，不是两个并列产品。
选择建议希望快速验证团队 AI 工作流时先注册开始；存在内网、离线、专属资源、数据驻留或高信任交付要求时评估私有化部署。