Files
webup-cloud/docs/QUEUE.md
T

4.4 KiB

AI 开发队列与付费优先

页面

  • 用户 /develop:执行环境状态、当前执行 / 排队数量、本人任务名次、付费优先购买、暂停和取消。
  • 管理员 /admin/tasks:并发上限、优先费价格 / 开关、按原因调整人工优先级、指定下一位执行、费用异常核对。
  • 管理员 /admin/nodes:执行实例心跳、本实例容量、执行中任务数,以及真实网关健康检查结果。

API 和网站可正常运行,但没有健康 Worker 时不会执行 AI。创建新任务、恢复任务和购买优先权均检查近期 READY 心跳;暂停和取消不依赖 Worker。已存在任务的幂等重放不重复预留预算。

调度规则

全局并发设置为 1–64 个项目,默认 2。每个项目同时最多一个活动开发任务。领取任务时对 ai_queue_config 单例行加事务锁,统计执行位后按统一顺序领取,多个 Worker 共用该额度。

排序依次为:管理员指定下一位、人工优先级(-100–100,高值先执行)、已购买优先权、提交时间、任务 ID。人工优先级为 0 时使用默认队列;同级按先到先执行。管理员“下一位执行”不抢占正在运行的任务;有空闲执行位时等待真实 Worker 领取,否则保留为下一空闲位的首选任务。该接口不直接把状态伪改为 RUNNING。

降低并发不会杀死运行中的任务,只限制后续领取。租约失效的任务进入 REVIEW_REQUIRED;系统等待至少三分钟,再自动核算已确认费用、关闭异常任务、释放剩余预算和执行位。未知供应商费用由平台承担,不根据 AI 猜测追加用户扣款,也不自动重放不确定的外部操作。核算记录和 AI 报告仅管理员可见,见 自动核算。

每个 Worker 使用 Java 21 虚拟线程并行处理已领取任务,本实例容量由 AI_WORKER_CAPACITY 设置(1–64,默认 4)。实际并行能力同时受平台总并发、健康 Worker 总容量以及供应商 / 隔离集群能力约束。独立心跳调度线程不会被长时间模型调用占用。

优先权费用

默认关闭付费优先,管理员启用并设置正数价格后才开放购买。价格以 CNY 计,独立于 AI usage 预算;使用钱包可用余额,不能动用已预留的模型预算。

购买只适用于本人 QUEUED 任务;检查执行环境、价格报价和任务状态后,在一个事务中完成扣费、订单与优先级变更。每个任务只购买一次,记录配置版本和价格快照;重复请求不重复收费,同一幂等键不能用于其他任务。价格变化时要求用户刷新后重新确认。

首次实际开始执行前,取消任务或未开始便结束,会自动把优先费退回钱包,生成独立 PRIORITY_REFUND 账本。开始执行后订单标为 CONSUMED,后续取消不自动退优先费。模型 usage 仍只按实际调用单独结算。管理员调度高于付费优先;优先权不抢占运行中的任务,不承诺固定开始时间或模型产出成功。

购买、领取、开始执行、取消、消费与退费之间的状态更新以事务和任务锁协调。退款必须匹配原始消费金额与业务 ID,并拒绝重复退款。没有可用执行端时不收取新的优先费。

网关与 Worker 接入

  1. 将已有隔离网关地址写入本地配置的 SANDBOX_URL,令牌写 SANDBOX_TOKEN;不要在聊天或仓库提交令牌。
  2. 网关必须提供受相同令牌保护的 GET /health/ready 和工作区工具接口。健康接口会实际查询 Kubernetes API,不只判断进程存活。
  3. API 进程与独立 AI Worker 配置同一个数据库、Redis、APP_ENCRYPTION_KEY 和隔离网关。API 需要网关来读写文件和导出源码;Worker 需要网关执行工具。
  4. 启用 AI_WORKER_ENABLED=true 的独立 Worker,或 Compose ai profile;按资源设置 AI_WORKER_CAPACITY。
  5. 在后台服务器页面确认 READY 心跳与容量,再到开发任务运营页面设置平台并发并选择任务。预览默认配置关闭 Worker;本机已经部署真实 WSL2 / K3s / gVisor,并通过被忽略的本地配置启用 Worker,操作见 本机部署。

心跳每五秒更新;超过四十五秒未更新视为离线。健康检查异常记为 DEGRADED。启动、停止、探测失败、过期心跳和排队状态会在界面分开显示,不以测试 Mock 替代真实执行端。