跳到主要内容
AI BoxCompute

AI Box OS 架构

六层栈:系统层到接入层的职责边界与升级策略。

总览

AI Box OS 基于 Ubuntu 24.04 LTS,默认启用 只读根分区 + A/B 分区升级,降低现场售后频次。

六层模型

  1. L1 系统层:内核、驱动、容器运行时。
  2. L2 推理引擎:vLLM / Ollama / Diffusers / ComfyUI。
  3. L3 模型层:模型缓存、量化策略、License 清单。
  4. L4 Agent 层:Hermes、工具、记忆、策略。
  5. L5 应用层:行业 SOP 与模板。
  6. L6 接入层:Web / 微信 / API / MCP。

升级

  • 安全补丁:每周自动(可改窗口)。
  • 模型 OTA:Cloud Sync 订阅通道;离线环境可用 U 盘镜像。