graph TB subgraph planes["Dynamo 三平面架构"] subgraph control["控制平面 - etcd"] E1["服务注册"] E2["配置管理"] E3["分布式协调"] E4["租约管理"] end subgraph event["事件平面 - NATS"] N1["KV 事件广播"] N2["负载指标收集"] N3["Prefill 工作队列"] N4["服务状态同步"] end subgraph data["数据平面 - NIXL/TCP"] D1["KV Cache 传输"] D2["响应流传输"] D3["大数据块移动"] end Worker1["Worker 1"] --> E1 Worker1 --> N1 Worker1 --> D1 Worker2["Worker 2"] --> E1 Worker2 --> N2 Worker2 --> D1 Router["Router"] --> E2 Router --> N1 Router --> N2 end

graph LR subgraph control["控制平面职责"] A["服务注册"] --> E["etcd"] B["服务发现"] --> E C["配置存储"] --> E D["租约/心跳"] --> E end

graph LR subgraph event["事件平面职责"] A["KV 事件"] --> N["NATS"] B["负载指标"] --> N C["工作队列"] --> N D["状态通知"] --> N end

graph LR subgraph dataplane["数据平面职责"] A["KV Cache"] --> T["NIXL/TCP"] B["流式响应"] --> T C["模型权重"] --> T end

sequenceDiagram participant R as Router participant E as etcd participant N as NATS participant PW as Prefill Worker participant DW as Decode Worker participant NIXL as NIXL Note over R,E: 控制平面 - 服务发现 R->>E: 查询可用 Workers E-->>R: 返回 Worker 列表 Note over R,N: 事件平面 - 调度决策 N-->>R: 接收负载指标 R->>R: 选择最佳 Worker Note over R,N: 事件平面 - 任务分发 R->>N: 发布 Prefill 请求 N-->>PW: 推送到 Prefill Queue Note over PW,NIXL: 数据平面 - KV 传输 PW->>NIXL: 读取已有 KV（如果有） PW->>PW: 执行 Prefill 计算 PW->>NIXL: 写入计算结果 Note over PW,DW: 通知 Decode Worker PW->>DW: Prefill 完成通知

sequenceDiagram participant Client as Client participant Router as Router participant NATS as NATS participant DW as Decode Worker participant PW as Prefill Worker participant etcd as etcd participant NIXL as NIXL Note over Client,NIXL: 1. 请求到达 Client->>Router: 请求（长 Prompt） Note over Router,DW: 2. 路由决策 Router->>Router: 检查 prompt_len > threshold? Router->>Router: 决定使用分离式 Prefill Note over Router,DW: 3. 分配资源 Router->>DW: 分配 KV 块 DW-->>Router: 返回块信息 Note over Router,NATS: 4. 任务入队 Router->>NATS: enqueue RemotePrefillRequest Note over NATS,PW: 5. Prefill 处理 PW->>NATS: dequeue 获取任务 NATS-->>PW: RemotePrefillRequest PW->>etcd: 查询 Decode Worker NIXL 元数据 etcd-->>PW: NixlMetadata PW->>PW: 执行 Prefill 计算 Note over PW,DW: 6. KV Cache 传输 PW->>NIXL: RDMA Write KV Cache NIXL->>DW: 直接写入 GPU 内存 Note over PW,DW: 7. 完成通知 PW->>DW: Prefill 完成通知 Note over DW,Client: 8. Decode 阶段 DW->>DW: 执行 Decode DW-->>Client: 流式响应

控制平面：强一致性，低频更新
     ↓
事件平面：高吞吐，最终一致
     ↓
数据平面：低延迟，大带宽

graph TB subgraph scale["独立扩展能力"] E["etcd 集群
3-5 节点即可"] N["NATS 集群
按消息量扩展"] D["NIXL
按 GPU 数量扩展"] end

control_plane:
  etcd:
    nodes: 1  # 单节点即可
    memory: 2GB

event_plane:
  nats:
    nodes: 1
    memory: 1GB

data_plane:
  nixl:
    enabled: false  # 使用 TCP

control_plane:
  etcd:
    nodes: 3  # 3 节点集群
    memory: 4GB

event_plane:
  nats:
    nodes: 3
    memory: 2GB
    jetstream: true

data_plane:
  nixl:
    enabled: true
    fallback: tcp

control_plane:
  etcd:
    nodes: 5
    memory: 8GB
    ssd: true

event_plane:
  nats:
    nodes: 5
    memory: 4GB
    jetstream: true

data_plane:
  nixl:
    enabled: true
    rdma_interface: ib0