Orchidea Watch 心枢可观测平台
Orchidea Watch(心枢)是面向 LLM 应用、Agent 与 AI 工作流的全链路可观测与评测平台,覆盖调用追踪、会话回放、数据集、评估、提示词调优、实验对比,以及 MCP 协议扩展、项目级配置治理与成本管理。
2026-11 能力更新(v0.2.1)
- OTLP/HTTP 接收器:同时接受 JSON 与 protobuf(
opentelemetry-proto+prost解码),按采样 → PII 过滤 → span 转换直接落库,不经过 worker 队列 - Web 构建:
vue-tsc类型错误清零,Playground / App 状态绑定与会话类型收敛,npm run build通过
2026-10 能力更新(v0.2.0)
- 审计日志:拦截 POST/PUT/PATCH/DELETE,异步写入 PostgreSQL
audit_logs,记录操作者、资源、前后快照、IP、UA、状态码与耗时;提供/audit-logs查询 - AI 审计引擎:单条/批量评估、安全校验、异常检测、告警查询/确认/解决、质量趋势与报告、根因分析、Prompt 漂移
- 评测与上线评估:G-Eval、实时评分、LLM Judge、预飞行检查;go-live 对照算法按字段准确率(≥0.95)与样本通过率(≥0.90)判定
- 报表与成本契约:周报/月报调度(
next_run_after/is_due/due_schedules)与成本可视化契约 - 制造 KPI:前端指标页接入 ISA-95 KPI(OEE/可用率/性能率/合格率/MTBF/MTTR)与场景价值面板
- 只读 MCP:6 个工具(
query_metrics、get_metric_series、list_alerts、get_alert、get_dashboard_data、list_dashboards),无数据时返回implemented:false
边界说明:go-live 评估算法与报表调度契约已实现并可复用,尚未暴露为 HTTP 路由。
产品能力
- 可观测:Dashboard、Metrics、Traces(含链路图)、Sessions
- 链路增强:orchidea-trace 统一 TraceContext / SpanBuilder / TraceEvent 能力
- 会话回放:Session Replay(创建回放、播放控制、时间轴、快照管理)
- 评测:Evaluations、Experiments、Score Configs、Score Analytics、Annotations
- 工程:Prompts、Playground、Datasets
- 扩展协议:MCP JSON-RPC 2.0 接口(ToolHandler 注册与调用)
- 多模态预留:Multimodal 接入(图像/附件数据与 Trace 关联存储)
- 配置:Settings、Organization Settings、Automations、Webhooks、LLM Connections、Model Prices、Billing
扩展能力一览
MCP(Model Context Protocol)
后端提供 POST /mcp JSON-RPC 2.0 端点,支持 initialize / tools/list / tools/call 等方法。应用方可以通过统一协议把内部工具、外部工具注册到 Orchidea,让 LLM / Agent 通过统一入口调用,同时所有工具调用会自动纳入 Traces 与 Sessions 观测。
Session Replay(会话回放)
提供 9 个管理端点:创建回放、获取回放状态、播放 / 暂停 / 停止 / 跳转、获取时间轴、创建快照、按会话列出快照。适合定位线上会话级问题、复现评测样本、沉淀演示材料。
orchidea-trace 统一链路
在 api-server 服务层内提供 SpanBuilder、TraceContext、TraceEvent 三类对象。业务代码可在任何服务方法中接入统一 trace_id,把跨模块调用的上下文写入 PostgreSQL + ClickHouse,并在前端 Traces 中按链路图展示。
Multimodal(多模态预留)
Multimodal Support crate 已作为依赖声明在 api-server 中,后续可把图像、音频、文档附件与 Trace / Session 关联,在前端按附件 ID 预览或下载。
仓库结构
orchidea/:主应用,包含前端、后端、Worker、Docker Compose 与环境变量模板docs/:产品、部署、运维、配置与使用手册scripts/:本机门禁、健康检查与诊断脚本batch_replication/:功能补齐任务与阶段性计划cankao/:参考资料,不作为当前产品文档入口
快速开始
本机启动
cp orchidea/.env.example orchidea/.env
make up
make smoke
常用命令
make ps
make logs
make typecheck
make unit
make doctor
make down
文档导航
- 文档首页:
docs/README.md - 产品概览:
docs/PRODUCT-OVERVIEW.md - 客户版文档首页:
docs/CUSTOMER-DOCS-HOME.md - 组织级运营支持:
docs/ORG-OPERATIONS-SUPPORT.md - 快速上手:
docs/GETTING-STARTED.md - 使用手册:
docs/USER-MANUAL.md - 管理员手册:
docs/ADMIN-HANDBOOK.md - 演示培训脚本:
docs/DEMO-TRAINING-SCRIPT.md - 视频培训大纲:
docs/VIDEO-TRAINING-OUTLINES.md - 常见场景 SOP:
docs/SCENARIO-SOPS.md - 产品化路线图:
docs/PRODUCTIZATION-ROADMAP.md - 发布说明模板:
docs/RELEASE-NOTES-TEMPLATE.md - 上线检查清单:
docs/GO-LIVE-CHECKLIST.md - 验收记录模板:
docs/ACCEPTANCE-RECORD-TEMPLATE.md - FAQ:
docs/FAQ.md - 权限矩阵:
docs/PERMISSIONS-MATRIX.md - 备份恢复:
docs/BACKUP-RECOVERY.md - 监控告警:
docs/MONITORING-ALERTING.md - API/SDK 说明:
docs/API-SDK-GUIDE.md - 部署:
docs/DEPLOYMENT.md - 配置:
docs/CONFIGURATION.md - 运维与排障:
docs/RUNBOOK.md - 安全基线:
docs/SECURITY.md - AI Actions 规范:
docs/AI-ACTIONS.md
推荐阅读顺序
- 业务或产品同学:先看产品概览,再看产品化路线图
- 一线使用者:先看快速上手,再看使用手册
- 项目管理员:先看管理员手册,再看部署、配置与运维文档
- 研发同学:从文档首页进入,按模块查阅对应说明
当前产品化交付范围
本轮已补齐最小可用文档体系,目标是让团队具备以下基础能力:
- 对外说明产品是什么、解决什么问题
- 对内说明用户如何上手、管理员如何配置
- 说明部署、配置、运维与故障处理入口
- 为发布、上线、答疑和权限治理提供标准模板
- 为备份恢复、监控告警和接口接入提供操作基线
- 为客户介绍、培训演示和标准交付提供统一脚本
- 为组织级运营支持和培训扩展提供持续材料
- 为后续版本规划、验收与发布建立统一文档基线
系统架构
主应用位于 orchidea/,由 Rust workspace(orchidea/Cargo.toml,14 个 crate)与前端、SDK、数据库迁移、遥测服务等组成:
| 目录 / 组件 | 说明 |
|---|---|
orchidea/crates/* | Rust workspace,服务与库 crate(见下表) |
orchidea/web/ | Vue 3 + TypeScript + Vite 前端(Dashboard、Traces、Sessions、Prompts、Playground、Experiments 等) |
orchidea/sdk/python/ | Python SDK(trace、dataset、experiment、evaluation、prompt 等,含 orchidea_telemetry 子包) |
orchidea/clickhouse/ | ClickHouse 数据库迁移脚本 |
orchidea/telemetry_server/ | 遥测上报服务 |
docs/ | 产品、部署、运维、配置与使用手册 |
orchidea-observability/ | 独立 Rust workspace(早期架构:otel-receiver + postgres-store,NATS/ClickHouse 依赖) |
Rust crates(orchidea/crates/)
| crate | 职责 |
|---|---|
api-server | Axum REST API(JWT/bcrypt 认证、OAuth2、邮件),穿透调用各底层 crate |
worker / worker-bin | 独立 Worker 进程:评估执行、批量导出(CSV/Parquet)、异步任务 |
otel-receiver / otel-receiver-bin | OpenTelemetry 遥测接收(gRPC) |
orchidea-trace | 统一 TraceContext / SpanBuilder / TraceEvent 链路能力 |
session-replay | 会话回放(时间轴、快照管理) |
ai-audit-engine | AI 审计与统计分析 |
eval-engine | 评测引擎(数据集、实验、评分) |
mcp-support | MCP 协议支持(工具注册与 Schema 校验) |
multimodal-support | 多模态接入预留(图像/附件,SigV4 签名) |
postgres-store | PostgreSQL 持久化层(sqlx) |
clickhouse-sink | ClickHouse 写入 |
blob-store | S3 对象存储(AWS SDK) |
数据链路概览:otel-receiver 接收遥测 → postgres-store / clickhouse-sink 持久化 → api-server / worker 提供 REST API 与异步处理 → web/ 前端展示;会话回放经 session-replay 管理,AI 审计经 ai-audit-engine 分析。
许可证与版本
- 许可证:详见上级目录
LICENSE文件。 - 版本:版本号见
VERSION文件。