核心优势功能

Orchidea Watch

可观测性平台

面向 LLM 应用、Agent 与 AI 工作流的全链路可观测与评测平台。

核心能力

  • 可观测:Dashboard / Metrics / Traces(链路图)/ Sessions,orchidea-trace 统一 TraceContext / SpanBuilder / TraceEvent
  • Session Replay 会话回放:时间轴 / 播放控制 / 快照管理(9 个管理端点)
  • 评测闭环:Datasets / Evaluations / Experiments / Score Configs / Score Analytics / Annotations
  • 工程能力:Prompts / Playground / Datasets
  • MCP 扩展:POST /mcp(JSON-RPC 2.0,initialize / tools/list / tools/call),工具调用自动纳入 Traces 与 Sessions 观测
  • 多模态预留:multimodal-support(SigV4)可将图像 / 音频 / 文档附件与 Trace / Session 关联
  • 配置治理:Settings / Organization Settings / Automations / Webhooks / LLM Connections / Model Prices / Billing
  • Rust workspace(14 个 crate):api-server / worker / otel-receiver / orchidea-trace / session-replay / ai-audit-engine / eval-engine / mcp-support / multimodal-support / postgres-store / clickhouse-sink / blob-store
  • 双存储 PostgreSQL + ClickHouse;Python SDK(trace / dataset / experiment / evaluation / prompt + orchidea_telemetry);Vue 3 前端

技术优势

  • 全链路追踪,一次定位问题根因
  • 会话回放,像看录像一样复盘每一次 AI 交互
  • 评测闭环,模型效果可度量、可比较
  • MCP 工具调用自动纳管,零埋点观测
应用场景 AI 研发 / 评测 / 运营团队「观察-回放-优化-评测-治理」闭环;当前内部试点与小规模交付形态
数据流转 运行数据 → 链路追踪 → 会话回放 → 评测分析 → 告警治理
数据存储 指标库 · 链路库

Orchidea Watch 心枢可观测平台

Orchidea Watch(心枢)是面向 LLM 应用、Agent 与 AI 工作流的全链路可观测与评测平台,覆盖调用追踪、会话回放、数据集、评估、提示词调优、实验对比,以及 MCP 协议扩展、项目级配置治理与成本管理。

2026-11 能力更新(v0.2.1)

  • OTLP/HTTP 接收器:同时接受 JSON 与 protobuf(opentelemetry-proto + prost 解码),按采样 → PII 过滤 → span 转换直接落库,不经过 worker 队列
  • Web 构建:vue-tsc 类型错误清零,Playground / App 状态绑定与会话类型收敛,npm run build 通过

2026-10 能力更新(v0.2.0)

  • 审计日志:拦截 POST/PUT/PATCH/DELETE,异步写入 PostgreSQL audit_logs,记录操作者、资源、前后快照、IP、UA、状态码与耗时;提供 /audit-logs 查询
  • AI 审计引擎:单条/批量评估、安全校验、异常检测、告警查询/确认/解决、质量趋势与报告、根因分析、Prompt 漂移
  • 评测与上线评估:G-Eval、实时评分、LLM Judge、预飞行检查;go-live 对照算法按字段准确率(≥0.95)与样本通过率(≥0.90)判定
  • 报表与成本契约:周报/月报调度(next_run_after / is_due / due_schedules)与成本可视化契约
  • 制造 KPI:前端指标页接入 ISA-95 KPI(OEE/可用率/性能率/合格率/MTBF/MTTR)与场景价值面板
  • 只读 MCP:6 个工具(query_metrics、get_metric_series、list_alerts、get_alert、get_dashboard_data、list_dashboards),无数据时返回 implemented:false

边界说明:go-live 评估算法与报表调度契约已实现并可复用,尚未暴露为 HTTP 路由。

产品能力

  • 可观测:Dashboard、Metrics、Traces(含链路图)、Sessions
  • 链路增强:orchidea-trace 统一 TraceContext / SpanBuilder / TraceEvent 能力
  • 会话回放:Session Replay(创建回放、播放控制、时间轴、快照管理)
  • 评测:Evaluations、Experiments、Score Configs、Score Analytics、Annotations
  • 工程:Prompts、Playground、Datasets
  • 扩展协议:MCP JSON-RPC 2.0 接口(ToolHandler 注册与调用)
  • 多模态预留:Multimodal 接入(图像/附件数据与 Trace 关联存储)
  • 配置:Settings、Organization Settings、Automations、Webhooks、LLM Connections、Model Prices、Billing

扩展能力一览

MCP(Model Context Protocol)

后端提供 POST /mcp JSON-RPC 2.0 端点,支持 initialize / tools/list / tools/call 等方法。应用方可以通过统一协议把内部工具、外部工具注册到 Orchidea,让 LLM / Agent 通过统一入口调用,同时所有工具调用会自动纳入 Traces 与 Sessions 观测。

Session Replay(会话回放)

提供 9 个管理端点:创建回放、获取回放状态、播放 / 暂停 / 停止 / 跳转、获取时间轴、创建快照、按会话列出快照。适合定位线上会话级问题、复现评测样本、沉淀演示材料。

orchidea-trace 统一链路

在 api-server 服务层内提供 SpanBuilder、TraceContext、TraceEvent 三类对象。业务代码可在任何服务方法中接入统一 trace_id,把跨模块调用的上下文写入 PostgreSQL + ClickHouse,并在前端 Traces 中按链路图展示。

Multimodal(多模态预留)

Multimodal Support crate 已作为依赖声明在 api-server 中,后续可把图像、音频、文档附件与 Trace / Session 关联,在前端按附件 ID 预览或下载。

仓库结构

  • orchidea/:主应用,包含前端、后端、Worker、Docker Compose 与环境变量模板
  • docs/:产品、部署、运维、配置与使用手册
  • scripts/:本机门禁、健康检查与诊断脚本
  • batch_replication/:功能补齐任务与阶段性计划
  • cankao/:参考资料,不作为当前产品文档入口

快速开始

本机启动

cp orchidea/.env.example orchidea/.env
make up
make smoke

常用命令

make ps
make logs
make typecheck
make unit
make doctor
make down

文档导航

  • 文档首页:docs/README.md
  • 产品概览:docs/PRODUCT-OVERVIEW.md
  • 客户版文档首页:docs/CUSTOMER-DOCS-HOME.md
  • 组织级运营支持:docs/ORG-OPERATIONS-SUPPORT.md
  • 快速上手:docs/GETTING-STARTED.md
  • 使用手册:docs/USER-MANUAL.md
  • 管理员手册:docs/ADMIN-HANDBOOK.md
  • 演示培训脚本:docs/DEMO-TRAINING-SCRIPT.md
  • 视频培训大纲:docs/VIDEO-TRAINING-OUTLINES.md
  • 常见场景 SOP:docs/SCENARIO-SOPS.md
  • 产品化路线图:docs/PRODUCTIZATION-ROADMAP.md
  • 发布说明模板:docs/RELEASE-NOTES-TEMPLATE.md
  • 上线检查清单:docs/GO-LIVE-CHECKLIST.md
  • 验收记录模板:docs/ACCEPTANCE-RECORD-TEMPLATE.md
  • FAQ:docs/FAQ.md
  • 权限矩阵:docs/PERMISSIONS-MATRIX.md
  • 备份恢复:docs/BACKUP-RECOVERY.md
  • 监控告警:docs/MONITORING-ALERTING.md
  • API/SDK 说明:docs/API-SDK-GUIDE.md
  • 部署:docs/DEPLOYMENT.md
  • 配置:docs/CONFIGURATION.md
  • 运维与排障:docs/RUNBOOK.md
  • 安全基线:docs/SECURITY.md
  • AI Actions 规范:docs/AI-ACTIONS.md

推荐阅读顺序

  • 业务或产品同学:先看产品概览,再看产品化路线图
  • 一线使用者:先看快速上手,再看使用手册
  • 项目管理员:先看管理员手册,再看部署、配置与运维文档
  • 研发同学:从文档首页进入,按模块查阅对应说明

当前产品化交付范围

本轮已补齐最小可用文档体系,目标是让团队具备以下基础能力:

  • 对外说明产品是什么、解决什么问题
  • 对内说明用户如何上手、管理员如何配置
  • 说明部署、配置、运维与故障处理入口
  • 为发布、上线、答疑和权限治理提供标准模板
  • 为备份恢复、监控告警和接口接入提供操作基线
  • 为客户介绍、培训演示和标准交付提供统一脚本
  • 为组织级运营支持和培训扩展提供持续材料
  • 为后续版本规划、验收与发布建立统一文档基线

系统架构

主应用位于 orchidea/,由 Rust workspace(orchidea/Cargo.toml,14 个 crate)与前端、SDK、数据库迁移、遥测服务等组成:

目录 / 组件说明
orchidea/crates/*Rust workspace,服务与库 crate(见下表)
orchidea/web/Vue 3 + TypeScript + Vite 前端(Dashboard、Traces、Sessions、Prompts、Playground、Experiments 等)
orchidea/sdk/python/Python SDK(trace、dataset、experiment、evaluation、prompt 等,含 orchidea_telemetry 子包)
orchidea/clickhouse/ClickHouse 数据库迁移脚本
orchidea/telemetry_server/遥测上报服务
docs/产品、部署、运维、配置与使用手册
orchidea-observability/独立 Rust workspace(早期架构:otel-receiver + postgres-store,NATS/ClickHouse 依赖)

Rust crates(orchidea/crates/)

crate职责
api-serverAxum REST API(JWT/bcrypt 认证、OAuth2、邮件),穿透调用各底层 crate
worker / worker-bin独立 Worker 进程:评估执行、批量导出(CSV/Parquet)、异步任务
otel-receiver / otel-receiver-binOpenTelemetry 遥测接收(gRPC)
orchidea-trace统一 TraceContext / SpanBuilder / TraceEvent 链路能力
session-replay会话回放(时间轴、快照管理)
ai-audit-engineAI 审计与统计分析
eval-engine评测引擎(数据集、实验、评分)
mcp-supportMCP 协议支持(工具注册与 Schema 校验)
multimodal-support多模态接入预留(图像/附件,SigV4 签名)
postgres-storePostgreSQL 持久化层(sqlx)
clickhouse-sinkClickHouse 写入
blob-storeS3 对象存储(AWS SDK)

数据链路概览:otel-receiver 接收遥测 → postgres-store / clickhouse-sink 持久化 → api-server / worker 提供 REST API 与异步处理 → web/ 前端展示;会话回放经 session-replay 管理,AI 审计经 ai-audit-engine 分析。

许可证与版本

  • 许可证:详见上级目录 LICENSE 文件。
  • 版本:版本号见 VERSION 文件。
← 返回平台架构总览