AI 驱动的分层测试体系 — 智能编排与路由

SkillDev tools

AI-driven top-level routing orchestration for a layered testing system. Intelligently identifies testing needs based on project characteristics (frontend/backend/full-stack/microservices) and routes to the corresponding sub-skill (devlab-web-test-e2e / devlab-srv-test-api / devlab-integration-fullst

Available today. Use it from your connected AI after setup.

Connect ahel once, and every AI you use reads what you have installed.

Then ask your AI: use the AI 驱动的分层测试体系 — 智能编排与路由 skill

What this skill tells your AI

The instructions your AI receives, as published by seed-forge/harness-ai-kit in skills/devlab-test-onboard/SKILL.md and read by ahel’s review.

这是企业级测试技能体系的顶层编排入口。

根据项目特征自动识别测试需求类型,智能路由到对应的子技能执行。支持前端 E2E、后端 API、全栈集成等多种场景。

核心职责

  • ✅ 项目测试场景智能识别
  • ✅ 子技能推荐与编排
  • ✅ 测试数据服务依赖诊断
  • ✅ 专家知识库关联检索

触发条件

当用户提到以下关键词时触发此 Skill:

  • "初始化测试" / "test onboarding"
  • "配置自动化测试" / "setup test suite"
  • "新项目接入测试" / "project test integration"
  • "Playwright/Vitest/API 测试"

场景识别矩阵

收到任务后,首先识别项目特征并路由到对应子技能:

项目特征检测依据推荐子技能辅助资产
Vue/React 前端vite.config.ts, package.json(react/vue)devlab-web-test-e2e@playwright/test
纯 API 后端openapi.yaml, swagger.json, k8s/devlab-srv-test-apisupertest, jest
全栈应用同时有前端 + 后端特征devlab-integration-fullstack@playwright/test + supertest
单体后端pom.xml(java), requirements.txt(python)devlab-srv-test-apipytest, jest
微服务集群docker-compose.yml(多服务)devlab-integration-fullstacktestcontainers, mock-server
性能/容量需求用户提“压测/性能测试/容量验证/性能门禁”;仓库有 tests/perf/.jmxdevlab-app-test-perfgrafana/k6(代码化)/ MeterSphere(平台化)
AI Agent / LLM 应用仓库含 agent/llm 目录、LLM SDK 依赖(openai/langchain/llamaindex/dify)、golden-sessions/ 或评测集目录devlab-eval-driven-agentevalctl + Langfuse

注 1:性能测试与上方功能档正交——功能测试答“对不对”,性能测试答“够不够快/撑不撑得住”,可与任一功能档并行接入。 注 2:AI Agent / LLM 应用走 agent 评测域devlab-eval-driven-agent,L0-L4 分层:确定性单测/轨迹评测/输出评测/生产回归/安全成本护栏),与上方传统测试正交——Agent 测试测轨迹/输出/安全,传统测试测接口/UI/集成,两者可并行接入。


执行流程图

用户请求 → 扫描项目特征 → 场景识别 → 子技能路由 → 安装建议 → 用户确认 → 执行初始化
    ↓                              ↓            ↓
   触发词匹配                  Vue/React/API/Fullstack    devlab-test-onboard

子技能说明

1. devlab-web-test-e2e (Web E2E 测试)

职责:专门处理浏览器端端到端测试能力。

功能范围

  • Playwright 测试代码生成
  • Vue/React 组件交互测试
  • 视觉回归测试
  • 前端性能指标采集
  • Flaky test 检测与治理

推荐 CLI

npm install -D @playwright/test vitest
npx playwright init-agents --loop=claude

参考文档


2. devlab-srv-test-api (Service API 测试)

职责:专门处理后端 API 接口测试能力。

功能范围

  • OpenAPI/Swagger 文档解析
  • REST/GraphQL 接口自动化测试
  • 身份认证/授权验证
  • 数据一致性校验
  • 微服务链路追踪测试

推荐 CLI

npm install -D jest supertest supertest-fetch

参考文档


3. devlab-integration-fullstack (全栈集成测试)

职责:处理跨前端后端的复杂业务流程测试。

功能范围

  • 端到端业务流程验证
  • 消息队列集成测试
  • 分布式事务补偿验证
  • 跨服务数据流追踪
  • 事件驱动架构测试

推荐 CLI

npm install -D @playwright/test testcontainers supertest

参考文档


4. devlab-app-test-perf (应用级性能测试)

职责:处理性能/容量类验证,与上三类功能测试正交。

功能范围

  • k6(代码化)vs MeterSphere(平台化)选型决策
  • 阈值即代码的压测脚本编写(thresholds 驱动 CI 红/绿)
  • 指标经 Prometheus Remote Write 入 ,Grafana 看板按 testid 过滤
  • CI 性能门禁接入(编排归 devlab-cicd-onboard 的 quality-gate 环节)
  • 集群服务容量基线巡检

推荐 CLI

pip install prometheusctl        # 写入面 fail-fast 验证
docker pull grafana/k6:0.54.0   # 固定版本,禁用 latest

参考资产

  • server-apps/perf-tests/(run-k6.sh 包装器 + 巡检场景 + CI step 模板)
  • 委派:infra-observability-ops(看板/平台)、infra-metersphere-ops(平台化压测)

5. devlab-eval-driven-agent (AI Agent 评测)

职责:AI Agent / LLM 应用的质量评测(L0-L4 分层)。

功能范围

  • L0 确定性单测(分层管道每层喂输入断言输出)
  • L1 轨迹评测(golden session:工具调用序列/参数/恢复/停止/终态断言)
  • L2 输出评测(LLM-as-judge 评分,Langfuse dataset + scores)
  • L3 生产回归(Langfuse traces → 评测集 → evalctl diff 门禁)
  • L4 安全+成本护栏(injection/PII + token/延迟/成本上限)

路由场景:项目含 agent/LLM 代码(NL2SQL、RAG 问答、工具调用 Agent、数字人、Dify 应用)。 推荐 CLIevalctl(评测运维:run/diff/ingest/feedback/report)。


共享资源(自动引用)

所有子技能都会自动引用以下共享资源:

🔧 Fixture Libraries(固定库)

  • 测试数据工厂模板
  • 通用 Fixtures 定义
  • API 请求助手函数

📚 Expert Knowledge Base

  • 最佳实践指南
  • 反模式预警
  • 故障排除手册

Bootstrap 集成方式

当用户使用 devlab-project-bootstrap 时,会在 Phase 3.5 测试体系建议阶段自动调用本技能:

// Phase 3.5: 测试体系建议
function detectTestScenario(workspace) {
  const features = scanProject(workspace);

  if (features.has('vue') || features.has('react')) {
    recommend([
      skills: ['devlab-web-test-e2e'],
      cli: ['@playwright/test'],
      auto_reference: ['devlab-test-expert']
    ]);
  } else if (features.has('openapi')) {
    recommend([
      skills: ['devlab-srv-test-api'],
      cli: ['supertest', 'jest']
    ]);
  } else if (features.has('fullstack')) {
    recommend([
      skills: ['devlab-integration-fullstack'],
      cli: ['@playwright/test', 'testcontainers']
    ]);
  }
}

用户确认后自动执行

  1. npm/yarn 安装指定 CLI 包
  2. npx 运行初始化命令(如 playwright init-agents
  3. 生成基础测试文件模板
  4. 配置 AGENTS.md 中测试相关章节

已知限制

  • 不包含:单元测试框架的详细配置(由被调用的子技能负责)
  • 不包含:持续集成流水线的具体编写(由 CI/CD 相关技能负责)
  • ⚠️ 依赖诊断:会自动提示测试数据服务的安装建议,但不直接部署

扩展阅读


Managed by Trellis. This skill follows the harness-ai-kit asset pattern as a routing layer for testing sub-skills. Last updated: 2026-07-22 Author: AI-assisted architecture refactor based on user consultation.

Human Decisions

结构化同源见 decisions.yaml;以下为人类可读汇总。

#决策点触发条件选项默认行为
HD-1测试框架初始化执行扫描项目、识别技术栈、给出安装建议后、执行初始化之前用户确认后执行初始化 / 退回调整建议必问

Signals

GitHub stars
22
Forks
2
Last commit
Aug 2026
Advanced
Catalog kind
skill
Gateway key
devlab-test-onboard
Source
github.com/seed-forge/harness-ai-kit