Lingee Bench

申请打榜

参评方以 CLI Harness 方式接入被测 Agent,在统一的全量 Docker 环境中对 Mock MCP 跑闭源集任务,经规则 + LLM Judge 双通道评分后出具报告。评测配置按七层披露清单约定,分数可归因。填写以下信息提交申请,评测组将在 15 个工作日内联系你确认评测窗口。

打榜申请单

带 * 为必填项

打榜流程

  1. 提交申请,确认评测窗口
  2. 按 Harbor 方案以 CLI Harness 接入被测 Agent
  3. 在全量 Docker 环境中对 Mock MCP 离线跑题
  4. 规则 + LLM Judge 双通道评分,宏平均聚合
  5. 出具评测报告,可选公开上榜

评测环境约定

  • 统一 Mock MCP:与真实业务系统解耦,所有参评方环境一致
  • 全量 Docker:题库、工具与依赖全部内置镜像,离线执行
  • 闭源集防刷题:打榜主体题集始终私有
  • 可复现:每题多次独立运行,报告 reliability@k;评测配置七层披露

结果口径

  • 任务得分 S = w·R + (1−w)·J,宏平均聚合
  • 效率指标:输出/输入 token、轮次(口径随数字披露)
  • 稳定性:reliability@k 曲线
  • 噪声带内的分差不作解读