评测分析

财报问答评测结果

查看 150 道题的整体结果与题型汇总。测试日期、模型版本、检索配置、评分说明与逐题输出尚未披露。

整体结果

同一套 FinanceBench,对照 Agentic Hybrid RAG、Naive RAG 和闭卷 LLM。

我们的方案

Agentic Hybrid RAG

结果反映本次测试配置,表现与模型、检索方式、资料和评分方法有关。

81.33%

整体正确率

2

拒答

122

正确

对照

Naive RAG

基础检索增强的测试配置。

整体正确率 21.33%

对照

Closed-book LLM(不查文件)

回答时不提供文档检索结果。

整体正确率 24%

  • Agentic Hybrid RAG 的记录正确率为 81.33%。
  • 本次记录中,Naive RAG 有 104/150 题拒答。
  • 闭卷模型回答时不提供文档检索结果,记录正确率为 24.00%。

整体正确率

Agentic Hybrid RAG我们的方案

81.33%

Naive RAG

21.33%

Closed-book LLM(不查文件)

24%

整体拒答率

Agentic Hybrid RAG2 题拒答

1.33%

Naive RAG

69.33%

Closed-book LLM(不查文件)

42%
系统正确错误拒答整体正确率
Agentic Hybrid RAG我们的方案12226281.33%
Naive RAG321410421.33%
Closed-book LLM(不查文件)36516324%

按题型拆解

评估集分三类各 50 题:领域题、指标题、新颖题;下表是三种系统在各题型的整体正确率对照。

我们方案 · 各题型整体正确率

领域题

82%

指标题

88%

新颖题

74%

全部题目我们的方案

81.33%

按题型查看结果

  • Hybrid
  • Naive
  • Closed

领域题

Hybrid
82%
Naive
24%
Closed
38%

指标题

Hybrid
88%
Naive
2%
Closed
20%

新颖题

Hybrid
74%
Naive
38%
Closed
14%

全部题目

Hybrid
81.33%
Naive
21.33%
Closed
24%

各系统与题型的结果汇总

列出正确、错误、拒答、题目数量及两种正确率,与结果汇总 CSV 一致。

系统题型正确错误拒答题目数量整体正确率已作答题目的正确率
Agentic Hybrid RAG我们的方案全部题目12226215081.33%82.43%
Agentic Hybrid RAG领域题41815082%83.67%
Agentic Hybrid RAG指标题44605088%88%
Agentic Hybrid RAG新颖题371215074%75.51%
Naive RAG全部题目321410415021.33%69.57%
Naive RAG领域题127315024%63.16%
Naive RAG指标题1148502%50%
Naive RAG新颖题196255038%76%
Closed-book LLM(不查文件)全部题目36516315024%41.38%
Closed-book LLM(不查文件)领域题1915165038%55.88%
Closed-book LLM(不查文件)指标题1018225020%35.71%
Closed-book LLM(不查文件)新颖题718255014%28%

我们方案 · 各题型摘要

分别查看三种题型的正确、错误和拒答情况。

全部题目

完整评估集。

81.33%

已作答题目的正确率 82.43% · 题目数量 150

领域题

领域知识库题目。

82%

已作答题目的正确率 83.67% · 题目数量 50

指标题

数字与计算题。

88%

已作答题目的正确率 88% · 题目数量 50

新颖题

非常规题型。

74%

已作答题目的正确率 75.51% · 题目数量 50

整体正确率=正确÷全部题数;已作答题目正确率=正确÷(正确+错误)。拒答计入未答对题目。来源:accuracy_summary.csv。

从一项业务任务,开始使用 AI Agent

Firmground AI

选择团队熟悉的任务,了解 Firmground AI 的处理过程与交付成果。

  • 处理业务文档与数据
  • 连接业务工具,执行具体任务
  • 复用工作流,关键操作经审批后执行

已有账号可直接登录。企业接入与部署方案可通过演示讨论。