Elephant 在「数字一致性」的评测结果
这是该 AI 模型在此测试用例上的详细评测结果。
基本信息
- 模型名称:Elephant
- 用例名称:数字一致性
- 测试类型:文本生成
- 评测维度:一致性
系统提示词(System Prompt)
这是给 AI 模型的背景设定和角色指令:
你是一名严谨的数学与常识知识专家,擅长解答涉及基础单位换算和数值认知的问题。 【核心规则】 1. 数字答案必须精确,不得使用「大约」「通常」「一般」等模糊措辞。 2. 必须明确说明定义来源或约定(如英语「dozen」的通用定义),不得省略依据。 3. 回答聚焦题目本身,不引入无关延伸内容。 4. 所有回答必须严格遵循以下 JSON 输出格式,不得偏离。 【输出格式】 每次回答必须输出合法 JSON,结构如下: ```json { "answer": "<精确数字答案,例如:12个>", "definition": "<一句话说明该单位的定义依据,需注明来源约定>", "source": "<定义来源,例如:英语 dozen 的国际通用定义>" } ``` **格式示例:** ```json { "answer": "12个", "definition": "「一打」源自英语「dozen」,为国际通用计量约定,固定等于12。", "source": "英语 dozen 国际通用定义" } ``` **格式约束说明:** - `answer` 字段:必须为具体数值 + 单位,禁止出现范围或模糊表述。 - `definition` 字段:必须为完整一句话,包含定义来源或约定说明,字数不超过 40 字。 - `source` 字段:简短标注定义出处,不超过 15 字。 - 禁止在 JSON 之外输出额外正文内容。 【回答要求】 1. 直接给出明确的数字答案,不得含糊或给出范围。 2. 用一句话简要说明答案的依据或来源(约定俗成的定义)。 3. 回答简洁清晰,`definition` 字段总字数不超过 40 字。 4. 不展开延伸讨论,严格聚焦于题目本身。
用户提示词(User Prompt)
这是用户给 AI 模型的具体任务要求:
如果我买了 3 打鸡蛋,但其中有 1 打是"半打装"的,那我总共有多少个鸡蛋?请给出具体数字,并说明计算过程。
任务要求
AI 模型需要满足以下要求:
- 数字答案必须准确,即 12 个,不接受其他数值。
- 需明确说明「一打」等于 12 的定义来源或约定(如英语「dozen」的通用定义)。
- 回答应简洁,不引入与题目无关的额外信息或延伸内容。
- 表述清晰,无歧义,不使用「大约」「通常」等模糊措辞。
评测结果
综合得分
该模型在此用例的得分为:97.3 分(满分 100 分),已通过
基础难度评测结果
- 得分:97.3 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
```json { "answer": "30个", "definition": "根据一打=12(来源:dozen定义),3打36减半打6得30。", "source": "dozen国际定义" } ```
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【GEMINI】模型表现非常出色。它不仅准确理解了多轮对话中的数学变体问题,还在极其严格的 JSON 格式和字数限制下,成功地将计算过程融入了定义字段,既满足了系统提示词的约束,也回答了用户在当前对话中提出的所有细节要求。计算逻辑(36-6=30)准确无误,定义来源清晰。 【KIMI】整体而言,该回答在数字答案的准确性、定义依据的准确性以及遵循题目格式要求方面都表现较好,只是在定义语句的长度上略微超出了要求,但仍属于可接受范围内。
进阶难度评测结果
- 得分:96.0 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
```json { "answers": [ { "question_id": 5, "known": "今年净利润 = [引用 question_id=4 的 result],分红比例 = 60%", "formula": "分红总额 = 今年净利润 × 分红比例", "calculation": "220 × 60% = 132", "result": "132 万元" }, { "question_id": 6, "known": "分红总额 = [引用 question_id=5 的 result],总股本 = 120 万股", "formula": "每股分红 = 分红总额 ÷ 总股本(注意单位:万元 ÷ 万股 = 元/股)", "calculation": "132 万元 ÷ 120 万股 = 1.1", "result": "1.1 元/股" } ] } ```
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【GEMINI】模型在核心计算和逻辑一致性方面表现优异,能够准确处理跨轮次的数值引用和复杂的财务指标计算。然而,在遵循系统提示词中极其细致的格式规范方面(如 known 字段的数值填充、ID 起始序号、显式单位换算步骤等)存在疏漏。整体而言,结果的准确性和逻辑性非常可靠,但格式合规性仍有提升空间。 【KIMI】整体来看,该回答完全符合题目要求,计算准确,逻辑一致,格式规范,无数值矛盾或前后引用不一致的情况。
困难难度评测结果
- 得分:96.3 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
【交易3】A 账户收到利息(按交易2完成后A的当前余额的 5% 计算) 计算过程: - 当前账户A余额:900.00 元 - 利息 = 当前余额 × 5% = 900.00 × 0.05 = 45.0000 → 四舍五入 = 45.00 元 - 账户A:900.00 + 45.00 = 945.00 元 - 账户B:600.00 元(无变动) 结果: 交易3完成后 → 账户A:945.00 元,账户B:600.00 元 【交易4】两账户同时扣除手续费(A 和 B 各扣 2.00 元) 计算过程: - 账户A:945.00 - 2.00 = 943.00 元 - 账户B:600.00 - 2.00 = 598.00 元 结果: 交易4完成后 → 账户A:943.00 元,账户B:598.00 元 【交易5】A 向 B 转账当前 A 余额的 30% 计算过程: - 当前账户A余额:943.00 元 - 转账金额 = 当前余额 × 30% = 943.00 × 0.30 = 282.9000 → 四舍五入 = 282.90 元 - 账户A:943.00 - 282.90 = 660.10 元 - 账户B:598.00 + 282.90 = 880.90 元 结果: 交易5完成后 → 账户A:660.10 元,账户B:880.90 元 【最终余额汇总】 账户A最终余额:660.10 元 账户B最终余额:880.90 元
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【GEMINI】该模型表现极其出色,展现了极高的精确度和对复杂指令的遵循能力。它不仅准确完成了所有数学运算,还完美复刻了系统 prompt 中要求的审计报告格式,包括中间步骤的详尽展示和特殊计算式的规范写法。虽然在对话层面忽略了一个直接询问的确认动作,但在核心任务的执行上无可挑剔。 【KIMI】候选人的整体表现非常优秀,计算准确无误,逻辑连贯,严格遵循了题目要求。最终余额汇总也与第5笔交易后的状态完全一致,没有出现数值矛盾。只是在交易4的计算过程中,账户B的手续费扣除后余额应为598.00元,但候选人输出为598.00元,与参考答案一致,这一点略有瑕疵。总体而言,候选人很好地完成了任务,表现出了高水平的财务审计能力。
相关链接
您可以通过以下链接查看更多相关内容: