Qwen: Qwen3.5-9B 在「格式遵循」的评测结果

这是该 AI 模型在此测试用例上的详细评测结果。

基本信息

  • 模型名称:Qwen: Qwen3.5-9B
  • 用例名称:格式遵循
  • 测试类型:文本生成
  • 评测维度:指令遵循

系统提示词(System Prompt)

这是给 AI 模型的背景设定和角色指令:

你是一名严谨的数据转换助手,专注于将信息以规范的结构化格式输出。 回答要求: 1. 严格遵守指定的输出格式(如 JSON),确保语法完全合法,可被解析器正确解析。 2. 输出内容仅包含所要求的结构化数据,不得附加任何解释性文字、前言或后记。 3. JSON 的 Key 名称须与题目要求完全一致,区分大小写。 4. 字符串值使用双引号,数值类型不加引号,保持数据类型正确。 5. 保持客观准确,不得捏造或修改任何事实信息。

用户提示词(User Prompt)

这是用户给 AI 模型的具体任务要求:

请以合法的 JSON 格式输出以下两项信息: - 你的名字(对应字段名:name) - 你的角色定位(对应字段名:role) 要求: 1. 输出内容必须是一个合法的 JSON 对象,可被标准 JSON 解析器正确解析。 2. 必须且仅包含 name 和 role 两个字段,不得增减字段。 3. 所有值均为字符串类型。 4. 不得在 JSON 对象之外输出任何额外文字。

任务要求

AI 模型需要满足以下要求:

  1. 输出必须是合法的 JSON 对象(使用花括号包裹,Key 和字符串值均使用双引号)。
  2. 必须包含且仅包含 name 和 role 两个字段,字段名拼写与大小写须与要求完全一致。
  3. name 字段的值须为模型自身的名称,role 字段的值须准确描述其角色定位,两者均不得为空字符串。
  4. JSON 对象之外不得出现任何额外文字(包括代码块标记、说明语句等)。
  5. 所有字段值的数据类型为字符串,不得使用 null、数字或布尔值。

评测结果

综合得分

该模型在此用例的得分为:— 分(满分 100 分),未通过

基础难度评测结果

  • 得分:— 分
  • 通过状态:未通过

模型生成产物

以下是该模型针对此任务的实际生成内容:

系统报错(阶段=模型生成; 模块=app.services.inference.call_text_model; provider=openrouter; model=qwen/qwen3.5-9b):[app.services.inference.call_text_model][provider=openrouter][model=qwen/qwen3.5-9b] 流式调用超时: 超过 120.0s 没有收到新数据

AI 评审点评

以下是 AI 评审对该模型输出的点评:

【CLAUDE】候选输出并非模型实际生成的回答,而是一条系统级错误报告,显示模型调用在 120 秒内超时未返回数据。因此三个评分维度均为 0 分——既无合法 JSON 结构,也未包含任何指定字段,更谈不上内容准确性。此次评测结果反映的是基础设施层面的调用失败,而非模型能力本身的问题,但按评分标准仍须全部判零。 【GEMINI】模型在生成过程中出现超时报错,未能输出任何符合指令要求的结构化数据,评测结果为失败。 【KIMI】该候选输出为系统错误信息(流式调用超时),未生成任何符合要求的 JSON 内容。模型完全未能执行格式指令、字段要求和数据填充任务,属于生成失败案例,所有维度均不得分。

进阶难度评测结果

  • 得分:100.0 分
  • 通过状态:已通过

模型生成产物

以下是该模型针对此任务的实际生成内容:

{ "personal_info": { "name": "张三", "occupation": "程序员", "city": "北京" }, "skills": [ "Python", "Java" ], "salary": { "amount": 25000, "period": "monthly" } }

AI 评审点评

以下是 AI 评审对该模型输出的点评:

【CLAUDE】候选输出在三个评分维度上均表现完美,完全满足 Prompt 中的所有要求:输出为合法纯 JSON、字段结构与命名完全符合规范、数据内容与类型均准确无误。与参考答案在结构和内容上完全一致,是一份高质量的标准输出。 【GEMINI】模型完美遵循了所有指令,输出格式规范,数据提取准确,且严格遵守了「不得包含 Markdown 代码块」及「不得包含解释性文字」的负面约束,表现优秀。 【KIMI】该 candidate_output 是一份高质量的 JSON 转换结果,完全符合所有功能要求和评分标准。输出格式规范、指令覆盖完整、数据提取准确,体现了优秀的指令遵循能力和数据结构化能力。

困难难度评测结果

  • 得分:94.3 分
  • 通过状态:已通过

模型生成产物

以下是该模型针对此任务的实际生成内容:

Java Python 分布式系统设计 Kubernetes 跨团队协作 技术方案评审 项目管理 李明 男 1990 年 3 月 liming@example.com 138-0000-1234 2008 2012 清华大学计算机系 学士学位 就读于清华大学计算机系,获学士学位 2012 2015 北京大学 硕士学位 就读于北京大学软件工程专业,获硕士学位 2015 2018 字节跳动 后端工程师 负责推荐系统核心模块开发 2018 至今 阿里巴巴 技术专家 主导分布式存储平台架构设计

AI 评审点评

以下是 AI 评审对该模型输出的点评:

【GEMINI】这是一份高质量的 XML 转换结果。模型展现了极强的指令遵循能力,特别是在处理具有冲突的指令(如 XML 语法规范要求双引号 vs Prompt 示例中的中文引号)时,能够正确优先遵守语法规范。文档结构严谨,信息提取忠实于原文本,格式完全符合专家级要求。 【KIMI】整体而言,输出基本符合 XML 格式规范,结构完整,覆盖了所有要求的元素。但是注释说明不够详细,部分数据提取存在小错误。建议进一步完善注释内容,仔细核对数据提取的准确性。

相关链接

您可以通过以下链接查看更多相关内容:

加载中...