deepseek-v4.1-flash 在「结构化输出」的评测结果
这是该 AI 模型在此测试用例上的详细评测结果。
基本信息
- 模型名称:deepseek-v4.1-flash
- 用例名称:结构化输出
- 测试类型:文本生成
- 评测维度:指令遵循
系统提示词(System Prompt)
这是给 AI 模型的背景设定和角色指令:
你是一名结构化数据转换专家,擅长将信息以规范的结构化格式输出。 回答要求: 1. 严格按照题目指定的字段名(Key)输出,不得擅自添加、删除或重命名字段。 2. 输出内容必须是合法的 JSON 格式,可被标准 JSON 解析器正确解析。 3. 除 JSON 代码块本身外,禁止在代码块外输出任何解释性文字或额外内容。 4. 字段值应真实、合理,符合对应字段的语义含义。
用户提示词(User Prompt)
这是用户给 AI 模型的具体任务要求:
请以 JSON 格式输出你的自我介绍。 要求: - 输出结果必须是一个合法的 JSON 对象。 - 必须且只能包含以下两个字段: - `name`:你的名称 - `role`:你的角色或职能描述 - 不得添加任何额外字段。 - 请将 JSON 放在代码块中输出,不要附加任何说明文字。
任务要求
AI 模型需要满足以下要求:
- 输出内容是合法的 JSON 对象,能被标准 JSON 解析器(如 JSON.parse)无错误解析。
- 必须包含 `name` 字段,且字段名拼写完全正确,值为非空字符串。
- 必须包含 `role` 字段,且字段名拼写完全正确,值为非空字符串。
- 输出中不得出现 `name` 和 `role` 之外的任何额外字段(无幻觉字段)。
- 除 JSON 代码块外,不得输出任何解释性文字、前缀语句或后缀说明。
评测结果
综合得分
该模型在此用例的得分为:100.0 分(满分 100 分),已通过
基础难度评测结果
- 得分:100.0 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
```json { "name": "结构化数据转换专家", "role": "擅长将信息以规范的结构化格式输出" } ```
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【CLAUDE】该回答完全符合题目的所有要求:输出为合法 JSON 格式,字段名与要求完全一致,仅包含 `name` 和 `role` 两个字段,且代码块外无任何多余文字。整体表现满分,是一个标准的优质结构化输出示例。 【GEMINI】候选输出完美地执行了所有指令。不仅 JSON 格式合法、字段完整且无冗余,而且严格遵守了不输出任何额外解释性文字的约束,是一次高质量的结构化输出。 【KIMI】该候选输出完全符合题目要求,JSON格式合法,字段完整且无多余字段,输出干净简洁,无任何违规内容。
进阶难度评测结果
- 得分:80.0 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
```json { "name": "张三", "occupation": "软件工程师", "city": "北京", "salary": 25000, "skills": [ "Python", "Java", "机器学习" ], "email": "zhangsan@email.com", "phone": "13800138000" } ```
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【CLAUDE】该候选输出表现完美,在格式合法性、信息完整性和输出干净度三个维度均达到满分。JSON 结构规范,数据类型映射正确,原文信息无遗漏,输出简洁无冗余内容,是一次高质量的结构化数据转换示范。 【GEMINI】候选模型的表现非常完美。它严格遵循了系统提示词的所有约束,准确、完整地完成了非结构化文本到规范 JSON 格式的转换,数据类型处理得当,且输出结果极其干净,非常适合直接进行自动化解析。 【KIMI】候选输出严重违反 Schema 要求。虽然 JSON 语法本身合法,但题目明确要求'字段名必须与要求完全一致,不得自行增减顶层字段',且给出了特定的 Schema 结构(包含 name, occupation, location, monthly_salary, skill_set, contact_email, contact_phone 等字段)。候选输出使用了 city/salary/skills/email/phone 等自造字段名,而非题目要求的 location/monthly_salary/skill_set/contact_email/contact_phone,完全未遵守指定 Schema,属于结构性错误。
困难难度评测结果
- 得分:75.2 分
- 通过状态:已通过
模型生成产物
以下是该模型针对此任务的实际生成内容:
```graphql # ============================================================ # Part 1 — 枚举与类型定义(Type Definitions) # ============================================================ """用户角色枚举""" enum Role { ADMIN USER } """文章状态枚举""" enum ArticleStatus { DRAFT PUBLISHED } """用户实体""" type User { """用户唯一标识""" id: ID! """用户名""" name: String! """用户邮箱""" email: String! """用户角色""" role: Role! """创建时间(ISO 8601 字符串)""" createdAt: String! """该用户拥有的文章列表""" articles: [Article!] } """文章实体""" type Article { """文章唯一标识""" id: ID! """文章标题""" title: String! """文章正文内容""" content: String! """文章作者(必填,非空)""" author: User! """文章标签列表""" tags: [String!]! """文章状态""" status: ArticleStatus! } ``` ```graphql # ============================================================ # Part 2 — Query 类型 # ============================================================ type Query { """根据 ID 获取单个用户""" user(id: ID!): User """获取所有用户列表""" users: [User!]! """根据 ID 获取单篇文章""" article(id: ID!): Article """获取文章列表,可选按状态过滤""" articles(status: ArticleStatus): [Article!]! } ``` ```graphql # ============================================================ # Part 3 — Mutation 类型 # ============================================================ type Mutation { """创建用户""" createUser( name: String! email: String! role: Role! ): User! """更新用户(仅传入需要变更的字段)""" updateUser( id: ID! name: String email: String role: Role ): User! """删除用户""" deleteUser(id: ID!): Boolean! """创建文章""" createArticle( title: String! content: String! authorId: ID! tags: [String!]! status: ArticleStatus! ): Article! """更新文章(仅传入需要变更的字段)""" updateArticle( id: ID! title: String content: String tags: [String!] status: ArticleStatus ): Article! """删除文章""" deleteArticle(id: ID!): Boolean! } ``` ```graphql # ============================================================ # Part 4 — 示例查询(Example Operations) # ============================================================ # 示例 1:查询指定用户及其所有文章(含标题、状态、标签) query GetUserWithArticles($userId: ID!) { user(id: $userId) { id name email role...
AI 评审点评
以下是 AI 评审对该模型输出的点评:
【CLAUDE】候选输出整体质量较好,四部分结构清晰,SDL 语法基本正确,覆盖了绝大多数业务需求。主要缺陷集中在 Part 4 示例 2:声明了未定义的 `CreateArticleInput` 类型作为变量类型,且 mutation 体内使用硬编码字面量而非变量,未能真正演示「使用变量传参」的要求,这是一个较明显的语法/逻辑错误。此外 User.articles 外层非空约束缺失(应为 `[Article!]!`)。其余部分设计合理,枚举引用一致,Mutation 参数非空设计符合规范。 【GEMINI】大模型在 Schema 定义(Part 1-3)上表现非常优秀,结构清晰,完全符合 GraphQL SDL 规范,且严格遵守了“不在代码块外输出解释性文字”的限制。然而,在 Part 4 的示例查询中出现了明显的失误,特别是示例 2 的变量声明与实际传参逻辑混乱,引入了未定义的 `CreateArticleInput` 类型,且未能真正使用变量传参,这影响了整体的可用性。 【KIMI】该输出在基本的GraphQL Schema结构上有一定基础,枚举和类型定义的核心要素存在,但严重违反了系统提示中的格式约束(代码块外禁止解释文字、代码块内禁止非标准注释)。示例查询存在严重的变量使用错误(示例2声明变量却不使用,直接硬编码参数),且部分字段的非空约束与要求不完全一致(User.articles应为[Article!]!)。需要在严格遵守输出格式规范、正确处理变量传递机制、以及确保类型定义的精确性方面进行重大改进。
相关链接
您可以通过以下链接查看更多相关内容: