结构化输出成为默认契约
团队正从自由文本响应转向 schema 约束输出,用于修补畸形响应的胶水代码大幅减少。
在各类智能体代码库中,一场无声的转变正在进行:提示词越来越多地针对显式的输出 schema 编写,而不是指望模型吐出刚好能解析的自然语言。
模式高度一致。采用约束解码——或仅仅是一个严格的 OUTPUT_FORMAT 区块加一层校验——的团队,用于修复畸形响应的胶水代码量都显著下降。
变了什么
真正的驱动力不是模型质量,而是集成成本。一段自由文本答案必须被解析、校验、重试,常常还得重问一遍;而符合 schema 的答案可以直接跳过这四步。
如今验收标准被直接写进提示词:
- 逐个列出必填字段名
- 枚举值显式列举,而非用文字描述
- 写明数值区间,而不是「一个合理的数字」
- 提供
NULL出口,允许模型拒答而不是编造
实践意义
如果你的流水线还在用正则扒模型输出,目前性价比最高的可靠性提升就是:加入显式契约,并对不合规的响应直接拒收,而不是悄悄修补。