推理部署推理性能、量化与成本优化

结构化输出

让模型严格按 JSON 等预定义格式输出。

结构化输出通过约束解码或格式校验保证输出可解析,是 Agent 与程序化调用的关键能力:函数调用参数、工具返回结果都依赖它稳定成 JSON。

相关术语