生产提示词与聊天实验不同。它必须足够确定性,具有清晰的输出格式,并能处理空白或异常输入。
定义角色、上下文、约束条件和输出模式。对于JSON,在后端验证结果。不要相信模型总会遵循格式。
像管理代码一样管理提示词版本。记录变更,比较结果,如果质量下降就回滚。没有版本控制的提示词很容易变成谜团。
提供备用方案:有限次重试、默认模板或升级到人工处理。良好的用户体验不会让用户看到来自模型的原始错误。
博客
为生产功能构建稳定提示词的技巧:约束条件、输出格式以及模型失败时的备用方案。
Alim Rahman
生产提示词与聊天实验不同。它必须足够确定性,具有清晰的输出格式,并能处理空白或异常输入。
定义角色、上下文、约束条件和输出模式。对于JSON,在后端验证结果。不要相信模型总会遵循格式。
像管理代码一样管理提示词版本。记录变更,比较结果,如果质量下降就回滚。没有版本控制的提示词很容易变成谜团。
提供备用方案:有限次重试、默认模板或升级到人工处理。良好的用户体验不会让用户看到来自模型的原始错误。