很多企业在接入大模型后,首先想到的是做知识问答,但真正落地时往往会遇到准确率和可维护性问题。
一、文档结构化是基础
知识内容需要先按主题、版本和权限进行整理。
二、检索质量影响回答质量
模型生成之前,先把最相关的内容召回出来,才能减少幻觉。
三、答案必须可追踪
对企业场景来说,回答是否能标出引用来源,往往比回答是否流畅更重要。
很多企业在接入大模型后,首先想到的是做知识问答,但真正落地时往往会遇到准确率和可维护性问题。
知识内容需要先按主题、版本和权限进行整理。
模型生成之前,先把最相关的内容召回出来,才能减少幻觉。
对企业场景来说,回答是否能标出引用来源,往往比回答是否流畅更重要。