“可搜索”应该是什么标准
文件夹搜索只是按文件名找到文件。知识库要回答一个问题,并指出支撑答案的那一页,让你一次点击就能核对。
开始之前先定标准:任何回答都应返回文件名、页码和一段短引用。做不到,你手里就只是文件柜,不是知识库。
第一步:按页提取文本
按页提取,而不是按整份文档提取。按页提取是之后能引用页码的前提。原始文件也要保留,没有页码的引用很难核对。
扫描件需要先做 OCR。提取后抽查几页,尤其是表格和脚注,这两处最容易读坏。
第二步:建立索引
每个小节一条索引,而不是每份文档一条。每条带上文件、页码、主题和一段短摘要。小条目检索更准,整篇摘要容易把细节抹平。
再加一层主题结构:哪些文件在回答同一类问题,它们在哪里分歧。这一层才能支持比较类提问,而不只是查找。
第三步:回答必须带引用
让所有提问都对着索引回答,并要求答案给出文件名与页码。索引里没有对应条目时,正确回答是“没有找到”,而不是给一个看起来合理的猜测。
留一组十题的测试集,标明每题应该引用哪些页。每次重建索引后跑一遍。索引一改,测试集就能告诉你检索是变好了还是只是变了。
常见问题
把 PDF 变成可搜索的知识库要花多少成本?
主要成本在提取和核对,不在存储。先从一个主题、二十份文件开始,足够看清提取会在哪里出错。
能同时搜索多份 PDF 吗?
能,前提是每条索引都带文件和页码。跨文件提问正是需要主题结构的原因。
PDF 是扫描件怎么办?
先跑 OCR,再抽几页人工核对。表格、脚注和手写内容最容易出错。
怎么保证回答不瞎编?
要求每个回答都有引用,并保留一份带已知页码的十题测试集。答不出页码时,按“没有找到”处理。
下一步
选一个主题,放二十份 PDF,在提第一个问题之前先把索引建出来。