保定网站建,wordpress 缓存 收录,专门制作网页的公司,网页设计培训包就业本文是LLM系列文章#xff0c;针对《Evaluating Open-Domain Question Answering in the Era of Large Language Models》的翻译。 大语言模型时代的开放域问答评价 摘要1 引言2 相关工作3 开放域QA评估4 评估开放域QA模型的策略5 正确答案的语言分析6 CuratedTREC上的正则表…本文是LLM系列文章针对《Evaluating Open-Domain Question Answering in the Era of Large Language Models》的翻译。 大语言模型时代的开放域问答评价 摘要1 引言2 相关工作3 开放域QA评估4 评估开放域QA模型的策略5 正确答案的语言分析6 CuratedTREC上的正则表达式匹配7 结论 摘要
词汇匹配仍然是开放域问答(QA)事实上的评价方法。不幸的是当一个可信的候选答案没有出现在黄金答案列表中词汇匹配就会完全失败随着我们从抽取模型转向生成模型这种情况越来越多。最近大型语言模型(llm)在QA方面的成功加剧了词汇匹配失败因为候选答案变得更长从而使与黄金答案的匹配更具挑战性。没有准确的评估开放领域QA的真正进展仍然是未知的。在本文中我们通过在NQ-OPEN(一个流行的基准)的子集上手动评估它们的答案对各种开放域QA模型(包括llm)进行了彻底的分析。我们的评估显示虽然所有模型的真实性能都被严重低估了但InstructGPT(零样本)LLM的性能提高了近60%使其与现有的顶级模型相当而InstructGPT(小样本)模型实际上在NQ-OPEN上达到了新的水平。我们还发现超过50%的词汇匹配失败归因于语义等价的答案。我们进一步证明了regex匹配排序QA模型与人类判断一致尽管仍然遭受不必要的严格。最后我们证明了在某些情况下自动评估模型是词汇匹配的合理替代品但对于llm生成的长格式答案则不是。自动模型很难检测到LLM答案中的幻觉因此无法评估LLM。在这个时候似乎没有什么可以代替人的评价。
1 引言
2 相关工作
3 开放域QA评估
4 评估开放域QA模型的策略
5 正确答案的语言分析
6 CuratedTREC上的正则表达式匹配
7 结论
尽管在开放领域的QA中词汇匹配作为一种评估指标是简单而普遍的但它是不必要的僵化因为合理的候选答案可能不会出现在黄金答案列表中。这个缺陷早已为人所知但规避它的努力大多是手工的。在本文中我们报告了一个系统的词汇匹配研究通过人工判断几个著名的开放域QA模型生成的答案。我们发现llm在NQ-OPEN上达到了最先进的水平。模型的准确性被严重低估大多数EM失败案例源于答案的语法变化。此外零提示方法可以作为人类评估的合理替代品尽管它不能检测长格式答案中的不可归因性。我们在本文中的见解和分析将有望为开放领域QA中可靠的评估技术的发展奠定基础。
