关于LLM-as-a-judge范式，终于有综述讲明白了

AIxiv专栏是呆板之心宣布学术、技巧内容的栏目。从前数年，呆板之心AIxiv专栏接受报道了2000多篇内容，笼罩寰球各年夜高校与企业的顶级试验室，无效增进了学术交换与传布。假如你有优良的任务想要分享，欢送投稿或许接洽报道。投稿邮箱：[email protected]；[email protected]本篇综述的作者团队包含亚利桑那州破年夜学的博士研讨生李年夜卫，蒋博涵，Alimohammad Beigi, 赵成帅，谭箴，Amrita Bhattacharje, 领导教师刘欢教学，来自伊利诺伊年夜学芝加哥分校的黄良杰，程璐教学，来自马里兰年夜学巴尔的摩郡分校的江宇轩，来自伊利诺伊理工的陈灿宇，来自加州年夜学伯克利分校的吴天昊以及来自埃默里年夜学的舒凯教学。择要：评价跟评估临时以来始终是人工智能 (AI) 跟天然言语处置 (NLP) 中的要害挑衅。但是，传统方式，无论是基于婚配仍是基于词嵌入，每每无奈断定精妙的属性并供给令人满足的成果。年夜型言语模子 (LLM) 的最新停顿启示了 “LLM-as-a-judge” 范式，此中 LLM 被用于在种种义务跟利用顺序中履行评分、排名或抉择。本文对基于 LLM 的断定跟评价停止了片面的考察，为推进这一新兴范畴的开展供给了深刻的概述。咱们起首从输入跟输出的角度给出具体的界说。而后，咱们先容一个片面的分类法，从三个维度摸索 LLM-as-a-judge：评判什么（what to judge）、怎样评判（how to judge）以及在那里评判（where to judge）。最后，咱们演绎了评价 LLM 作为评判者的基准数据集，并夸大了要害挑衅跟有盼望的偏向，旨在供给有代价的看法并启示这一有盼望的研讨范畴的将来研讨。论文链接：https://arxiv.org/abs/2411.16594网站链接：https://llm-as-a-judge.github.io/论文列表：https://github.com/llm-as-a-judge/Awesome-LLM-as-a-judge文章构造LLM-as-a-judge 的界说在这篇任务中，咱们提出依据输入跟输特别式的差别对 LLM-as-a-judge 停止了界说。起首，依据输入候选样本个数的差别，在输入的层面 LLM-as-a-judge 能够分为逐点跟成对 / 列表输入；别的，依据模子输特别式的差别，在输出的层面 LLM-as-a-judge 的目标能够分为评分，排序跟抉择。Attribute：评判什么LLM-as-a-judge 曾经被证实能够在多种差别范例的属性上供给牢靠的评判，在这个章节中，咱们对他们停止了总结，它们包含：复兴的辅助性，有害性，牢靠性，天生 / 检索文档的相干性，推理进程中每一步的可行性，以及天生文本的综合品质。Methodology：怎样评判（1）微调：近来很多任务开端摸索怎样应用微调技巧来练习一个专门的评判年夜模子，咱们在这一章节中对这些技巧停止了总结演绎，包含它们的数据源，标注者，数据范例，数据范围，微调技巧及技能等（表 1）。此中咱们依据数据起源（人工标注跟模子反应）跟微调技巧（有监视微协调偏勤学习）对这些任务停止了具体探讨。（2）提醒：提醒（prompting）技巧能够无效晋升 LLM-as-a-judge 的机能跟效力。在这一章节中，咱们总结了现在任务中常用到多少类提醒战略，分辨是：交流操纵，规矩加强，多智能体配合，演示加强，多轮静态交互跟对照减速。Application：何时评判（1）评价：传统 NLP 中的评价平日采取静态的指标作为根据，但是它们经常不克不及够很好的捕获细粒度的语义信息。因而，LLM-as-a-judge 被普遍引入到模子评价的场景中，停止开放式天生，推理进程以及种种新兴 NLP 义务的评测。（2）对齐：对齐技巧平日须要大批人工标注的成对偏好数据来练习嘉奖或许战略模子，经由过程引入 LLM-as-a-judge 技巧，采取更年夜的模子或许战略模子自身作为评价者，这一标注进程的时光跟人力本钱被年夜年夜优化。（3）检索：检索场景同样得益于 LLM-as-a-judge 对文原形关性跟辅助性强盛的判断才能。此中对传统的检索利用，LLM-as-a-judge 经由过程断定文档跟用户恳求的相干性来抉择最合乎用户爱好的一组文档。别的，LLM-as-a-judge 还被利用于检索加强天生（RAG）的进程中，经由过程 LLM 本人来抉择对后续天生最有辅助的帮助文档。（4）推理：在推理进程中，LLM 在良多场景下会被付与应用东西，API 或许搜寻引擎的权限。在这些义务中，LLM-as-a-judge 能够根据以后的高低文跟状况抉择最公道可行的外部东西。别的，LLM-as-a-judge 还被普遍援用于推理门路的抉择，经由过程进程嘉奖领导模子停止状况步调转移。基准：评判 LLM-as-a-judge如表 2 所示，咱们总结了差别针对 LLM-as-a-judge 的基准测试集，并从数据 / 义务范例，数据范围，参考文原来源，指标等多个方面临这些数据集做了总结演绎。此中，依据基准测试集目标的差别，大抵能够分为：成见量化基准，挑衅性义务基准，范畴特定基准，以及其余多言语，多模态，指令追随基准等等。瞻望：挑衅跟机会（1）成见与懦弱性：年夜模子作为评判者，始终受困扰于种种百般影响评估公正性的成见，比方次序成见，自我偏好成见，长度成见等。同时，基于年夜模子的评估体系在面临外部攻打时的鲁棒性也存在必定缺乏。因而，LLM-as-a-judge 将来任务的一个偏向是研讨怎样揭穿跟改良这些成见，并晋升体系面临攻打的鲁棒性。（2）更静态，庞杂的评判：晚期的 LLM-as-a-judge 平日只采取比拟简略的指令来 prompt 年夜模子。跟着技巧的开展，越来越多庞杂且静态的 LLM-as-a-judge 框架被开辟出来，比方多智能体断定跟 LLM-as-a-examiner。在将来，一个有远景的研讨偏向是开辟存在人类评判头脑的年夜模子智能体；别的，开辟一个基于年夜模子自顺应难度的评判体系也很主要。（3）自我断定：LLM-as-a-judge 临时以来始终受困扰于 “先有鸡仍是先有蛋” 的窘境：强盛的评价者对练习强盛的 LLM 至关主要，但经由过程偏勤学习晋升 LLM 则须要公平的评价者。幻想状态下，咱们盼望最强盛的年夜模子可能停止公平的自我断定，从而一直优化它本身。但是，年夜模子存在的种种断定成见偏好使得它们每每不克不及够客不雅的评估本人输出的内容。在将来，开辟可能停止自我评判的（一组）年夜模子对模子自我退化至关主要。（4）人类协同年夜模子独特断定：直觉上，人工的参加跟校订能够缓解 LLM-as-a-judge 存在成见跟懦弱性。但是，只有多数多少篇任务存眷这个偏向。将来的任务能够存眷怎样用 LLM 来停止数据抉择，经由过程抉择一个很小但很存在代表性的测试子集来停止人工评测；同时，LLM-as-a-judge 也能够从其余存在成熟的人机协同计划的范畴受益。总结本文探究了 LLM-as-a-judge 的惊喜奥妙之处。咱们起首依据输入格局（逐点、成对跟列表）跟输特别式（包含评分、排名跟抉择）对现有的基于 LLM-as-a-judge 停止界说。而后，咱们提出了一个片面的 LLM-as-a-judge 的分类法，涵盖了断定属性、方式跟利用。尔后，咱们先容了 LLM-as-a-judge 的具体基准聚集，并联合了对以后挑衅跟将来偏向的沉思熟虑的剖析，旨在为这一新兴范畴的将来任务供给更多资本跟看法。© THE END 转载请接洽本大众号取得受权投稿或追求报道：[email protected]]article_adlist--> 　　申明：新浪网独家稿件，未经受权制止转载。 -->