【新智元导读】LLM自身有望在无限长token下检索信息！无需训练，在检索任务「大海捞针」（Needle-in-a-Haystack）测试中，新方法InfiniRetri让有效上下文token长度从32K扩展至1000+K，让7B模型比肩72B模型。

　　受大语言模型（L星空星空体育全站app，体育全站app，LM）上下文窗口大小的限制，处理输入token数超过上限的各种任务颇具挑战性，无论是简单的直接检索任务，还是复杂的多跳推理任务。

　　尽管新提出的各种方法用来增强大语言模型的长上下文处理能力，但这些方法痛点突出：

　　研究团队观察了各层注意力分布与生成答案之间的相关性，通过实验证实了注意力分配与检索增强能力是一致的。

　　基于上述见解，研究团队提出了一种全新的方法InfiniRetri，该方法利用大语言模型自身的注意力信息，实现对任意长度输入的精确检索。

　　InfiniRetri一举超过了其他方法或更大的模型，创造了当前最佳（SOTA）结果。

　　值得注意的是，某7B模型在HotpotQA任务上的得分，超越了其他同等参数规模的模型。

　　类似地，Mistral-7B-Instruct v0.2作为擅长短文本推理的模型，在长文本任务中的表现也得到了显著提升。

　　此外，新方法在实际基准测试中也取得了显著的性能提升，最大提升幅度达到288%。

　　另外，无需额外训练，InfiniRetri就可应用于任何基于Transformer的大语言模型，并且能大幅降低长文本推理延迟和计算开销。

　　创新性提出「注意力分配与检索增强对齐」概念，并成功利用这一特性提升LLM处理长文本的能力。

　　03月13日，日本海上自卫队直升机坠海 部分残骸打捞上岸，皇冠体育去哪里下载，真人打棋牌，香港金沙赌玚网站，365bet体育客户端

　　03月13日，婺州窑传承人陈新华：欣慰更多人将假期“分给”瓷器，真人国际，万博官网网页版本登陆入口，真钱斗牛app下载，pg电子游戏官方网站

　　03月13日，湖北推出大型原创舞剧《乐和长歌》展荆风楚韵，edf138最新平台，竞彩篮球APP，手机版登录，鸿博平台

　　03月13日山西晋城：学习运用“千万工程”经验 描绘新时代“太行山居图”华体会体育登录6up扑克之星有苹果app吗雷速篮球直播网页版外围足球在哪买

　　03月13日国际奥委会委员：中法两国文化基因为奥林匹克贡献创造力 中法老友记泛亚电竞怎么玩法华体会手机登录悠哉游戏中心乐享彩票app

　　03月13日外籍人员来华更方便 显示中国开放信心英皇体育网页版澳门棋牌游戏大厅大发买球365体育中文网……

　　03月13日，孟加拉国总理辞职 军方称将组建临时政府，果博怎么注册，BOB官方下载，ag体育官网游戏，必发世界杯玩法

　　03月13日，探访澳大利亚悉尼唐人街，万博体育官网平台，银河娱乐场平台，极速电竞网址，威尼斯人官网下载

　　03月13日房贷提前结清了，“房贷利息专项附加扣除”怎么填？美狮贵宾会手机版佛主密报-莲花双宝真人现金斗牛平台贝博网址进不去

　　03月13日，（国际观察）加沙战事持续百日 中东紧张局势何解？，下载澳门星空体育全站app，皇冠手机版，易博体育平台怎么样，大发电子网投，CBA体育

　　03月13日，原创北京曲剧《运河之端有片海》在京首演星空体育平台，，必发88游戏登录，广兴国际真人赌场，深海捕鱼千炮版下载，澳门威尼斯登陆

　　03月13日，四川：2023年超35万辆新能源汽车免征车辆购置税64亿多元，二八杠返水棋牌，大发体育足球，2019英皇国际官方版，qq小程序我的捕鱼兑换码

　　03月13日四川康定姑咱镇夜幕下的临时安置点尊龙平台网址哪个网站可以买正规足球欧博苹果版明博体育官网app

　　03月13日欧美同学会（中国留学人员联谊会）第八届理事会第三次会议在京开幕凯时登陆网址365bet国际版本网址米乐平台官网贝斯特手机版下载

　　03月13日四川省遂宁市人大常委会党组成员、副主任罗孝廉接受审查调查千赢游戏大厅皇宫在线赌博bt体育官网appag捕鱼平台的小窍门

　　王祖贤本人给高考生送祝福，非遗春节意味着什么天冷心脏不舒服是心血管疾病前兆吗？888真人最新地址亚投彩票登录网址澳门金砂全网必赢线上网址是多少

　　福建长乐2.1亿婚礼，面试辅导动辄上万（巴黎奥运）“00后”滑板小将崔宸曦：从一个人滑到一群人滑电子娱乐网站大赢家体育手机版有没有什么网赌网站信得过的manbext万博网页登录

　　司机疑酒驾追尾被查 向交警暗示关系，黑色止血钳22024年知名侨商云南行活动启动皇冠体育手机在线观看美高梅国际网站炸金花金币版下载必赢游戏app

　　审计揭一些救灾资金被挤占挪用，辽宁男篮重庆市人大代表马宏：以儿童友好“小视角”撬动城市发展“大格局”leyu乐鱼电竞娱乐竞彩篮球投注app澳博外围官网支付宝赢钱斗地主

　　李纯公开与马頔恋情，机器狼抓娃娃比我手稳2024德文厦门工学院马拉松赛开跑澳门百老汇机网站必威手机官网网址fb体育app真乐网官网

　　黄瀛子蒋翼没说出口的暗恋，张峻豪个人舞台原创新歌17如何让“巴蜀文旅”迈向世界？重庆市政协委员建言献策无限娱乐网上真钱的棋牌哪家好og网站金多保網