向o1看齐，google开源RAG推理扩展，提升近60%

最新推荐文章于 2025-06-21 23:22:43 发布
原创 最新推荐文章于 2025-06-21 23:22:43 发布 · 771 阅读 · 30 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#开源 #产品经理 #人工智能 #深度学习 #机器学习

论文笔记分享， 标题Inference Scaling for Long-Context Retrieval Augmented Generation，来自google deepmind

openai o1通过让扩展推理，让模型在推理方面达到非常优异的性能。google这篇内容，核心想验证2个点

  1. RAG系统的性能，如何从推理计算扩展中受益

  2. 通过建立RAG性能和推理参数之间的关系模型来预测给定预算下的最佳测试时计算分配

文中应用了2种扩展方式，DRAG，IterRAG均有效的提高了RAG系统的性能。并且，当最优分配时，增加推理计算几乎可以线性提升RAG性能，这种关系表示为RAG的推理扩展法则。

在RAG中，与O1不同的是，用有效上下文长度来衡量推理计算。有效上下文长度为在LLM输出最终答案之前，所有迭代中总的输入token数量。

对于大多数只调用一次LLM的方法，有效上下文长度相当于prompt中的token数量，并受限于LLM的上下文窗口限制。

这里排除输出成本和检索成本，因为LLMs通常在知识密集型任务中通常答案比较短，可能是精确的实体或数字。

2种扩展上下文的方式

  1. DRAG

  • D是Demo的意思，就是通过提供多个RAG的示例作为few-shot，提高LLMs的上下文能力。

  • 输入构成有3部分，检索到的文档、输入query以及相应的问题和答案示例。所以可以扩展的有2部分，就是检索的文档数量，以及示例的数量。

  1. IterRAG

  • Iter就是迭代的意思，通过将复杂查询分解为多个子查询来解决多跳的问题

  • 在每次迭代中，模型可能会生成一个子查询、一个中间答案或最终答案。这个过程会重复迭代，直到生成最终答案或达到最大迭代次数。

总体的呈现线性的扩展规律，性能跟上下文长度之间。DRAG受限于1M窗口的限制，IterRAG可以通过迭代在更长上下文的时候表现出良好的扩展。

参数特定的缩放，总体而言，，扩大检索范围、增加例子数量、增加生成步骤的数量都会提高性能，但是收益会因有效上下文长度和方法的不同而不同。看下图斜率，增加文档数量可以得到更大的提升。并且DRAG和IterRAG的饱和程度不同。

最后给定上下文长度的最大预算，一个公式如下，其中中考虑了文档数量，示例，迭代次数等参数。但是这些参数跟特定模型相关。需要对进行实验，然后MSE算出a、b、c的最优值。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

开源RAG主流框架有哪些？如何选型？
RodJohnsonDoctor的专栏
02-23 716
开源RAG主流框架有哪些？如何选型？
LLM应用架构之检索增强（RAG，retrieval-augmented generation）的缘起与架构介绍
强化学习曾小健
09-21 6153
原创 ullyAI工程化收录于合集#领域技术13个#LLM应用架构3个动手点关注本文是LLM应用架构系列的第一篇，将介绍LLM应用开发里最常见的一种架构模式RAG（ Retrieval Augmented Generation），它被广泛应用于知识问答，智能助手等常见LLM应用场景中。在后续文章中还将介绍该模式落地实际过程中的一些常见问题及改进思路，欢迎关注“AI工程化”，持续为大家更新。
Google DeepMind提出RAG推理 scaling laws下的思考
weixin_42619619的博客
10-15 399
对于知识密集型任务场景，如针对复杂疾病诊疗过程中的复杂的多学科会诊、复杂平台型临床试验时的动态方案设计与调整等场景，不论得益于之前长上下文对于llm的基础，还是rag技术的快速发展，又或是cot下的step by step system2慢思考，对人类现有知识进行密集融合与多步骤下test-time scaling law也许在未来是一个非常有效的技术路径，我想未来随着技术的发展与应用场景的逐渐成熟，至少在某些任务场景下其带来的结果回报相比于reasoning的支出应该是能够达到平衡。
谷歌Speculative RAG：多打草稿少出错，效果优于Self-RAG、CRAG
xx_nm98的博客
08-28 1086
当前RAG进展集中在通过迭代的LLMs精细化处理或通过LLMs的额外指令调整获得的来改善检索与生成结果。（Google Cloud AI Research、Google DeepMind、Google Cloud AI）联合加利福尼亚大学圣迭戈分校提出一个新的框架通用语言模型（LM）来高效地验证由一个更小的、经过蒸馏的专家LM并行生成的。每个草稿（）都是从检索到的文档的不同子集中生成的，提供了对证据的多样化视角，同时减少了每个草稿的输入标记数。。给定一个知识密集型查询Q和检索到的文档，(a)
Google AI Edge RAG：高大上的 RAG Android 端上也能实现！
张拭心的博客 shixinzhang
06-21 764
谷歌推出的AI Edge RAG SDK为Android开发者带来了检索增强生成(RAG)技术，通过将知识库文本向量化存储并动态检索，解决了大语言模型在特定领域知识不足的问题。该SDK提供四大核心API：文本嵌入转换(Embedder)、向量存储(VectorStore)、语义检索(SemanticMemory)和语言模型接口(LanguageModel)，支持端上实现企业知识库、智能客服等场景。官方demo展示了如何让模型读取本地文本文件中的个人信息并准确回答相关问题，开发者只需下载Gemma和Gecko
谷歌放大招！RAG 技术已死？
2401_85325397的博客
03-05 884
谷歌最近发布了 Gemini 2.0 Flash 版本模型，这可能是当前性价比最高的 AI 模型了。 这个模型除了性价比之外，还有何魔力呢？为什么我会说 RAG 即将被淘汰呢？
LLMs之RAG：《Inference Scaling for Long-Context Retrieval Augmented Generation长上下文检索增强生成的推理扩展》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
11-03 1763
​ LLMs之RAG：《Inference Scaling for Long-Context Retrieval Augmented Generation长上下文检索增强生成的推理扩展》翻译与解读 目录 《Inference Scaling for Long-Context Retrieval Augmented Generation》翻译与解读 Abstract 1 Introduction 6、Discussion Conclusion
AI和大模型-GPT和RAG推理.pptx
最新发布
06-27
在这些大模型中，GPT（生成预训练变换器）和RAG（Retrieval-Augmented Generation）是两个特别引人注目的技术。GPT是一种基于变换器模型的自然语言生成模型，以其能够理解和生成接近自然语言的文本而受到关注。RAG...
医疗领域大型语言模型DeepSeek R1医疗推理能力分析：评估模型推理过程及错误模式以提升临床决策支持系统性能
04-04
此外，研究还提出了通过检索增强生成（RAG）、特定医学领域提示优化等方法进一步提升模型性能的建议。 适合人群：对人工智能和医疗领域感兴趣的科研人员、临床医生、医疗AI开发者及相关政策制定者。 使用场景及目标...
AITester开源项目：基于RAG和DeepSeek技术生成测试用例
03-19
本系统在此基础上引入知识库增强生成（RAG）技术，通过融合领域文档与历史用例数据，使生成结果更贴合业务场景。 传统AI生成方案存在两大痛点：领域知识缺失大模型无法记忆企业私有文档（如需求规格书、接口文档）...
INFERENCE SCALING FOR LONG-CONTEXT RETRIEVAL AUGMENTED GENERATION
weixin_54703767的博客
04-20 1032
解决了两个关键问题：（1） 在最佳配置下，RAG 性能如何从推理计算的扩展中受益？（2） 我们能否通过对 RAG 性能和推理参数之间的关系进行建模来预测给定预算的最佳测试时间计算分配？我们的观察表明，在最佳分配时，增加推理计算会导致 RAG 性能近乎线性的提高，我们将这种关系描述为 RAG 的推理缩放定律。在此基础上，我们进一步开发了计算分配模型，以估计不同推理配置的 RAG 性能。该模型预测了各种计算约束下的最佳推理参数，这与实验结果密切相关。
Google发布最新推理Scaling Law研究，RAG性能更上一层楼。
lyy2017175913的博客
10-12 779
检索增强生成（RAG）是一种通过引入外部知识来提升语言模型生成效果的方法。简单来说，它不仅依赖模型内部的知识，还会从外部资源中检索到相关信息，这样生成的内容就更有针对性、更有深度。
o1推理扩展的风吹到了RAG，性能飙升58.9%！
AIBigModel的博客
10-11 496
对于大多数只调用LLM一次的方法，有效上下文长度等同于提示中的输入token数量，并受到LLM的上下文窗口限制。对于迭代调用LLM的方法，有效上下文长度可以通过策略无限扩展。（a）报告了跨数据集的平均指标值，而在（b）和（c）中，每条线代表在逐渐增加文档/示例的一致配置下的标准化性能。通过分析不同有效上下文长度下的性能变化，提出了RAG性能随着推理计算规模的增加而近乎线性提升的观察结果，这被称为。通过扩展最大有效上下文长度，DRAG和IterDRAG的性能一致地提升，表明增加计算预算对RAG性能是有益的。
Retrieval-Augmented Generation for Large Language Models: A Survey
Brilliant_liu的博客
12-27 2652
大型语言模型（LLM）已成为人工智能领域的重大突破，在各种任务中表现出强大的能力。然而，LLM仍面临一些挑战，例如幻觉、知识更新缓慢和答案缺乏透明度。 幻觉是LLM生成错误或虚假信息的倾向。这可能发生在LLM没有足够的知识来回答问题时，或在LLM受到噪声或偏见的影响时。知识更新缓慢是LLM的一个缺点，因为它们需要大量数据来训练。这意味着LLM很难跟上不断变化的世界。检索增强生成（RAG）是一种新兴技术，旨在解决LLM面临的这些挑战。
超越DeepSeek V3！普林斯顿&北大提出ReasonFlux：层次化RL推理新范式
阿木寺的博客
02-12 358
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【Mamba/多模态/扩散】交流群添加微信号：CVer2233，小助手会拉你进群！扫描下方二维码，加入CVer学术星球！可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文/搞科研/涨薪，强烈推荐！转载自：机器之心一．引言推理大语言模型（LLM），如 OpenAI 的 o1 系列、G...
手机也能玩RAG？谷歌EdgeRAG做到了~
老皮的博客
01-08 1102
边缘设备（如手机）因内存和计算能力有限，运行RAG面临巨大挑战；例如：一个存储了条记录的向量数据库的索引大小为，而手机通常只有4-12 GB的主内存。因此，谷歌等提出一种系统：通过选择性存储，不是所有向量都存储，只有在检索过程中真正需要的嵌入向量才会被生成和存储，此外，还采用自适应缓存策略，以减少冗余计算并进一步优化延迟。
RAG实战篇：将用户输入转换为精确的数据库查询语言
m0_59163425的博客
10-06 1206
在这篇文章中，围绕查询构建（Query Construction）环节，如下图黄框所示，风叔详细介绍一下如何将用户输入，转换为精准的数据库查询语言。查询构建主要是为了将用户自然语言的Query，转化为某种特定软件或机器能理解的语言。因为随着大模型在各行各业的渗透，除文本数据外，诸如表格和图形数据等越来越多的结构化数据正被融入RAG系统。比如在ChatBI的场景下，就需要将用户的Query内容转化为SQL语句，进行数据库查询，这就是Text-to-SQL。
Google 推出新一代RAG升级版——RIG，创新推荐算法解决方案
2401_85373898的博客
10-30 1211
和。其中新提出的，提供了 LLM 与外部数据库交互的新思路。
Google 最新推出的RAG替代方案--RIP
2401_85375186的博客
10-22 1316
鉴于 LLM 训练所需的高昂时间和经济成本，在实际应用中，我们通常会采用 **RAG（Retrieval Augmented Generation）**技术，即为 LLM “接入”一个最新的数据库，以便通过检索手段利用 LLM 的能力来回答用户关于特定或最新数据的问题。此外，对于无法检索到的数据，RIG 会使用占位符来提示用户，这使得它提供的数值答案相对更加可靠，特别适合对数据准确性要求较高的敏感领域，比如：价格咨询、金融服务和医疗咨询等场景。这里的“交错”指的是在生成部分回答和检索外部数据之间进行交替。
RAG F1分数提升10%
02-08
为了显著提升RAG模型的F1分数，可以采取多种策略和技术手段。以下是具体的方法： #### 改善检索质量 增强检索阶段的效果对于整体性能至关重要。可以通过改进查询表示学习、优化索引结构以及采用更高效的匹配算法来...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值