EMNLP 2022自然语言处理技术论文速览

于 2025-08-26 12:47:26 发布
阅读量256 收藏 9
点赞数 2
CC 4.0 BY-SA版权
文章标签： 自然语言处理 人工智能 机器学习 程序那些事 AIGC 经济学 算法匹配
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/codeshare1135/article/details/150851400

某机构EMNLP 2022论文技术概览

某机构在今年经验方法自然语言处理会议（EMNLP）上发表的40余篇论文（包括新设产业轨道收录论文），既涵盖了自然语言理解、问答系统等传统主题，也拓展到机器人技术、地理空间学习等跨领域研究，其中两篇论文还涉及双关语生成。

查询重写技术（应用于自学习和指代消解）已成为某机构的一个活跃研究方向，本次会议有5篇相关论文。多篇论文探索了快速兴起的提示工程领域，即通过提示大型语言模型生成特定类型的输出。

以下是某机构EMNLP学术轨道和产业轨道论文的快速导览：

持续学习

  • 迭代分层测试与测量实现自动化模型更新
  • 基于需求的语音理解模型更新：我们学到了什么？
  • 基于局部分布近似的无监督训练数据重加权技术

对话系统

《面向任务对话的检索式响应模型部署》提出通过交叉注意力层学习历史记录、配置文件特征与候选响应之间的语义关联，并使用评分函数对候选响应进行排序。

评估体系

GEMv2：单行代码实现多语言自然语言生成基准测试

事实核查

《基于依存树的事实核查机器生成文本》通过依存解析树识别待核查声明中的实体属性。

公平性

MT-GenEval：基于反事实与上下文的机器翻译性别准确性评估数据集

幽默生成

  • 情境化双关语生成
  • ExPUNations：通过关键词和解释增强双关语

信息抽取

  • 跨语言商品评论摘要混合方法
  • Ask-and-Verify：属性值抽取的跨度候选生成与验证
  • DORE：基于生成框架的文档有序关系抽取（通过识别文档中同一实体的多个实例构建实体关系矩阵）

信息检索

  • 基于词项影响分解的稀疏索引加速方法
  • 机器翻译对电商多语言搜索的影响

知识蒸馏

  • 将多语言Transformer蒸馏至CNN实现可扩展意图分类
  • 知识蒸馏传输集及其对下游自然语言理解任务的影响

机器学习

《焦点损失校准不平衡分类器的实证研究》

模型适配

《元学习差异：大语言模型高效适配准备》

开放世界分类

《基于自适应负样本的开放世界分类》提出区分已知与未知数据类别的新方法

多模态交互

多模态上下文传递

自然语言处理

  • McPhraSy：多上下文短语相似性与聚类
  • 基于抽象意义表示的无监督句法控制复述生成

自然语言理解

  • 基于模型解释的训练样本选择改进大规模对话系统
  • 通过细粒度查询理解改进文本到SQL语义解析

地理定位学习

《基于深度度量学习的冷启动难解析地址地理定位》利用深度度量学习捕捉地址的地理空间距离语义

提示工程

DynaMaR：基于掩码标记表示的动态提示

查询重写

《CGF：对话AI查询重写的约束生成框架》使用字典树约束查询重写模型的输出

问答系统

  • 集成Transformer实现高效精准排序任务
  • FocusQA：聚焦上下文的开放域问答
  • 从答案排序到答案生成的知识迁移
  • 基于句子级目标的预训练Transformer模型
  • RLET：基于强化学习的可解释问答与蕴含树方法

机器人技术

ALFRED-L：研究交互式视觉环境中语言对动作学习的作用，提出新的测试分割方案评估智能体轨迹位置记忆能力

更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
公众号二维码
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

codeshare1135
关注
论文阅读：EMNLP demo-2024.FreeEval: A Modular Framework for Trustworthy and Efficient Evaluation of Large
CSPhD-winston的博客
12-14 786
如何用低成本集成先进的评估技术？如何确保评估结果的可靠性、可重复性和效率？当前缺乏一个统一且灵活的框架，可以无缝整合多种评估方法。而且，评估结果的可靠性往往因为数据污染（比如训练数据中包含测试数据）受到质疑，同时评估效率也常被忽视，因为LLM的推理成本很高。为了解决这些问题，论文提出了FreeEval，一个模块化和可扩展的框架，用于对LLM进行可信、高效的自动评估。通过统一的抽象模型，简化了复杂评估方法的整合，提高了评估过程的透明度。
机器翻译论文阅读方法：顶会（ACL、EMNLP）论文解析技巧
数据知道的博客
08-18 1294
摘要： 阅读机器翻译（MT）顶会论文（如ACL、EMNLP）需高效筛选与精读。筛选阶段关注核心会议（主会/WMT）、高引论文及创新点（如非自回归翻译），通过标题、图表、实验数据快速评估价值。精读阶段聚焦问题定义（Introduction）、核心方法（公式/伪代码）、实验结果（数据集/指标/消融）及局限性。前沿热点包括大模型翻译（GPT-4）、低碳训练及安全伦理。建议结合代码复现（如HuggingFace）与批判性分析，形成研究能力，典型案例如EMNLP 2020的非自回归翻译论文，需权衡速度与质量。
EMNLP 2022投稿要求
u011426236的博客
04-18 7199
导语 记录EMNLP 2022投稿要求，原网址连接：https://2022.emnlp.org/calls/papers/Overview 。 要点记录 由于原网页内容较多，这里列几个我认为值得注意的地方。 必须在6.17前提交摘要，否则6.24前无法提交全文。 今年要求论文在Discussion/Conclusion之后添加一个Limitation章节来讨论本文工作的局限性，这个是强制要求加，不加会直接Reject。但这个章节不占正文内容。 不能在匿名期间更新非匿名版本，如果在匿名期前已经有了非匿名版
一文速览EMNLP 2020中的Transformer量化论文
算法码上来
11-26 714
花了几天看了三篇EMNLP 2020中关于Transformer模型量化的相关论文，快速记一下要点。Fully Quantized Transformer for Machine Tra...
推荐系统与大语言模型技术融合：EMNLP/NeurIPS相关论文导览
AGI_GGbond的博客
10-15 1274
随着大语言模型在自然语言处理领域的迅速发展，大语言模型技术被广泛地应用于文本类推荐任务中。
速览EMNLP 2020上录取的知识图谱相关论文
ngl567的博客
10-26 882
前不久，自然语言处理领域三大顶会之一的 EMNLP 2020 发布了论文录取的结果。在EMNLP 2020论文正式出版之前，泽宇搜集了目前Arxiv上已经发布出来的录取在EMNLP 2020上所有和知识图谱相关的论文，下面我们就一起来一睹为快。 如果对文章感兴趣欢迎关注知乎专栏“人工智能遇上知识图谱“，也欢迎关注同名公众号“人工智能遇上知识图谱”，让我们一起学习并交流讨论人工智能与知识图谱技术。 1. 知识图谱嵌入（表示学习） AutoETER: Automated Entity Type Re.
一句话超短摘要，速览752篇EMNLP论文
zenRRan的博客
12-15 286
文 | Posy阿花源|夕小瑶的卖萌屋今年的EMNLP今天开始召开啦，不知道大家的论文列表都刷完没有呀~ 什么？论文太多，看不过来，怎么办？看了论文题目还是不知道讲的是什么，怎么办？...
AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.11.20-2024.11.25
小小帅
05-16 954
本文摘要涵盖了多篇关于大型语言模型（LLM）及其在多模态、多语言、算术推理和情报分析等领域的应用研究。首先，ReflectiVA模型通过自省标记和外部知识源增强多模态LLM，提升了基于知识的视觉问题解答能力。其次，研究探讨了视觉语言模型中的认知对齐问题，提出了实体增强认知对齐方法，以提高地标识别性能。第三，研究比较了LLM与教师评分在多维作文评分中的表现，发现闭源模型在语言相关标准上表现更优。第四，BayLing 2通过语言对齐，将高资源语言的能力有效转移到低资源语言，提升了多语言翻译和理解能力。第五，研究
AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.11.05-2024.11.10
小小帅
05-14 692
标题:摘要2附录：学术评论提升 LLM 长期语境能力摘要大型语言模型（LLMs）在各种任务中都表现出了不俗的性能，但它们处理长语境阅读的能力仍然具有挑战性。本研究探讨了利用高质量学术同行评议数据对 LLM 进行微调以增强其长语境能力的有效性。我们比较了直接偏好优化（DPO）方法和监督微调（SFT）方法，证明了 DPO 的优越性和数据效率。我们的实验表明，微调后的模型比 phi-3 提高了 4.04 个点，在 Qasper 基准上提高了 2.6% （仅使用 2000 个样本）。
AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.11.10-2024.11.15
小小帅
05-15 720
本文摘要了多篇关于大语言模型（LLM）的最新研究论文，涵盖了从推理加速、模型对齐到时间序列预测等多个领域。**《Squeezed Attention: Accelerating Long Context Length LLM Inference》提出了一种名为“挤压注意力”的机制，通过离线聚类和分层中心点查找，显著减少了长上下文推理的计算成本，提升了推理速度。《Approximated Variational Bayesian Inverse Reinforcement Learning for Large
量化感知训练_一文速览EMNLP 2020中的Transformer量化论文
weixin_39913105的博客
12-24 379
公众号关注“ML_NLP”设为 “星标”，重磅干货，第一时间送达！来自 |知乎地址 |https://zhuanlan.zhihu.com/p/313741051作者 | godweiyang编辑 |机器学习算法与自然语言处理公众号本文仅作学术分享，若侵权，请联系后台删文处理花了几天看了三篇EMNLP 2020中关于Transformer模型量化的相关论文，快速记一下要点。Ful...
论文阅读：2022 EMNLP Why Should Adversarial Perturbations be Imperceptible? Rethink the Research Paradigm
CSPhD-winston的博客
04-17 397
这篇论文重新思考了自然语言处理（NLP）中面向安全的对抗样本研究范式，指出过往研究的不足，提出新的数据集、任务形式和攻击方法，并通过实验验证了新方法的实用性。
SamOutVXP：革命性轻量级语言模型，突破传统推理限制
东方佑
08-22 542
SamOutVXP不仅是一个语言模型，更是从根本上重新定义了轻量级AI的计算范式，其突破性的State推理模式解决了困扰行业多年的长文本性能瓶颈，为真正的边缘智能铺平了道路。
自然语言处理NLP L5: 词义与相似性
moranxiao199的博客
08-22 733
介绍词义的概念，词与词之间的关系，相似性的算法：林德康相似性定理、Path-Based Similarity、Resnik’s Similarity、Dekang Lin Method、Lesk算法
语言模型的无限潜能：GPT-2与无监督多任务学习的革命
nblway的博客
08-25 261
这项研究提出的GPT-2模型，不仅颠覆了我们对语言模型的传统认知，更开创了无监督多任务学习的新范式。这表明GPT-2显著提升了对长文本依赖关系的理解能力。GPT-2的突破在于它向我们展示了一条不同的路径：一个在多样化数据上训练的大型语言模型，无需任何显式监督，就能学会执行多种任务。尽管其性能尚未完全达到监督学习系统的水平，但这一能力完全是通过无监督学习自发获得的，证明了语言模型内在的任务理解能力。这条道路的核心是信任大规模学习的内在智慧——通过提供足够的数据和计算资源，模型能够自动发现世界中的规律和知识。
机器学习-大语言模型Finetuning vs. Prompting
JXL1860的博客
08-25 789
通才”不是指Prompt把模型变成了通才，而是指模型本身已经被训练成了一个“通才”。它在海量数据中学习了语言、逻辑、知识和多种技能的潜在模式。Prompt的作用是“激活”和“引导”。它像一个开关或一个指令，告诉这个强大的通才模型：“嘿，现在请启动你的‘翻译’技能”或者“现在请启动你的‘创意写作’技能”。
计算机视觉与自然语言处理技术体系概述
whdehcy的博客
08-24 221
计算机视觉：从 “分类（整体判断）” 到 “检测（定位 + 分类）”“分割（像素级精细判断）”，再到 “跟踪（动态关联）”“生成（创造）”，实现从 “静态图像理解” 到 “动态视频分析” 再到 “视觉内容创造” 的能力升级；自然语言处理：从 “分类（整体文本判断）” 到 “匹配（文本间关联）”“标注（精细信息提取）”，再到 “生成（文本创造）”，实现从 “文本浅层分析” 到 “语义深层理解” 再到 “语言内容创造” 的能力升级。
【文献阅读】SparseGPT: Massive Language Models Can be Accurately Pruned in One-Shot
最新发布
Toky_min的博客
08-25 345
本文提出SparseGPT算法，首次实现大规模GPT模型的高效一次性剪枝。该方法能在4.5小时内完成1750亿参数模型的剪枝，达到60%稀疏度且精度损失极小。通过将剪枝问题转化为稀疏回归实例，并设计新型近似求解器，SparseGPT克服了传统方法计算成本高的问题。实验表明，该方法在OPT-175B和BLOOM-176B等超大模型上表现优异，且发现模型规模越大压缩效果越好。该算法支持半结构化稀疏模式，并能与权重量化技术结合使用，为大型语言模型的高效
自然语言处理——06 迁移学习（中）
念头通达
08-24 583
迁移学习及相关概念、NLP 常见预训练模型、Hugging Face Transformers库的使用（管道、自动模型、具体模型）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值