百度11篇AI论文被ACL 2020收录 都写了什么？

近年来，随着预训练语言模型的快速发展，情感分析等多项自然语言理解任务都取得了显著的效果提升。然而，在通用语言模型预训练中，文本中的很多情感相关的知识和信息，例如情感词、实体-评论搭配等，并没有被模型充分的学习。基于此，百度提出了一种情感知识增强的语言模型预训练方法，在通用预训练的基础上，设计了面向情感知识建模的Masking策略和情感多目标学习算法，融合了情感词、极性、主体评论关系等多层情感知识，首次实现了情感任务统一的文本预训练表示学习。该算法在情感分类、观点抽取等情感分析任务中相对主流预训练模型RoBERTa有显著的提升，同时刷新了多个情感分析标准测试集的世界最好水平。

5、Cross-Lingual Unsupervised Sentiment Classification with Multi-View Transfer Learning

本文针对无标签资源的目标语言，提出了一种无监督的跨语言情感分析模型。

三、NLP 文本生成与摘要

6、Leveraging Graph to Improve Abstractive Multi-Document Summarization

多文档摘要（Multi-Document Summarization）技术自动为主题相关的文档集生成简洁、连贯的摘要文本，具有广阔的应用场景，例如热点话题综述、搜索结果摘要、聚合写作等。生成式多文档摘要方法的难点之一是如何有效建模文档内及文档间的语义关系，从而更好地理解输入的多文档。为此，本论文提出基于图表示的多文档生成式摘要方法GraphSum，在神经网络模型中融合多文档语义关系图例如语义相似图、篇章结构图等，建模多篇章输入及摘要内容组织过程，从而显著提升多文档摘要效果。GraphSum 基于端到端编解码框架，其中图编码器利用语义关系图对文档集进行编码表示，图解码器进一步利用图结构组织摘要内容并解码生成连贯的摘要文本。GraphSum 还可以非常容易地与各种通用预训练模型相结合，从而进一步提升摘要效果。在大规模多文档摘要数据集WikiSum 和MultiNews 上的实验表明，GraphSum 模型相对于已有的生成式摘要方法具有较大的优越性，在自动评价和人工评价两种方式下的结果均有显著提升。

7、Exploring Contextual Word-level Style Relevance for Unsupervised Style Transfer

无监督风格转换是指在无平行语料的情况下，把输入的句子改成目标风格，同时尽可能保持其原义。本文提出了一种全新的序列到序列的生成模型，可以动态地根据生成词的风格相关性进行风格转换。本文有两个主要的创新点，一是用层级相关性传播算法计算风格分类器中每个输入词的风格相关性信息，并以此作为指导信号来训练生成器，让生成器在生成的同时可以预测下一个词的风格相关性。二是设计了以词级别风格相关性和语义信息作为输入的风格转换解码器，并通过多个损失项进行finetune训练，从而实现风格转换的功能。实验表明，本文提出的方法在情感风格转换和口语化风格转换的任务上都达到了领先效果。

四、机器翻译&同声翻译

8、Opportunistic Decoding with Timely Correction for Simultaneous Translation

同声传译有许多重要的应用场景，近年来受到学术界和业界的广泛关注。然而，大多数现有的框架在翻译质量和延迟之间难以平衡，即解码策略通常要么过于激进，要么过于保守。在本论文中，百度首次提出了一种具有及时纠错能力的解码技术，它总是在每一步产生一定数量的额外单词，以保持观众对最新信息的跟踪，同时，它也在观察更多的上下文时，对前一个过度生成的单词提供及时的纠错，以确保高翻译质量。本文还首次提出了对这种纠错场景下的延迟指标。实验表明，我们的技术提高了延迟和质量：延迟减少了2.4，BLEU增加了3.1，中英翻译和中英翻译的修改率低于8%。本系统可用于任何语音到文本的同传系统中。

9、Simultaneous Translation Policies: from Fixed to Adaptive

同声翻译是机器翻译中的一个重要问题，它不仅要求高质量的翻译结果，而且要求翻译的过程有较低的时延。同声翻译的过程可以认为是一个选择“读”或“写”的决策过程，而所采用的策略则决定了同声翻译的质量与时延。本文提出一种简单的启发式算法，根据翻译模型输出的概率分布，可以将几种精简的固定“读写”策略组合成一种灵活的策略。本文进一步将该算法与集成方法相结合，既提高了翻译质量，又降低了翻译过程的时延。这种简单的算法不需要训练策略模型，使得其更易于在产品中使用。

五、知识推理

10、Learning Interpretable Relationships between Entities, Relations and Concepts via Bayesian Structure Learning on Open Domain Facts

通过贝叶斯结构学习建立了开放领域的关系与概念(Concept)之间的关联，使得实体为何属于某个概念的原因得到了很好的解释。

六、AI辅助临床诊断

11、Towards Interpretable Clinical Diagnosis with Bayesian Network Ensembles Stacked on Entity-Aware CNNs

基于电子病历（EMR）的智能化诊断算法是AI医疗研究领域最重要、最活跃、应用最广泛的问题之一。传统的诊断算法或者直接使用端到端分类模型，丢失了可解释性，或者仅基于知识关系和规则进行推理，可迁移、可扩展性低。本研究提出一种新的诊断算法框架，该框架针对EMR具有无结构化文本和结构化信息并存的特点，结合医疗NLU，以深度学习模型实现EMR的向量化表示、诊断预分类和概率计算。结合医疗知识图谱增强的多种贝叶斯网络的组合模型，实现具有可解释性的诊断推理。该框架能同时兼顾高诊断准确率和强可解释性的特点，并可应用于面向基层医师的辅助临床诊断产品中。

（编辑：应用网_阳江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!