本期 AI Drive，邀请到了微软亚洲研究院研究员黄浩洋，为大家带来多语言与多模态在预训练中的结合专题直播。

时间：3 月 18 日（周四）晚 7 点

地址：https://live.bilibili.com/14884511


直播信息

最近，我们见证了一种自然语言处理（NLP）新范式预训练的兴起，在该范式中，通过自我监督的预训练从原始文本中学习常识，然后通过特定于任务的微调将其应用于下游任务。目前单语言预训练语言模型（例如 BERT）已扩展到多语言方案，例如多语言 BERT，XLM / XLM-R，Unicoder 等。此外，还出现了多模态场景下的一些预训练模型，例如 ViL-BERT Unicoder-VL，UNITER，VLP，Oscar 等。

在这次 CVPR 论文中我们提出了一种多任务、多语言、多模态预训练模型 (Multitask Multilingual Multimodal Pre-trained model，M^3P)，通过多任务学习和权值共享，将多语言-单模态预训练和单语言-多模态预训练结合到一个统一的框架中，同时我们在预训练过程中使用了 Code-switching 相关策略，显著提高了模型在低资源语言上的表现。


本次分享的具体内容有： 

  • 回顾多语言以及多模态预训练模型 

  • 介绍 M^3P 具体方法

  • 论文实验结果分析

  • 未来可以尝试的方向以及总结


嘉宾介绍


黄浩洋 / 微软亚洲研究院研究员 

黄浩洋，微软亚洲研究院研究员，19 年北京大学硕士毕业，在校期间曾多次获得国内数据竞赛 TOP3, kaggle 金牌并拥有 kaggle master 称号。目前主要从事多语言多模态预训练，机器翻译等研究，曾在 EMNLP/ACL 等人工智能顶级会议发表论文。