- 博客(1)
- 论坛 (1)
- 收藏
- 关注
原创 最新语言表示学习方法XLNet,在20项任务上超越BERT
最新语言表示学习方法XLNet,在20项任务上超越BERT摘要:凭借对双向上下文进行建模的能力,与基于自回归语言建模的预训练方法相比,基于BERT的基于自动编码的预训练实现了更好的性能。然而,依赖于对输入使用掩码,BERT忽略了屏蔽位置之间的依赖性,并且受到预训练 - 微调差异的影响。根据这些优点和缺点,我们提出了XLNet,一种广义自回归预训练方法,它(1)通过最大化分解阶的所有排列的预期可能...
2019-06-20 12:56:03
2807
空空如也
Doit_的留言板
发表于 2020-01-02 最后回复 2020-01-02
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人 TA的粉丝