解读预训练语言模型的2019：爆款新模型井喷，BERT要被全面碾压了吗？-深蓝源码网

自Google在2018年推出预训练语言模型BERT,在11项NLP任务上达到最高水平,预训练语言模型的研究与应用成为学术界和工业界广泛关注的重点,被认为开启了自然语言处理的新篇章。在2019年各大公司和高校陆续发布了自己的预训练语言模型,如：Facebook发布的RoBERTa,CMU发布的XL……