首页 > TAG信息列表 > TAPT
Bert不完全手册8. 预训练不要停！Continue Pretraining
paper: Don't stop Pretraining: Adapt Language Models to Domains and Tasks GitHub： https://github.com/allenai/dont-stop-pretraining 论文针对预训练语料和领域分布，以及任务分布之间的差异，提出了DAPT领域适应预训练（domain-adaptive pretraining）和TAPT任务适应预训练（task