预训练

在CV和NLP领域，pre training+ fine tuning是常用手段。
而在推荐实际应用中，预训练也有一定的作用。例如embedding在工业界应用以及训练的tricks中所述，利用全量用户行为训练用户embedding做为初始化，能为一些子任务模型的embedding层提供较快的收敛。

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容