之前在改自定义的DataSet的时候，由于在getitem()里面写了太多操作，导致训练过程贼慢，于是考虑用多线程优化一下。查阅一些资料发现pytorch在DataLoade...
发简信
IP属地：四川
-
Pytorch中DataLoader类的多线程实现方法分析
-
【paper reading】Deep Interest Evolution Network for Click-Through Rate PredictionDIEN 是阿里妈妈在9月份公开的一个点击率预估模型。论文中提到的技术点十分值得去研究和尝试一下。之前做了一个slides，今天抽时间将它整理出来~ 主要从以下几个角度介绍。...
-
模型压缩--知识蒸馏Knowledge Distilling
前言 目前提高机器学习算法性能的方法几乎都用多模型ensamble，在计算上非常昂贵且难以部署，尤其是大型神经网络，比如bert。知识蒸馏就是希望用小型模型得到跟大型复杂模型...
-
归一化 （Normalization）、标准化 （Standardization）和中心化/零均值化 （Zero-centered）1 概念 归一化：１）把数据变成(０，１)或者（1,1）之间的小数。主要是为了数据处理方便提出来的，把数据映射到0～1范围之内处理，更加便捷快速。２）把有量纲表达式变成无量...
-
DSSM模型和tensorflow实现DSSM 的原理很简单，通过搜索引擎里 Query 和 Title 的海量的点击曝光日志，用 DNN 把 Query 和 Title 表达为低纬语义向量，并通过 cosine...
-
Shell脚本并发及并发数的控制
正常情况下，Shell脚本是串行执行的，一条命令执行完才会执行接下来的命令。如下代码： 脚本执行的结果如下： echo $1 命令串行执行，如果命令耗时较长导致总时间较长。如...
