1、深度学习如何解决过拟合
dropout:减少参数,模型复杂度减低
batchnorm:每一层做归一化,使参数的绝对值变小
2、梯度消失,爆炸如何产生,如何解决?
产生:反向传播+梯度下降
解决:减小层数;调整学习率;跳过连接(shortcut),lstm,batchnorm
3、rnn梯度消失有何不同
维度不同:时间维度(会消失),纵向维度
含义不同:重要信息的消失
4、交叉熵的由来
熵:-plogp
kl散度:|pa-pb|
交叉熵:palogpb
5、监督学习
6、判别式模型与生成式模型
7、偏差与方差以及过拟合
8、如何解决过拟合
9、xgboost原理
10、xgboost并行
11、xgboost特征分裂
高频面试题
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 今天青石的票圈出镜率最高的,莫过于张艺谋的新片终于定档了。 一张满溢着水墨风的海报一次次的出现在票圈里,也就是老谋...