droptop 是什么意思?

 我来答
hcy电子数码
高能答主

2020-11-11 · 致力于成为全知道最会答题的人
知道大有可为答主
回答量:1.1万
采纳率:100%
帮助的人:174万
展开全部

dropout(随机失活):dropout是通过遍历神经网络每一层的节点,然后通过对该层的神经网络设置一个keep_prob(节点保留概率),即该层的节点有keep_prob的概率被保留,keep_prob的取值范围在0到1之间。通过设置神经网络该层节点的保

已保存留概率,使得神经网络不会去偏向于某一个节点(因为该节点有可能被删除),从而使得每一个节点的权重不会过大,有点类似于L2正则化,来减轻神经网络的过拟合

扩展资料

1、第三层网络的权重参数用a3表示,使用a3的shape来产生一个0到1的随机矩阵。

2、设置keep_prob(0到1)的大小,keep_prob表示该层节点保留的概率。对于第一步产生的随机矩阵与keep_prob进行比较,小于为1,大于为0。1表示保留该节点,0表示删除矩阵。

3、将a3与0和1的矩阵相乘(这里是普通的乘法,不是矩阵相乘),的到新权重参数矩阵a3。

4、对输出的a3矩阵除以keep_prob,即a3 /= keep_prob,这一步是最关键的。将a3除以keep_prob的目的是保证a3的期望值(均值)不变,从而保证第三层的输出不变。

注意:dropout在测试阶段不需要使用,因为如果在测试阶段使用dropout可能会导致预测值产生随机变化(因为dropout使节点随机失活)。而且,在训练阶段已经将权重参数除以keep_prob来保证输出的期望值不变,所以在测试阶段没必要再使用dropout。

百度网友1a6bcc6
2015-03-03 · TA获得超过417个赞
知道小有建树答主
回答量:679
采纳率:0%
帮助的人:167万
展开全部
drop top的中文翻译_百度翻译
drop top
敞篷
本回答被网友采纳
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式