姚慧扬

2020-08-24   阅读量: 616

如何选择正确的激活函数?

扫码加入数据分析学习群

用于分类器时,Sigmoid函数及其组合通常效果更好。

由于梯度消失问题,有时要避免使用sigmoid和tanh函数。

ReLU函数是一个通用的激活函数,目前在大多数情况下使用。

如果神经网络中出现死神经元,那么PReLU函数就是最好的选择。

请记住,ReLU函数只能在隐藏层中使用。

一点经验:你可以从ReLU函数开始,如果ReLU函数没有提供最优结果,再尝试其他激活函数。


73.4504 2 0 关注作者 收藏

评论(0)


暂无数据

推荐课程