relu

,说明,1、线性整流函数，又称为修正性线性单元，ReLU是一个分段函数，其公式为:f(x)=max(0,x)。,2、 比Sigmoid函数收敛速度更快。输出以0为中心。由于饱和性产生的梯度消失。,实例...