softmax汇总

带温度参数的softmax：带温度参数的softmax是一种软化的softmax形式，它也以e为底数，但采用了一个额外的温度参数T。温度参数T越大，得到的概率分布会更加平滑，而T越小，则会产生更大的差异性。

优点：经过使用指数形式的Softmax函数能够将差距大的数值距离拉的更大

缺点：但是也带来了缺点，当 �� 值非常大的话，计算得到的数值也会变的非常大，数值可能会溢出。

softmax - 知乎