Softmax的交叉熵损失函数求导推导

文章目录

1. 1. Softmax相关推导

cs224n第四讲的课程中主要涉及的就是Softmax交叉熵等的计算，所以这篇博客对Softmax的交叉熵损失函数进行一遍完整的推导，加深理解吧！

Softmax相关推导

softmax和sigmoid不同，softmax主要用于多分类，将输出映射到（0,1）区间，再分别计算每个可能的输出y对应的概率是多少，概率最高的则是最有可能分类正确的结果（所有概率之和为1），简而言之，就是通过softmax计算得到分类结果。

参考材料：
[1]详解softmax函数以及相关求导过程
[2]简单易懂的softmax交叉熵损失函数求导