在您的示例中，您将输出[0,0,0,1]视作交叉熵的数学定义所需的概率。但是PyTorch将它们视为输出，不需要求和为1 ，并且需要首先转换为使用softmax函数的概率。

因此H（p，q）变为：
H（p，softmax（输出））

将输出[0,0,0,1]转换为概率：
softmax（[0,0,0,1]）= [0.1749,0.1749,0.1749,0.4754]

何处：
-log（0.4754）= 0.7437

我想添加一个重要说明，因为这通常会导致混乱。

Softmax不是损失函数 ，也不是激活函数。它有一个非常具体的任务：用于多类别分类，以标准化给定类别的分数。这样，我们得出每个类的概率总计为1 。

将Softmax与交叉熵损失结合起来以计算模型的损失。

不幸的是，由于这种组合非常普遍，因此通常被缩写。有些人使用术语Softmax-Loss ，而PyTorch仅称其为Cross-Entropy-Loss 。

您的理解是正确的，但是pytorch不会以这种方式计算交叉熵 。 Pytorch使用以下公式。

loss(x, class) = -log(exp(x[class]) / (\sum_j exp(x[j])))
               = -x[class] + log(\sum_j exp(x[j]))

因为在您的场景中， x = [0, 0, 0, 1]并且class = 3 ，如果您对上面的表达式求值，您将得到：

loss(x, class) = -1 + log(exp(0) + exp(0) + exp(0) + exp(1))
               = 0.7437

Pytorch考虑自然对数。