ReduceSum算子性能问题

MindSpore  GPU1.8.1

Ubuntu 22.4 

GPU 1080Ti

【操作步骤&问题现象】

mindspore模型在训练过程中的速度明显低于pytorch模型。

具体到代码而言，在损失函数中，使用到了几次该算子。

我根据API映射将该算子迁移过来。

#pytorch
log_prob = logits - torch.log(exp_logits.sum(1, keepdim=True))
 
mean_log_prob_pos = (mask * log_prob).sum(1) / mask.sum(1)
 
#mindspore
log_prob = logits - ops.log(ops.ReduceSum(keep_dims=True)(exp_logits, 1) + 1e-8)
op_sum = ops.ReduceSum()
mean_log_prob_pos = op_sum(mask * log_prob,1) /op_sum(mask,1)

【截图信息】

****************************************************解答*****************************************************

可参照一下这里，有性能分析，可以自检一下自己的模型：https://www.mindspore.cn/mindinsight/docs/zh-CN/r1.8/performance_profiling.html