torch.gather():从批量tensor中取出指定乱序索引下的数据
array 转为tensor:torch.from_numpy()
二维tensor转置:tensor = torch.transpose(tensor, dim0=0, dim1=1)
pytorch中卷积后保证图像输入输出前后的尺寸大小不变,即实现TensorFlow中“same”的效果:
若卷积核大小为3x3,那么就应该设定padding=1,即填充1层边缘像素;
若卷积核大小为7x7,那么就应该设定padding=3,填充3层边缘像素;
也就是padding大小一般设定为核大小的一半(向下取整)。
调试网络时,查看张量tensor形状shape:
emb.detach().cpu().numpy()
解释:detach():将tensor从计算图中脱离出来,cpu()将放置到cuda上的tensor转换到cpu上(因为只有cpu上的tensor才可以调用numpy),将tensor转为array