Curya的博客

PyTorch使用DDP进行单机多卡训练备忘记录

令input_resolution = (12, 12)window_size = 6shift_size = 3生成部分的源码如下: if self.shift_size > 0: # calculate attention mask for SW-MSA H, W = self.input_resolution img_mask = torch.zeros((1, H, W, 1)) # 1 H W 1

torch.einsum是个好东西，就是输入数据多于2个，就有点看不懂了。（改成了使用torch.matmul主要是为了将代码和论文公式对应上）其中，相关数据维度如下：# 1 forward函数:v_ [B, M, D]q_ [B, L, D]# 2 forward_with_weights函数:v_ [B, M, D]q_ [B, L, D]w [B, M, L]1 forward函数# low-rank bilinear pooling using einsumdef for