首页 > TAG信息列表 > einsum
einsum函数介绍-张量常用操作
pytorch文档说明：\(torch.einsum(\)\(*equation*\)$, $$operands*$$)$ 使用基于爱因斯坦求和约定的符号，将输入operands的元素沿指定的维数求和。einsum允许计算许多常见的多维线性代数阵列运算，方法是基于爱因斯坦求和约定以简写格式表示它们。主要是省略了求和号，总体思路是在箭头Deep Learning Week1 Notes
1. Tensors \(\text{A tensor is a generalized matrix:}\) \(\text{an element of }\mathbb{R^3} \text{ is a 3-dimension vector, but it's a 1-dimension tensor.}\) \(\large \text{The 'dimension' of a tensor is the number of indices.}\torch.einsum()
讲解 对比学习论文中出现： # compute logits # Einstein sum is more intuitive # positive logits: Nx1 l_pos = torch.einsum('nc,nc->n', [q, k]).unsqueeze(-1) # negative logits: NxK l_neg = torch.einsum('nc,ck->nk', [q, self.queue.clone().detach(pytorch einsum 矩阵乘 浅显易懂解释
einsum用于矩阵乘法 直接上例子吧 比如 'bhqd, bhkd -> bhqk' 虽然是4维，但是前两维是不变的，先不看，只看后2维，qd, kd -> qk 这是两个矩阵相乘，两个矩阵的shape分别为A=qxd, B=kxd, 得到的结果形状是C =qxk 根据矩阵乘法，我们知道(qxd) x (dxk)结果的形状为qxk， 也就是说上面相当