注意力机制

 

图 2 query、key、value的计算

图 3 scaled-dot-product

 

 

参考：

猛猿的回答 - 知乎 https://www.zhihu.com/question/341222779/answer/2304884017

原文档：‪E:\505\学习笔记\注意力.docx

 

标签：docx,猛猿,www,scaled,query,机制,注意力
来源： https://www.cnblogs.com/linglanhuakai/p/16339056.html