软性注意力和硬性注意力

注意力机制中的软和硬

注意力机制是当前深度学习领域比较流行的一个概念。其模仿人的视觉注意力模式，每次只关注与当前任务最相关的源域信息，使得信息的索取更为高效。

注意力机制已在语言模型、图像标注等诸多领域取得了突破进展。

注意力机制可分为软和硬两类：

软性注意力（Soft Attention）机制是指在选择信息的时候，不是从N个信息中只选择1个，而是计算N个输入信息的加权平均，再输入到神经网络中计算。

相对的，硬性注意力（Hard Attention）就是指选择输入序列某一个位置上的信息，比如随机选择一个信息或者选择概率最高的信息。但一般还是用软性注意力机制来处理神经网络的问题。

注意，选取概率最高这一步骤通常是不可微的，因此，硬注意力更难训练。可以借助如强化学习的手段去学习。

标签：硬性,软性,Attention,信息,选择,机制,注意力
来源： https://www.cnblogs.com/charlesblc/p/15965088.html