放单网站建设应用商店app下载

什么是注意力机制？




什么是加性注意力？

大致说一下流程：
对于一张特征图来说，对于这张图中的每一个像素向量（例如a），计算该向量与所有像素向量的相似度，对这些相似度进行激活函数处理得到注意力得分。对注意力得分进行归一化得到a向量对所有像素向量的注意力权重，然后a向量对每一个像素向量的注意力权重与对应的值向量（有可能是对应的像素向量）相乘并求和，得到最终的更新特征。