通俗版
读“小明把书还给了小红，因为她明天要用”，你会自动把“她”和“小红”联系起来。注意力机制就是让做类似的事：处理每个词时，算一算它该多“关注”里的哪些词。
工程版
根据查询（query）与键（key）的相似度计算权重，再对值（value）加权求和，从而让每个位置汇集其他位置的信息。 使用多头自注意力；标准注意力的计算量随序列长度大致按平方增长，这是长成本高的原因之一。
举个例子
翻译“The animal didn't cross the street because it was too tired”时，要靠注意力判断 it 指的是 animal 而不是 street。
容易搞混
这是一个具体的计算机制，和本词典里“”“”这类比喻性的说法不同。