#第一性原理 > > 比如,美女这个词,词典里说是在形容长得很漂亮的美女,如果下文紧跟的是可以加一下微信吧,那么美女这个词,大概率真的是在表示这个人很好看,但如果后面接的是麻烦让一让,这个时候,这个美丽的程度就可能要大幅调低了。 > > 注意力机制需要搞定的,就是需要它识别出,那些因为上下文关联,而对词典中原本客观的语义,进行调整和改变的幅度。 [维度无关性](维度无关性.md) [自注意力机制 Self-attention](自注意力机制%20Self-attention.md)