# Summary 这个概念源于语言学家 **J.R. Firth** 在1957年提出的著名论断: > **"You shall know a word by the company it keeps"** > (要了解一个词的意思,看它和什么词在一起出现) 知者不言,言者不知 道可道,非常道 名可名,非常名 # Notes ### **这种思想的深远影响:** 1. **从符号到向量**: AI从符号主义转向连接主义 2. **从规则到学习**: 不需要人工定义语义规则 3. **从离散到连续**: 语义成为可计算、可优化的连续空间 **现代大语言模型的基础:** - BERT、GPT等的核心仍然是分布式语义 - Transformer的注意力机制 = 动态计算词之间的分布式关系 - "理解"语言 = 学习词在海量上下文中的分布模式 ## **哲学上的妙处:** 这个概念连接了: - **语言学** (Firth, Harris的分布假说) - **哲学** ([[维特根斯坦]]的语言哲学) - **认知科学** (概念的原型理论) - **统计学** (协方差、相关性) - **神经科学** (大脑的分布式表征)