Garry's Blog

Tag: attention

为什么 LLM 要使用 Q/K/V
Scaled Dot-Product Attention 详解
Softmax 的来历与 LLM 应用