Thoughts & Notes

记录技术与生活的碎片

【AI 日报】黄仁勋辞任英伟达CEO:33年时代落幕,CFO克雷斯临时接掌

🔦 今日速览 黄仁勋辞去英伟达总裁、CEO及董事职务,执掌33年戛然而止,CFO克雷斯临时接任、首设董事长由前新思CEO哈维·琼斯出任,周五市值跌破4万亿美元。Anthropic IPO获六倍超额认购并拒绝中国大陆及香港投资者认购;SpaceX宣布740亿美元投建超级计算中心;DeepSeek晚间…

阅读全文 全部 130 篇

其他文章

服务器 CPU 供应紧张深度分析

生成日期:2026-07-03聚焦范围:服务器 CPU,包括 Intel Xeon、AMD EPYC、Arm server CPU、自研云端 CPU,以及 AI 服务器中的主控 CPU(host CPU)。不讨论 PC …

Token ID 到 Embedding 机制详解

生成日期:2026-06-26主题:token id 如何变成 embedding、embedding table 的内部机制、位置编码、训练更新,以及它在 LLM 整体流程中的作用适合读者:知道 LLM 会“分词”,但…

为什么 LLM 要使用 Q/K/V

0. 先看结论 LLM 使用 Q/K/V,不是因为三个字母神秘,而是因为 attention 本质上在做一次“可微的内容检索”: 放进 Transformer 里就是: \mathrm{Attention}(Q,K,V)…

Scaled Dot-Product Attention 详解

0. 先看结论 Scaled Dot-Product Attention 的公式是: \mathrm{Attention}(Q,K,V)=\mathrm{softmax}\left(\frac{QK^T}{\sqrt{d…

Softmax 的来历与 LLM 应用

0. 先看结论 Softmax 做的事很直接:把一组分数变成概率分布。它的思想可追溯到统计物理里的 Boltzmann/Gibbs 分布,后来进入选择理论、统计学习和神经网络。到了 LLM 里,最常见的是两个位置: 输出…

向量的几何:减法、点积与距离

向量是线性代数的基石。很多人熟悉向量加法的平行四边形法则,却对减法、点积和距离之间的深层联系感到模糊。本文用几何图解和代数公式,帮你建立从向量减法到点积相似度、再到距离度量的完整直觉。 一、从代数到几何 设平面向量 则减…