Thoughts & Notes

记录技术与生活的碎片

【AI 日报】128国同意两年内制定致命自主武器国际规则

🔦 今日速览 日内瓦审查会议连夜拉到凌晨4点45分,128国同意两年内"拟定"致命自主武器国际规则,美俄以未承诺约束。METR季度更新:AI研发能力每3.6个月翻倍,GPT-6 Astra可完成40小时任务。国内,曙光8000问鼎戈登·贝尔奖,混元Hy4权重全量开源。(周日版·周末合辑:覆盖11月…

阅读全文 全部 138 篇

其他文章

服务器 CPU 供应紧张深度分析

生成日期:2026-07-03聚焦范围:服务器 CPU,包括 Intel Xeon、AMD EPYC、Arm server CPU、自研云端 CPU,以及 AI 服务器中的主控 CPU(host CPU)。不讨论 PC …

Token ID 到 Embedding 机制详解

生成日期:2026-06-26主题:token id 如何变成 embedding、embedding table 的内部机制、位置编码、训练更新,以及它在 LLM 整体流程中的作用适合读者:知道 LLM 会“分词”,但…

为什么 LLM 要使用 Q/K/V

0. 先看结论 LLM 使用 Q/K/V,不是因为三个字母神秘,而是因为 attention 本质上在做一次“可微的内容检索”: 放进 Transformer 里就是: \mathrm{Attention}(Q,K,V)…

Scaled Dot-Product Attention 详解

0. 先看结论 Scaled Dot-Product Attention 的公式是: \mathrm{Attention}(Q,K,V)=\mathrm{softmax}\left(\frac{QK^T}{\sqrt{d…

Softmax 的来历与 LLM 应用

0. 先看结论 Softmax 做的事很直接:把一组分数变成概率分布。它的思想可追溯到统计物理里的 Boltzmann/Gibbs 分布,后来进入选择理论、统计学习和神经网络。到了 LLM 里,最常见的是两个位置: 输出…

向量的几何:减法、点积与距离

向量是线性代数的基石。很多人熟悉向量加法的平行四边形法则,却对减法、点积和距离之间的深层联系感到模糊。本文用几何图解和代数公式,帮你建立从向量减法到点积相似度、再到距离度量的完整直觉。 一、从代数到几何 设平面向量 则减…