Thoughts & Notes

记录技术与生活的碎片

AI Daily 2026-07-03

【AI 日报】Nvidia推出AI基础设施收入分成新模式，重塑算力融资生态

🔦 今日速览美国与AI企业就自愿模型标准展开高级别谈判，最快下周宣布。Nvidia推出DSX AI Factory收入分成与信用支持新模式，降低AI初创企业获取算力的资本门槛。Google与Amazon最新可持续发展报告显示AI扩张导致碳排放大幅反弹，净零目标承压。国内，月之暗面Kimi B端负责人表示中国模型年内有望达到Anthropic Fable级...

阅读全文全部 29 篇

Latest

其他文章

2026-07-03 · AI

Token ID 到 Embedding 机制详解

生成日期：2026-06-26 主题：token id 如何变成 embedding、embedding table 的内部机制、位置编码、训练更新，以及它在 LLM 整体流程中的作用适合读者：知道 LLM 会“分词”，但想弄清楚数字 id 怎么进入神经网络的人 0. 先看结论 LLM 不能直接处理文字。它先把文本切成 token，再把每个 token 映射成一个整数 id，最后用这个 i...

#LLM #Transformer #deep-learning #Tokenizer #Embedding

2026-06-26 · AI

0. 先看结论 LLM 使用 Q/K/V，不是因为三个字母神秘，而是因为 attention 本质上在做一次“可微的内容检索”： 123Query 负责提问Key 负责匹配Value 负责提供内容放进 Transformer 里就是： \[ \mathrm{Attention}(Q,K,V) =\mathrm{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\rig...

#LLM #Transformer #attention #QKV

2026-06-22 · AI

Scaled Dot-Product Attention 详解

0. 先看结论 Scaled Dot-Product Attention 的公式是： \[ \mathrm{Attention}(Q,K,V)=\mathrm{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V \] 它做了三件事：用 \(QK^T\) 算“当前位置和其他位置有多相关”。除以 \(\sqrt{d_k}\)，把分数压回稳定范围。用 so...

#LLM #Transformer #attention #deep-learning

2026-06-16 · AI

Softmax 的来历与 LLM 应用

0. 先看结论 Softmax 做的事很直接：把一组分数变成概率分布。它的思想可追溯到统计物理里的 Boltzmann/Gibbs 分布，后来进入选择理论、统计学习和神经网络。到了 LLM 里，最常见的是两个位置：输出层：把模型对所有 token 的打分 logits 变成“下一个 token 的概率”。注意力层：把 query 和 key 的相似度分数变成“该看哪些上下文 token 的权...

#attention #deep-learning #llm #math #softmax

2026-06-15 · 技术

《LLM Deep Learning》—— 从零写代码，搭一套工业级大语言模型工程

课程仓库: https://github.com/garry-x/llm-course 本地阅读: clone 后 ./serve.sh serve 启动，默认 http://localhost:8080 状态: 持续更新中，本文基于 2026-06-15 的 commit e3e2b08（345 commits）一句话定位这是一门 code-first 的 LLM 实战课：不用调 API、...

#LLM #大模型 #课程 #PyTorch #深度学习

2026-06-08 · 数学

向量的几何：减法、点积与距离

向量是线性代数的基石。很多人熟悉向量加法的平行四边形法则，却对减法、点积和距离之间的深层联系感到模糊。本文用几何图解和代数公式，帮你建立从向量减法到点积相似度、再到距离度量的完整直觉。一、从代数到几何设平面向量 \[ \vec{a} = (a_x,\ a_y), \quad \vec{b} = (b_x,\ b_y) \] 则减法的代数定义很直接： \[ \vec{a} - \vec{b} =...

#向量 #线性代数 #几何 #点积 #相似度

2023-01-12 · 虚拟化

KVM API 简介

以下笔记来自阅读：https://www.kernel.org/doc/Documentation/virtual/kvm/api.txt 1. 基本描述 KVM API 本质上是为了控制虚拟机的方方面面而下发的一组ioctl，这些ioctl可以划分为四类： - system ioctl：对影响整个KVM系统的属性进行查询或设置。创建虚拟机就是其中的一个系统ioctl。 - vm ioctl...

#KVM

2022-08-31 · 会议论文

阿里云SIGCOMM22论文阅读

阿里云在今年的网络顶会SIGCOMM上发表了一篇论文："From Luna to Solar: The Evolutions of the Compute-to-Storage Networks in Alibaba Cloud"。该文章介绍了阿里云在EBS存储的应用背景下，计算节点和存储节点间网络通信的演进过程。由于文中介绍的网络架构已经在阿里云内部大范围应用，对于同样提供EBS服务的云厂商来...

2022-03-23 · 体系结构

x86指令集架构

以下笔记来自阅读：x86 Instruction Set Architecture - MindShare 本文以Intel处理器作为阐述目标。AMD处理器差异点可以参考: Agner Fog Microarchitecture 在“指令集架构 "一文中，我们粗略介绍了指令集架构的分类、寻址、操作、编码等7个方面的内容。下面我们对服务器及PC中使用最广泛的x86指令集架构做详细介绍...

#x86