按标签查看文章: transformers

大语言模型：基础与实践

了解语言模型、LLM、tokens、instruct 版本和多模态。在 Colab 中实际启动 Qwen，适用于开发者。开始使用开源模型进行实验。

提示缓存 LLM：KV 缓存便宜 10 倍

提示缓存详解：OpenAI 和 Anthropic 如何缓存 KV attention 以降低成本和延迟。开发者的技术细节，推理示例。加速您的 LLM 查询。

Transformer 中的自注意力与多头机制

注意力机制详解：自注意力、交叉注意力、多头机制，附示例和 PyTorch 代码。AI 开发者的理论、数学与实践。学习缩放点积注意力。

神经网络与乘法：Transformer 中的 SwiGLU

分解为什么感知器不会进行乘法以及 SwiGLU 如何解决问题。公式、基准测试、在 LLM 中的应用。适用于中高级开发者。