边际效应

2025

• AI：刷新 32 张 L40S 运行 DeepSeek-R1-INT8 的性能数据

  3月22日

• AI：使 SGLang 支持在 32 张 L40S 上运行 DeepSeek-R1

  3月17日

• AI：理解 FlashMLA 在 DeepSeek MLA 计算过程中的位置和作用

  3月08日

• AI：2 行代码校验大模型（如DeepSeek-R1）权重文件下载完整性

  2月24日

• AI：单机 KTransformers 运行 DeepSeek-R1-GGUF 4 bit 量化模型 Q4_K_M 实测

  2月18日

• AI：DeepSeek-V3 MTP 工程实现思考

  2月14日

• AI：DeepSeek 官方修正了 V3 的激活参数量说明

  2月08日

• AI：LLM PD 分离背后的架构问题

  2月07日

• AI：DeepSeek V3 模型各子模块参数量精算

  1月12日

• AI：DeepSeek V3：AI 大模型 infra 基建新高度

  1月03日

2024

• 悟忆行知：技术领导的杠杆和支点

  12月23日

• 悟忆行知：长期主义和高认知闭合

  11月23日

• AI：应该把 Prefix Caching 当作一种效果优化技术

  10月19日

• 悟忆行知：北京－山西长城1号路、黄河1号路1600公里自驾游

  9月27日

• 算法：Google Search 淘气三千问: Q7~Q9

  8月24日

• 算法：Google Search 淘气三千问: Q6

  8月18日

• 基础架构：Google Search 淘气三千问：Q1～Q5

  8月17日

• AI：估值最高的 AI 搜索独角兽 Perplexity 使用倒排索引做 RAG

  8月13日

• AI：LLM 推理优化 Prefix Caching 及其实现

  4月25日

• AI：LLM 推理优化 Continuous Batching 及其实现

  4月05日