边际效应

2024

• AI：应该把 Prefix Caching 当作一种效果优化技术

  10月19日

• 悟忆行知：北京－山西长城1号路、黄河1号路1600公里自驾游

  9月27日

• 算法：Google Search 淘气三千问: Q7~Q9

  8月24日

• 算法：Google Search 淘气三千问: Q6

  8月18日

• 基础架构：Google Search 淘气三千问：Q1～Q5

  8月17日

• AI：估值最高的 AI 搜索独角兽 Perplexity 使用倒排索引做 RAG

  8月13日

• AI：LLM 推理优化 Prefix Caching 及其实现

  4月25日

• AI：LLM 推理优化 Continuous Batching 及其实现

  4月05日

• AI：Logits of API-Protected LLMs Leak Proprietary Information

  3月19日

• 编程：怎么用向量指令计算多个元素尾部 0 的个数？

  3月08日

• AI：在 LLM 时代我们是否还需要倒排索引？

  3月06日

2023

• AI：配置 dcgmi 遇到的问题

  12月12日

• AI：GPT-2 Tokenizer 效率观察

  3月27日

• AI：GPT-4 的 Bits Per Word 指标是什么意思

  3月24日

• 悟忆行知：2022 年 12 月

  1月02日

2022

• 悟忆行知：北京—内蒙赤峰克什克腾旗1800公里自驾游

  8月13日

• 悟忆行知：儿子给的虎年春节红包

  2月01日

2021

• 编程：用 ARM NEON 实现 _mm_movemask_epi8 的几种方法

  6月23日

• 趣谈哈希表优化：从规避 Hash 冲突到利用 Hash 冲突

  2月25日

2020

• AI：使 Netron 支持 PaddlePaddle 模型子图显示

  9月09日