发布于 2025-10-04
摘要
本文是对 Delta Rule 背后的数学推导的重新梳理。其实 DeltaNet 原文已经讲得很清楚了,但是有点乱,在这里从我的思 …
本文是对 Delta Rule 背后的数学推导的重新梳理。其实 DeltaNet 原文已经讲得很清楚了,但是有点乱,在这里从我的思 …
尝试新开一个系列,用于记录短期的论文阅读,包括对论文内容的快速总结和部分细节、发展背景的整理,以及一些个人的思考。如果能够形成一个 …
本篇写于八月中上旬在甘肃、青海一带旅行的途中,首发于知乎。中国真的是地大物博,甘肃青海一带每两个目的地的距离都在百公里以上,一天有 …
本文是对于 Zoology 及其前作 Hyena 架构的整理。这两篇论文均在 Hazy Research 上有一份报告,以及相应的 …
众所周知,LLM 的激活值因为异常值的存在而难以量化。2022年的时候,SmoothQuant 提出使用一个可调节的系数矩阵将量化 …
Chapter 1: Probabilistic Reasoning 概率记号 概率表示中存在很多公认的缩写或者记号变体。比如: …
代码仓库:https://github.com/Undermyth/bci-p1/ 1. tuning curve 绘制 1.1 …
主要的依据是这篇文章。阅读的主要目的是明白 Variational Inference 到底是怎么用法,什么时候用。有关 VAE …