本地跑大模型和做推理引擎的人都知道,最近两年 W4A4 低精度量化最爱玩基底变换(Hadamard 旋转 + 通道缩放)来压异常值。但主流方案为了省掉推理时的在线旋转,非要把激活变换矩阵沿着计算图往前传、吸收进前序层和残差分支——结果每出一个新模型架构(MoE、GQA、混合注意力、DiT)就得重新痛苦适配一遍,量化大尺寸模型时显存更是直接爆表。
华为苏黎世计算系统实验室刚发的 MACaQ 把这个死结一刀解开了:放弃跨层吸收,直接把轻量的逐通道缩放和分块 Hadamard 变换留在每个线性层入口在线执行,逆变换离线吸收进本层权重,再配一套 Hessian 感知的 Flip-Refinement 逐码位翻转精修。
用这笔看似退一步的设计,换来了四个实打实的工程暴击:
1. 32.5GB 显存 64 分钟量化完 122B 模型
因为层与层之间零耦合,量化过程彻底变成流式流水线——GPU 显存里永远只需要加载当前这一层。以前得凑一机八卡才能跑动的百亿级校准量化,现在一张 32G 级显卡一小时收工。
2. 在线开销仅 2.3%,量化速度快 11 倍
线性层越大,矩阵乘耗时占比越高,入口处 O(N log N) 的分块 Hadamard 开销就被彻底摊薄了。在 vLLM 上跑 Qwen3-32B MXFP4 W4A4,端到端解码仅慢 2.3%;而在 Llama-3-8B 上,花 1/11 的量化时间 就追平了 DuQuant++ 和 MR-GPTQ 的最高精度。
3. 社区 GGUF 实测反超 Unsloth 23.5%
论文刚出,LocalLLaMA 社区已经有人把它搬进了 llama.cpp 做成 IQ4_XS GGUF:在模型文件体积比主流版本略小的前提下,实测输出分布的 平均 KL 散度比 Unsloth 低 23.5%,比 Bartowski 低 18.6%。
4. 零代码魔改通吃 LLM 与文生图扩散模型
不挑架构意味着是个 Linear 层就能直接上。原封不动套在 FLUX.2-klein-4B 图像生成模型上跑 MXFP4 W4A4,PSNR/SSIM 与画面纹理细节直接压过了官方发布的 NVFP4 权重。
三一一三机 retweeted
Replying to @Corrine4o @gina21222423624
在泰国,普通人面见君主要行五体投地的匍匐礼,比单膝下跪更麻烦且更显示等级差别。另外泰国妄议君主的礼仪是挑战权威,警察是可以因为冒犯君主罪逮捕他们的。我真搞不懂这群泰国人是真不怕死,还是他们压根不尊重自己国家的君主和法律。😂
三一一三机 retweeted
【大切なお知らせ】
突然のご報告となりますが、ご遺族のご了承をいただき長年の友人である私からご報告申し上げます。
kanone(@kanone_alcoholi) は2026年9月に逝去されました。
生前、故人に賜りましたご厚情に深く感謝申し上げますとともに、謹んで哀悼の意を表します。
三一一三机 retweeted
Replying to @S8am88888 @jokieliu
和他们这群泛泰主义者对骂之后。我发现他们让外国人保持礼仪而自己面对君主则不用行匍匐礼的说法,荒唐得真是把所有人都不尊重了。
三一一三机 retweeted
Today, the promises of transhumanism and posthumanism are multiplying. These are ideological currents according to which, sooner or later, technology will eliminate all disease and pain, as well as aging and even death itself. Precisely because scientific progress is a supreme achievement of human intelligence, it must not be confused with a privilege reserved for millionaires seeking immortality, while entire peoples suffer from poverty and oppression. In the face of this mirage, which promotes the illusion of human beings perfected by cybernetics and biotechnology, Christian anthropology reminds us that a limitation is not a manufacturing defect, but rather the very condition of human grandeur. #ApostolicJourney #Peru #MagnificaHumanitas vatican.va/content/leo-xiv/e…
三一一三机 retweeted
NVIDIA announces CEO transition. Read the release: nvidianews.nvidia.com/news/n…
不得不说美国人玩金融,全世界没有比他们更专业的。
00年第一次玩供应链金融,赤裸裸能看见风险。于是泡沫破裂,北电朗讯世通都归西了。
08年玩次级房贷和卖CDS,结果AIG敞口打到可以摧毁金融系统。
这次更是00年加08年,SPV层层转包隐藏债务和风险,财务报表里根本看不到风险。
Replying to @Z04_A1
等泡沫彻底破裂,我认为选择性信息披露和滥用会计估计变更可以通过股民集体民事诉讼索赔的方式得到维权,即便没有违反具体细则,但我理解至少违反了会计和信息披露的指引性原则。





























