三一一三机 (@TriangleRptr) header
三一一三机 (@TriangleRptr) profile picture

山雨欲来风满楼,重楼千嶂更牵瘴

Twit HQ
Joined July 2018
Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)
三一一三机 retweeted
本地跑大模型和做推理引擎的人都知道,最近两年 W4A4 低精度量化最爱玩基底变换(Hadamard 旋转 + 通道缩放)来压异常值。但主流方案为了省掉推理时的在线旋转,非要把激活变换矩阵沿着计算图往前传、吸收进前序层和残差分支——结果每出一个新模型架构(MoE、GQA、混合注意力、DiT)就得重新痛苦适配一遍,量化大尺寸模型时显存更是直接爆表。 华为苏黎世计算系统实验室刚发的 MACaQ 把这个死结一刀解开了:放弃跨层吸收,直接把轻量的逐通道缩放和分块 Hadamard 变换留在每个线性层入口在线执行,逆变换离线吸收进本层权重,再配一套 Hessian 感知的 Flip-Refinement 逐码位翻转精修。 用这笔看似退一步的设计,换来了四个实打实的工程暴击: 1. 32.5GB 显存 64 分钟量化完 122B 模型 因为层与层之间零耦合,量化过程彻底变成流式流水线——GPU 显存里永远只需要加载当前这一层。以前得凑一机八卡才能跑动的百亿级校准量化,现在一张 32G 级显卡一小时收工。 2. 在线开销仅 2.3%,量化速度快 11 倍 线性层越大,矩阵乘耗时占比越高,入口处 O(N log N) 的分块 Hadamard 开销就被彻底摊薄了。在 vLLM 上跑 Qwen3-32B MXFP4 W4A4,端到端解码仅慢 2.3%;而在 Llama-3-8B 上,花 1/11 的量化时间 就追平了 DuQuant++ 和 MR-GPTQ 的最高精度。 3. 社区 GGUF 实测反超 Unsloth 23.5% 论文刚出,LocalLLaMA 社区已经有人把它搬进了 llama.cpp 做成 IQ4_XS GGUF:在模型文件体积比主流版本略小的前提下,实测输出分布的 平均 KL 散度比 Unsloth 低 23.5%,比 Bartowski 低 18.6%。 4. 零代码魔改通吃 LLM 与文生图扩散模型 不挑架构意味着是个 Linear 层就能直接上。原封不动套在 FLUX.2-klein-4B 图像生成模型上跑 MXFP4 W4A4,PSNR/SSIM 与画面纹理细节直接压过了官方发布的 NVFP4 权重。
5
27
1
141
9,973
三一一三机 retweeted
在泰国,普通人面见君主要行五体投地的匍匐礼,比单膝下跪更麻烦且更显示等级差别。另外泰国妄议君主的礼仪是挑战权威,警察是可以因为冒犯君主罪逮捕他们的。我真搞不懂这群泰国人是真不怕死,还是他们压根不尊重自己国家的君主和法律。😂
1
35
三一一三机 retweeted
汉人现在稍微有了一点民族自信就被花式泼上“不团结”“分裂”“极端”“汉奸”“坏逼”“在复兴关键节点搞事”这样的脏水
因为整天耻辱教育 课本上全是受了多大的委屈 多少的屈辱 给人整的自卑的不行 从不强调汉族 没有民族认同感 但凡有土耳其1%的心态呢 被打出屎来了DNA都对不上了还能很自豪 用ai做点历史爽剧 现在都给整改了
6
10
232
2,580
三一一三机 retweeted
Some of the hate for android is deeply rooted in classism
696
17,018
940
160,095
1,236,170
三一一三机 retweeted
iPhoneに搭載する前 「Androidって簡易顔認証でしょ?笑セキュルティ終わってるね笑さすがAndroid笑顔の写真やるだけで解除できるじゃん笑iPhoneは絶対搭載しないよ笑 搭載した後 え‼️Apple凄い‼️どうなってんの⁉️ついに来たか‼️顔と指紋両方⁉️スゴすぎ‼️ ってなるんやろなぁ...笑
【Duoで顔認識】 iOS 27.3ベータで簡易Face IDが搭載され、ロック解除が楽になった! 速い! 但しロック解除のみです!
22
109
11
1,091
83,909
【大切なお知らせ】 突然のご報告となりますが、ご遺族のご了承をいただき長年の友人である私からご報告申し上げます。 kanone(@kanone_alcoholi) は2026年9月に逝去されました。 生前、故人に賜りましたご厚情に深く感謝申し上げますとともに、謹んで哀悼の意を表します。
11,570
3,088
16,534
2,734,728
三一一三机 retweeted
Replying to @S8am88888 @jokieliu
和他们这群泛泰主义者对骂之后。我发现他们让外国人保持礼仪而自己面对君主则不用行匍匐礼的说法,荒唐得真是把所有人都不尊重了。
2
1
1
65
三一一三机 retweeted
Replying to @abc_alliebabu
行了吧你就是个假泰国人,根本不懂泰国人的忠君爱国传统。请各位注意,不要给这种吃流量的画皮费半句话了
1
1
39
三一一三机 retweeted
Replying to @abc_alliebabu
你敢试试在你面见你们的国王的时候不行五体投地礼仪试试。让一个外国人教导你这种宫廷礼仪真是显得你无知而令人羞耻。
1
1
1
53
泰语巨魔真是毫无战斗力
ประวัติศาสตร์ที่ประเทศคุณมั่วขึ้นเองหรอ ไม่เสียเวลาหรอก
1
95
王佐费拉化的一大主要原因就是网上汴京和研究得越多,巩固资产阶级的反动再生产越厉害,最后理论因失去正向实践的科学性变得意识形态空洞化,传导到表面则是言语费拉化。另一面,这样从而很简单就能逆向解读最新潮酷的剥削方式是什么。
48
三一一三机 retweeted
when u read marx its like damn this nigga is so obviously right i see why they was tryna kill everybody who read this
364
12,701
236
150,372
2,871,661
三一一三机 retweeted
Today, the promises of transhumanism and posthumanism are multiplying. These are ideological currents according to which, sooner or later, technology will eliminate all disease and pain, as well as aging and even death itself. Precisely because scientific progress is a supreme achievement of human intelligence, it must not be confused with a privilege reserved for millionaires seeking immortality, while entire peoples suffer from poverty and oppression. In the face of this mirage, which promotes the illusion of human beings perfected by cybernetics and biotechnology, Christian anthropology reminds us that a limitation is not a manufacturing defect, but rather the very condition of human grandeur. #ApostolicJourney #Peru #MagnificaHumanitas vatican.va/content/leo-xiv/e…
1,714
8,844
1,966
69,019
4,861,505
亲一个嘴就变成如此指控,美国人不是以open著称吗
黄仁勋和 Nvidia 医疗保健副总裁48岁的金伯利·鲍威尔亲密照片也释出来了,看来这急着这两天就把黄仁勋赶出英伟达了。
Readers added context they thought people might want to know
帖文附图为明显合成假照,并非真实释出的亲密照片。媒体报道称基于匿名来源两人曾在酒店被拍到亲密互动视频,但纽约时报等未看到该视频,且无公开照片发布。 businessinsider.com/kimberly-powel… newsweek.com/who-is-kimberl…
2
356
做梦都想发赚死人钱的来了
如果这是预期, 就是买点, 如果最后发展成事实, 那中国半导体将迎来下一批国军支援.
44
X/推特放开跨过跨区互动后,认证、推荐、变现和跨圈曝光规则一起变,等于把各茧房原来的流量权重因子重新洗了一遍。 旧关系贬值、买量和矩阵的边际收益直线上升,原本满夷和夹头互斗流量下去。收蓝的钱的部分服务业媒体矩阵的“恶臭”会先扑面而来。
3
70
witch hunt 是美国的传统技能
3
3
901
民主党的媒体造的负面谣言越多说明吃英伟达胜算越小
25
三一一三机 retweeted
静下心来
17
13
205
7,163