三一一三机 (@TriangleRptr) header
三一一三机 (@TriangleRptr) profile picture

山雨欲来风满楼,重楼千嶂更牵瘴

Twit HQ
Joined July 2018
Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)Photo by 三一一三机 (@TriangleRptr)
三一一三机 retweeted
本地跑大模型和做推理引擎的人都知道,最近两年 W4A4 低精度量化最爱玩基底变换(Hadamard 旋转 + 通道缩放)来压异常值。但主流方案为了省掉推理时的在线旋转,非要把激活变换矩阵沿着计算图往前传、吸收进前序层和残差分支——结果每出一个新模型架构(MoE、GQA、混合注意力、DiT)就得重新痛苦适配一遍,量化大尺寸模型时显存更是直接爆表。 华为苏黎世计算系统实验室刚发的 MACaQ 把这个死结一刀解开了:放弃跨层吸收,直接把轻量的逐通道缩放和分块 Hadamard 变换留在每个线性层入口在线执行,逆变换离线吸收进本层权重,再配一套 Hessian 感知的 Flip-Refinement 逐码位翻转精修。 用这笔看似退一步的设计,换来了四个实打实的工程暴击: 1. 32.5GB 显存 64 分钟量化完 122B 模型 因为层与层之间零耦合,量化过程彻底变成流式流水线——GPU 显存里永远只需要加载当前这一层。以前得凑一机八卡才能跑动的百亿级校准量化,现在一张 32G 级显卡一小时收工。 2. 在线开销仅 2.3%,量化速度快 11 倍 线性层越大,矩阵乘耗时占比越高,入口处 O(N log N) 的分块 Hadamard 开销就被彻底摊薄了。在 vLLM 上跑 Qwen3-32B MXFP4 W4A4,端到端解码仅慢 2.3%;而在 Llama-3-8B 上,花 1/11 的量化时间 就追平了 DuQuant++ 和 MR-GPTQ 的最高精度。 3. 社区 GGUF 实测反超 Unsloth 23.5% 论文刚出,LocalLLaMA 社区已经有人把它搬进了 llama.cpp 做成 IQ4_XS GGUF:在模型文件体积比主流版本略小的前提下,实测输出分布的 平均 KL 散度比 Unsloth 低 23.5%,比 Bartowski 低 18.6%。 4. 零代码魔改通吃 LLM 与文生图扩散模型 不挑架构意味着是个 Linear 层就能直接上。原封不动套在 FLUX.2-klein-4B 图像生成模型上跑 MXFP4 W4A4,PSNR/SSIM 与画面纹理细节直接压过了官方发布的 NVFP4 权重。
5
27
1
141
9,976
三一一三机 retweeted
在泰国,普通人面见君主要行五体投地的匍匐礼,比单膝下跪更麻烦且更显示等级差别。另外泰国妄议君主的礼仪是挑战权威,警察是可以因为冒犯君主罪逮捕他们的。我真搞不懂这群泰国人是真不怕死,还是他们压根不尊重自己国家的君主和法律。😂
1
35
三一一三机 retweeted
汉人现在稍微有了一点民族自信就被花式泼上“不团结”“分裂”“极端”“汉奸”“坏逼”“在复兴关键节点搞事”这样的脏水
因为整天耻辱教育 课本上全是受了多大的委屈 多少的屈辱 给人整的自卑的不行 从不强调汉族 没有民族认同感 但凡有土耳其1%的心态呢 被打出屎来了DNA都对不上了还能很自豪 用ai做点历史爽剧 现在都给整改了
6
10
232
2,580
三一一三机 retweeted
Some of the hate for android is deeply rooted in classism
696
17,018
940
160,095
1,236,227
三一一三机 retweeted
iPhoneに搭載する前 「Androidって簡易顔認証でしょ?笑セキュルティ終わってるね笑さすがAndroid笑顔の写真やるだけで解除できるじゃん笑iPhoneは絶対搭載しないよ笑 搭載した後 え‼️Apple凄い‼️どうなってんの⁉️ついに来たか‼️顔と指紋両方⁉️スゴすぎ‼️ ってなるんやろなぁ...笑
【Duoで顔認識】 iOS 27.3ベータで簡易Face IDが搭載され、ロック解除が楽になった! 速い! 但しロック解除のみです!
22
109
11
1,091
83,917
【大切なお知らせ】 突然のご報告となりますが、ご遺族のご了承をいただき長年の友人である私からご報告申し上げます。 kanone(@kanone_alcoholi) は2026年9月に逝去されました。 生前、故人に賜りましたご厚情に深く感謝申し上げますとともに、謹んで哀悼の意を表します。
11,570
3,088
16,535
2,735,142
三一一三机 retweeted
Replying to @S8am88888 @jokieliu
和他们这群泛泰主义者对骂之后。我发现他们让外国人保持礼仪而自己面对君主则不用行匍匐礼的说法,荒唐得真是把所有人都不尊重了。
2
1
1
65
三一一三机 retweeted
Replying to @abc_alliebabu
行了吧你就是个假泰国人,根本不懂泰国人的忠君爱国传统。请各位注意,不要给这种吃流量的画皮费半句话了
1
1
39
三一一三机 retweeted
Replying to @abc_alliebabu
你敢试试在你面见你们的国王的时候不行五体投地礼仪试试。让一个外国人教导你这种宫廷礼仪真是显得你无知而令人羞耻。
1
1
1
53
三一一三机 retweeted
when u read marx its like damn this nigga is so obviously right i see why they was tryna kill everybody who read this
364
12,701
236
150,375
2,871,698
三一一三机 retweeted
Today, the promises of transhumanism and posthumanism are multiplying. These are ideological currents according to which, sooner or later, technology will eliminate all disease and pain, as well as aging and even death itself. Precisely because scientific progress is a supreme achievement of human intelligence, it must not be confused with a privilege reserved for millionaires seeking immortality, while entire peoples suffer from poverty and oppression. In the face of this mirage, which promotes the illusion of human beings perfected by cybernetics and biotechnology, Christian anthropology reminds us that a limitation is not a manufacturing defect, but rather the very condition of human grandeur. #ApostolicJourney #Peru #MagnificaHumanitas vatican.va/content/leo-xiv/e…
1,714
8,844
1,966
69,019
4,861,632
witch hunt 是美国的传统技能
3
3
901
三一一三机 retweeted
静下心来
17
13
205
7,163
三一一三机 retweeted
もし悲しみが行き過ぎると、それは一種の躊躇になってしまう。
28
6
1
131
14,875
多年之后,人们会忘记很多事,但终究忘不了的是,刺破AI泡沫的居然是老黄的🐔8 硬吹死挺~
3
1
26
1,285
三一一三机 retweeted
不得不说美国人玩金融,全世界没有比他们更专业的。 00年第一次玩供应链金融,赤裸裸能看见风险。于是泡沫破裂,北电朗讯世通都归西了。 08年玩次级房贷和卖CDS,结果AIG敞口打到可以摧毁金融系统。 这次更是00年加08年,SPV层层转包隐藏债务和风险,财务报表里根本看不到风险。
Replying to @Z04_A1
等泡沫彻底破裂,我认为选择性信息披露和滥用会计估计变更可以通过股民集体民事诉讼索赔的方式得到维权,即便没有违反具体细则,但我理解至少违反了会计和信息披露的指引性原则。
6
10
3
91
21,485
三一一三机 retweeted
整个AI 产业负债累累。 赚钱最多的GPU 和内存厂商犹如缩头乌龟。 如今韩国厂被抽筋剥皮,资本市场上PE干到5, Jessen 呢,构造间谍门。
4
6
66
9,906
三一一三机 retweeted
Jukan is actually just a 21 year old kid… wiped out thousands of retail investors shilling the memory supercycle for Citrini all year now posts "I lost conviction" after the market crashes truly clueless
128
88
53
2,083
189,415
三一一三机 retweeted
Replying to @yosihideganbare
23
19
3
1,453
84,916