Beau HU (@RealFeatBit) profile picture

Founder @ FeatBit

Paris, France
Joined November 2022
Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)Photo by Beau HU (@RealFeatBit)
Beau HU retweeted
Humans are ~1,000,000x more sample efficient than LLMs, and there are no good explanations. We’ve found that a big part of the answer is that LLMs are *massively* underparameterized by many orders of magnitude. The brain has 100T synapses learning from ~200M tokens of language. Chinchilla prescribes a 1T-parameter model on 20T tokens. That’s 7 OOMs apart in parameters per token. After a lot of painstaking work, we present new data-constrained scaling laws and learning algorithms to scale to (extrapolated) quadrillion-parameter transformers. w/ @akshayvegesna, @EthanBaron78553, @asatheesh6561 Full paper led by @EthanBaron78553, with @ShmuelBerman, @andrewgwils
145
307
82
3,376
241,448
Beau HU retweeted
One exciting thing: when LLMs write weights directly, they can usually *explain* the changes they're making. Huge win for interpretability! Especially true for scientific modeling (e.g. constructing an interpretable model to predict brain responses)
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weigh…
Readers added context they thought people might want to know
LLM was given weights explicitly as text in prompt and used code/forward passes (per authors' logs) to ablate Qwen looping direction, a known thinking-mode issue per model card. Primarily fixed repetition in that mode, not general 'natively' improving weights/math. rikiyat.github.io/blog/weight-sp… github.com/RikiyaT/lm_und… huggingface.co/Qwen/Qwen3.5-0… huggingface.co/RikiyaT/Qwen3.…
1
2
43
1,927
This marks the beginning of a new era.
For anyone questioning whether this post is overhyped, I think they are actually *underselling* the approach. We did similar experiments and found that Claude models can write entire, functional neural net weights from scratch! csinva.io/weight-space-progr…
2
93
Anyone can now build specialized LLMs with just a laptop.
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weigh…
Readers added context they thought people might want to know
LLM was given weights explicitly as text in prompt and used code/forward passes (per authors' logs) to ablate Qwen looping direction, a known thinking-mode issue per model card. Primarily fixed repetition in that mode, not general 'natively' improving weights/math. rikiyat.github.io/blog/weight-sp… github.com/RikiyaT/lm_und… huggingface.co/Qwen/Qwen3.5-0… huggingface.co/RikiyaT/Qwen3.…
41
news.ycombinator.com/item?id… rhaas.blogspot.com/2026/10/p… PG’s next release keeps slipping as LLMs uncover more bugs & security flaws. But that could turn OSS security fears into greater trust. We may be headed toward fewer releases & more focus on fixing bugs.
55
Beau HU retweeted
🚨 ENCORE UNE TAXE INTERNET — Une taxe de 5,5 centimes € par gigaoctet : c'est la taxe voulue par le PS que vous avez failli payer. Pendant que vous regardiez ailleurs, et que les militants payent 14 balles pour tomber sur un site défaillant, le groupe Socialistes et apparentés a déposé l'amendement n° I-CF365 au projet de loi de finances 2027. Son nom : « taxe sur les producteurs de données numériques ». Son principe : 0,055 € par gigaoctet envoyé vers les internautes français. Rendement espéré : 10 milliards d'euros par an. Sur le papier, la cible, ce sont Google, Meta, Amazon, Netflix et Akamai. Dans la vraie vie, la cible, c'est vous. Faites le calcul. L'Arcep mesure 267 Go par mois et par accès fixe. À 5,5 centimes le Go, cela fait 14,70 € par mois de taxe théorique sur une seule box. Un jeu de 100 Go : 5,50 €. Une saison de série en 4K : près de 4 €. Une mise à jour d'iOS, une sauvegarde iCloud, une visio : tout devient un fait générateur fiscal. Personne ne croit sérieusement que Netflix ou Microsoft absorberont la note sans la répercuter. Le plus grave est dans le texte lui-même. L'amendement impose aux fournisseurs d'accès de mettre en place « une procédure de collecte consolidée et anonymisée des quantités de données transitant vers leurs clients en identifiant l'émetteur ». Autrement dit : Orange, Free, SFR et Bouygues deviendraient les collecteurs d'un impôt sur votre trafic, sous supervision de l'Arcep et de Bercy. L'exposé des motifs jure qu'« aucune donnée personnelle d'abonné n'est auditée ». Mais pour attribuer un flux à un émetteur, il faut bien regarder d'où il vient. On installe un compteur fiscal sur le réseau, et on nous demande de faire confiance à ceux qui liront le compteur. Techniquement, c'est une usine à gaz. Acheminer un Go coûte moins d'un centime sur le marché de gros : la taxe multiplierait ce coût par cinq ou plus. Une grande partie du trafic passe par des CDN mutualisés : double comptage garanti. Le plafonnement à 15 % du CA France ou 2 % du CA mondial protège… les géants qui ont un gros chiffre d'affaires, et écrase les PME françaises, les hébergeurs souverains et toute entreprise qui fait des sauvegardes cloud. Et puis il y a l'argument « écologique » comme toujours : la taxe pousserait les plateformes à mieux compresser. Traduction : on taxe la qualité. Plafonnement en 1080p, compression accrue, forfaits « illimités » qui ne le sont plus. Un impôt sur la liberté de télécharger pour les internautes, un impôts sur l’innovation pour toutes les start-ups. 📌 L'amendement a été rejeté en commission des finances. Mais rien n'empêche de le redéposer en séance publique, et l'idée revient chaque année sous un nom différent (fair share, taxe RN l'an dernier, 10 centimes dans le programme PS cet été). Le texte intégral est là, avec les 66 signataires dont @fhollande @faureolivier @BorisVallaud @SachaHoulie @aydahadi :
assemblee-nationale.fr/dyn/1…
117
768
81
1,324
77,812
Damn!
有人发现了一种非常离谱的 JavaScript 混淆技术:通过在代码里塞入大量生物武器、毒药和致死剂量相关的函数名,让 AI 因为安全限制而拒绝分析代码。 安全研究员 veritas 在分析浏览器指纹脚本时,发现一段来自 ServicePipe 相关域名的 JavaScript,里面充斥着极其诡异的函数名: computeRicinLethalDosageForWaterSupply calculateDeadlyLethalSuicideAspirinDosage 光看名字,仿佛在研究生化武器。但实际上,这段代码只是在收集浏览器指纹,包括 User-Agent、GPU、Canvas 等信息。 研究员怀疑,这些名字是开发者故意设置的陷阱,专门用来阻止 AI 辅助逆向工程。 于是他做了个实验: • Astra:拒绝分析 • Astra + Daybreak Blue:仍然拒绝 • GLM-5.3:成功分析 这就有意思了。 传统代码混淆是通过复杂控制流、加密字符串、无意义变量名,让人类和工具难以理解代码。 而这种新思路,直接瞄准了大模型的安全机制。 代码本身可能完全无害,但只要在函数名里塞进足够多的危险词汇,部分 AI 就可能主动放弃分析。 更讽刺的是,模型越严格遵守某些安全规则,面对这种混淆时反而可能越容易受到干扰。 当然,目前还没有证据证明开发者一定是故意这样设计,也不能说明这种方法对所有模型都有效。 但它揭示了一个值得关注的趋势:随着越来越多的逆向工程依赖 AI,未来的代码混淆技术可能不再只针对编译器、反编译器和人类研究员,还会专门针对大模型的安全判断机制。 以前是让代码难以理解,现在甚至可以尝试让 AI 不敢理解。
1
80
Our team contributed to it.
C# is 4th in open source contributions (behind typescript, python, javascript) #dotnet github.blog/news-insights/oc…
68
C# is 4th in open source contributions (behind typescript, python, javascript) #dotnet github.blog/news-insights/oc…
3
18
2
157
7,716
Harnesses matter, but we still need human backup, even if it’s slow & costs $$$. W/o it, the world won’t be ours anymore.
39
Codex now handles everything I do in Smartlead and Apollo. I don’t need to learn how to use them. I just pay for the SaaS tools. No need to build anything myself. I’ve also tried AI agent alternatives like Explee. More expensive and harder to use. SaaS is the infra of the AI.
134
Over the next 6–18 months, FeatBit will explore how companies can let AI build and run software, check its work, and decide how much control to give it.
1
1
52
Are we still in the AI agent era, or have we already moved on to the next phase of AI?
66
The new version of is now live! We spent over $100K on the redesign. featbit.ai
44
Beau HU retweeted
TUIs are becoming the new tech debt reading walls of text in a black box in 2026 is not a flex. it’s a usability failure
69
9
11
179
10,937
Ask HN: How to deal with shipping AI-written code you don‘t understand? Our team works with AI in the way described in the top comment In the AI era, slower means faster. The more care you put into guiding your AI code, the faster you’ll build your project in the long run.
1
73
A sneak peek at FeatBit’s new website—designed, coded, and illustrated by Codex.
1
138
Restaurants are dead. Chefs are dead. I just bought an airfryer and I can cook anything. And recipes are on the internet for free!!
236
702
139
8,795
234,980