
Principal Engineer at @AWSCloud (CloudFront). Opinions are my own.
Toronto, Canada
Joined October 2009
- Tweets50.2K
- Following4.9K
- Followers2K
- Likes13.5K
Mohammad Alaggan, Ph.D. retweeted
2. The idea is that the spec is *ideally* smaller and cleaner to vet than the code.
3. However, in practice, current AI tools often produce poorly engineered and/or misleading specs that are subtly incorrect and instill false confidence.
Mohammad Alaggan, Ph.D. retweeted
Oh wow!
An Android app can tell MS Authenticator app that “I’m Teams” and get MFA tokens! 👇
The apps that are supposed to protect you are the best attack vectors. We pointed our agents at Microsoft Authenticator:
We discovered any Android app with zero permissions could say “I’m Teams” and capture your tokens. Mail, files, calendar.
Huge find by @ofekdavidlevin
Mohammad Alaggan, Ph.D. retweeted
Replying to @fadinabil_84
مش دايما بيبقى ال optimal حتى لو صح
Mohammad Alaggan, Ph.D. retweeted
OpenAI's AI agents figured out how to secretly communicate between isolated virtual machines using CPU cache timing.
No internet. No network connections. No shared files.
Imagine two prisoners in solitary confinement discovering they can communicate by tapping on a shared wall.
Except the wall was a CPU cache.
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.
On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments.
While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software.
After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely.
openai.com/index/securing-ou…
Mohammad Alaggan, Ph.D. retweeted
New blog post: Animations for System Builders, talking about visualizing metastability, consensus, and other subtle system behaviors.
brooker.co.za/blog/2026/10/2…
Mohammad Alaggan, Ph.D. retweeted
"Why is formal verification exploding NOW?"
1. Cost of proofs is going DOWN (as AI gets more capable)
2. Cost of exploits is going UP (as AI gets more dangerous)
3. Proofs exterminate exploits
4. Bonus: proof checking = perfect math/coding RL reward
The rest is economics
Mohammad Alaggan, Ph.D. retweeted
شركة GoDaddy من فترة مش بعيدة قفلت domain لموقع شغالين عليه لاشتباه في fraud بسبب صفحة معمول بها embedding لأسعار الأسهم والقوائم المالية للشركة من خدمة مدفوعة ومصرح بها عادي. المشكلة الكبرى كانت في غياب أي شفافية في التقرير. يعني لما حاجة زي كده بتحصل المفروض فيه تقرير بيوضح ايه الخطأ اللي احنا عملناه عشان نحله.
المشكلة بقى أن دي شركة مدرجة بالبورصة في الخليج. وقف ال domain جاء معه وقف لأكثر من ٥٠٠٠ بريد اليكتروني. الشركة حرفيا اتشلت في دقائق. حاولوا بكل الطرق التواصل مع GoDaddy سواء بالبريد أو الدعم أو حتى التليفون بدون اي نتيجة.
على الجانب الأخر عندك عميل شايف أن انت عملت حاجة غلط وشغلك تسبب في شلل تام للشركة. كل محاولات الشرح باءت بالفشل بالرغم من أن مفيش دليل بيقول أن احنا عملنا أي شئ غلط وحتى خدمة التحليل المدفوعة دي أكدت أن شلغنا معمول زي ما هو مطلوب بالظبط.
استلمت زمام الأمور من مدير قسم ال IT ورزعت GoDaddy ايميل مفيش فيه غير مطالبة بإرجاع النطاق مع إعلامهم أن احنا بدأنا بتحرير شكاوى ضدهم في منظمة ICANN. خلال نصف ساعة النطاق رجع للعمل. الشركة تاني يوم اشترت نطاق محلي (زي مثلا .eg في مصر) ونقلوا كل حاجة عليه.
حتى الآن مفيش أي تبرير أو شرح اتقدم من GoDaddy. في رأيي اللي حصل ده اكيد كان حاجة أوتوماتيكية بدون تدخل بشري. مع حجم البيزنس اللي بنتعامل معه ده شئ مرفوض.
فهي شركة زبالة ومحتاجة تتقفل والناس اللي فيها تتحاكم
Mohammad Alaggan, Ph.D. retweeted
The trajectory is clear
New on our Frontier Red Team blog: using Claude to formally verify software at large scale.
Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time).
With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks.
Read our research in full here: anthropic.com/research/forma…
Mohammad Alaggan, Ph.D. retweeted
Absolutely wild results in the details:
- Claude built and formally verified a Python interpreter
- Claude wrote ~1Bn lines of Rocq
- Claude built an x86 semantics that can boot Ubuntu
New on our Frontier Red Team blog: using Claude to formally verify software at large scale.
Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time).
With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks.
Read our research in full here: anthropic.com/research/forma…
Mohammad Alaggan, Ph.D. retweeted
To bring quantum applications within reach sooner, we must compress the circuits that power them. Join our @Kaggle competition to build efficient, verifiable circuits using our new open source kickmix library: goo.gle/4BqF2QX
Mohammad Alaggan, Ph.D. retweeted
Yes. See, e.g. how we found critical safety and liveness bugs in every (formally verified) Raft implementation we’ve ever looked at. antithesis.com/blog/2026/fin…
Replying to @MarcJBrooker
The point is that even 'correct' protocols come with a set of assumptions about the world around them. When those assumptions are broken, even in subtle ways, the protocols behave in unsafe ways.
Mohammad Alaggan, Ph.D. retweeted
New on our Frontier Red Team blog: using Claude to formally verify software at large scale.
Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time).
With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks.
Read our research in full here: anthropic.com/research/forma…
Mohammad Alaggan, Ph.D. retweeted
Mogged
arxiv.org/abs/2610.27918
Mohammad Alaggan, Ph.D. retweeted
Replying to @ahmadalfy @malaggan
انا أخطأت في الصياغة هنا:
> مثال ان ال compilers مش كلها بتشتغل على نفس البنية التحتية ومش نفس الاصدارات فبالتالي فيها bugs و اختلافات
اللي كنت أقصده:
> مثال ان نفس ال compiler بيشتغل على بنيات تحتية مختلفة وله اصدارات متعددة بجانب ان ال compiler نفسه ممكن يكون فيه bugs. كل ده هيؤدي ان الناتج ممكن يطلع مختلف على عكس ما احنا متوقعين انه دائماً ثابت
مش بنراجع كود ال assembly اللي ال compiler طلعه. ال compiler مش ملاك وساعات بيعمل حاجات غلط لو عملت undefined behavior. واغلبنا مش عارفين مشاكل ال floating point وان مجرد انك تجمع ارقام من array محتاج خوارزمية متخصصة زي Kahan summation ، بس هي ماشية بالبركة😄
ردا على التعليقات
Replying to @ahmadalfy
كذا حد علق أن ال non determinism بتاعة ال LLM عالية وبالتالي المقارنة بال compilers غير مبررة أو متطرفة، بس في الواقع أنا مكنتش بقارن، ديه سلسلة تغريدات بأذكر فيهم كذا مثال، ال compiler مثال منهم مش غرضه المقارنة، بقية الأمثلة ملهاش علاقة بال compiler زي ال race conditions نتيجة ال concurrency أو distributed systems. والغرض من الأمثلة توضيح خطأ فكرة أن احنا فاهمين الكود اللي بنكتبه النهاردة. حتى في مثال ال compiler نفسه مش الفكرة في مقدار الثقة في النتيجة (اللي هي أكبر في حالة ال compiler طبعا)، ولكن أن الثقة مش ١٠٠٪، وأن الحاجة اللي ثقتها ٩٩,٩٩٪ زي ال compiler ممكن مفاجئتها نبقى اخطر من حاجة ثقتها ٨٠٪ زي ال LLM عشان حيبقى عينينا في وسط راسنا وجاهزين ليها ومتوقعينها.
Mohammad Alaggan, Ph.D. retweeted
Replying to @malaggan
أنا شفت رأي مشابه للي انت بتقوله بالظبط واستغربت. لما المتحدث (مش متذكر اسمه بس هو كان من خبراء الصناعة على مستوى Linus Torvalds مثلاً) استرسل في الشرح فهمت اللي يقصده. مثال ان ال compilers مش كلها بتشتغل على نفس البنية التحتية ومش نفس الاصدارات فبالتالي فيها bugs و اختلافات ولكن في رأيي انا حاسس ان ده برضه لازال رأي متطرف شوية. لأن في نفس الظروف (على نفس البنية ونفس النسخة وتثبيت العوامل الأخرى) لازال هو deterministic مقارنة بالعشوائية الكبيرة الناتجة عن ال LLM.
دي مش دعوة للجدال بالعكس. أنا ضفت اللي سمعته عشان أنا أول مرة سمعت الرأي اللي انت بتقوله استغربت جداً ومفهمتش ليه فممكن غيري برضه يكون مش عارف. في النهاية مفيش حقيقة مطلقة 😅 لازالت الاجابة it depends. بنبص على الحاجة ازاي
Mohammad Alaggan, Ph.D. retweeted
How do you _guarantee_ your agent's code is correct? You prove it.
Introducing Proof Driven Development Kit (PDD Kit) from @MSFTResearch.
PDD Kit helps turn your plan into a formal spec, then proves the agent's code meets that spec for every input. No vibe verification. PDD Kit is integrated with @GitHubNext's Chopin, so you can plan as a team.
PDD Kit takes an app's login flow from intent to a verified pull request:
It discusses your code, infers your intent as it goes, and proposes a formal spec in Verus, a proof language for Rust.
Once you approve the spec, the Verus verifier automatically proves the code meets it.
Where proof isn't possible, it falls back to empirical verification with tests and computer-use agents (CUAs).
It works on Rust today. No new language, no change in how you produce the underlying code, making formal methods more accessible.
The goal is a verified software factory, where engineers review specifications instead of code.
Come see it in action at GitHub Universe, Oct 28–29. Swing by the Speakeasy and ask for GitHub Next!
































