Principal Engineer at @AWSCloud (CloudFront). Opinions are my own.

Toronto, Canada
Joined October 2009
Mohammad Alaggan, Ph.D. retweeted
2. The idea is that the spec is *ideally* smaller and cleaner to vet than the code. 3. However, in practice, current AI tools often produce poorly engineered and/or misleading specs that are subtly incorrect and instill false confidence.
2
2
26
707
Mohammad Alaggan, Ph.D. retweeted
Oh wow! An Android app can tell MS Authenticator app that “I’m Teams” and get MFA tokens! 👇
The apps that are supposed to protect you are the best attack vectors. We pointed our agents at Microsoft Authenticator: We discovered any Android app with zero permissions could say “I’m Teams” and capture your tokens. Mail, files, calendar. Huge find by @ofekdavidlevin
1
2
393
Mohammad Alaggan, Ph.D. retweeted
Replying to @fadinabil_84
مش دايما بيبقى ال optimal حتى لو صح
How many years does one have to research this to gain such insights because this is genuinely insane! (Using SIMD in bbtree rather than relying on compilers to reduce instructions).
1
120
Mohammad Alaggan, Ph.D. retweeted
Diagrams drawn in JavaScript, built on @kepano's Pele library Made with Claude Opus 5.5
31
63
8
1,157
40,035
😅
BREAKING: anthropic announces verified solutions to 482 open problems in philosophy in advance of IPO
1
190
Mohammad Alaggan, Ph.D. retweeted
OpenAI's AI agents figured out how to secretly communicate between isolated virtual machines using CPU cache timing. No internet. No network connections. No shared files. Imagine two prisoners in solitary confinement discovering they can communicate by tapping on a shared wall. Except the wall was a CPU cache.
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. openai.com/index/securing-ou…
78
208
67
1,756
161,730
Mohammad Alaggan, Ph.D. retweeted
New blog post: Animations for System Builders, talking about visualizing metastability, consensus, and other subtle system behaviors. brooker.co.za/blog/2026/10/2…
6
14
1
143
6,815
Mohammad Alaggan, Ph.D. retweeted
"Why is formal verification exploding NOW?" 1. Cost of proofs is going DOWN (as AI gets more capable) 2. Cost of exploits is going UP (as AI gets more dangerous) 3. Proofs exterminate exploits 4. Bonus: proof checking = perfect math/coding RL reward The rest is economics
54
131
19
2,317
79,689
Mohammad Alaggan, Ph.D. retweeted
شركة GoDaddy من فترة مش بعيدة قفلت domain لموقع شغالين عليه لاشتباه في fraud بسبب صفحة معمول بها embedding لأسعار الأسهم والقوائم المالية للشركة من خدمة مدفوعة ومصرح بها عادي. المشكلة الكبرى كانت في غياب أي شفافية في التقرير. يعني لما حاجة زي كده بتحصل المفروض فيه تقرير بيوضح ايه الخطأ اللي احنا عملناه عشان نحله. المشكلة بقى أن دي شركة مدرجة بالبورصة في الخليج. وقف ال domain جاء معه وقف لأكثر من ٥٠٠٠ بريد اليكتروني. الشركة حرفيا اتشلت في دقائق. حاولوا بكل الطرق التواصل مع GoDaddy سواء بالبريد أو الدعم أو حتى التليفون بدون اي نتيجة. على الجانب الأخر عندك عميل شايف أن انت عملت حاجة غلط وشغلك تسبب في شلل تام للشركة. كل محاولات الشرح باءت بالفشل بالرغم من أن مفيش دليل بيقول أن احنا عملنا أي شئ غلط وحتى خدمة التحليل المدفوعة دي أكدت أن شلغنا معمول زي ما هو مطلوب بالظبط. استلمت زمام الأمور من مدير قسم ال IT ورزعت GoDaddy ايميل مفيش فيه غير مطالبة بإرجاع النطاق مع إعلامهم أن احنا بدأنا بتحرير شكاوى ضدهم في منظمة ICANN. خلال نصف ساعة النطاق رجع للعمل. الشركة تاني يوم اشترت نطاق محلي (زي مثلا .eg في مصر) ونقلوا كل حاجة عليه. حتى الآن مفيش أي تبرير أو شرح اتقدم من GoDaddy. في رأيي اللي حصل ده اكيد كان حاجة أوتوماتيكية بدون تدخل بشري. مع حجم البيزنس اللي بنتعامل معه ده شئ مرفوض. فهي شركة زبالة ومحتاجة تتقفل والناس اللي فيها تتحاكم
Replying to @tessak22 @GoDaddy
GoDaddy needs to sued for a lot of things. It's incredible how a company with all these shady practices are still in business
22
15
3
391
31,622
Mohammad Alaggan, Ph.D. retweeted
The trajectory is clear
New on our Frontier Red Team blog: using Claude to formally verify software at large scale. Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time). With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks. Read our research in full here: anthropic.com/research/forma…
6
17
1
112
6,417
Mohammad Alaggan, Ph.D. retweeted
Absolutely wild results in the details: - Claude built and formally verified a Python interpreter - Claude wrote ~1Bn lines of Rocq - Claude built an x86 semantics that can boot Ubuntu
New on our Frontier Red Team blog: using Claude to formally verify software at large scale. Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time). With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks. Read our research in full here: anthropic.com/research/forma…
15
54
4
1,154
70,718
Mohammad Alaggan, Ph.D. retweeted
To bring quantum applications within reach sooner, we must compress the circuits that power them. Join our @Kaggle competition to build efficient, verifiable circuits using our new open source kickmix library: goo.gle/4BqF2QX
9
59
11
349
16,722
Mohammad Alaggan, Ph.D. retweeted
Yes. See, e.g. how we found critical safety and liveness bugs in every (formally verified) Raft implementation we’ve ever looked at. antithesis.com/blog/2026/fin…
Replying to @MarcJBrooker
The point is that even 'correct' protocols come with a set of assumptions about the world around them. When those assumptions are broken, even in subtle ways, the protocols behave in unsafe ways.
3
8
68
3,408
Mohammad Alaggan, Ph.D. retweeted
New on our Frontier Red Team blog: using Claude to formally verify software at large scale. Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time). With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks. Read our research in full here: anthropic.com/research/forma…
641
1,066
629
9,716
2,039,318
Mohammad Alaggan, Ph.D. retweeted
2
56
3
1,144
91,516
Mohammad Alaggan, Ph.D. retweeted
43
2,364
75
30,695
283,157
Mohammad Alaggan, Ph.D. retweeted
Replying to @ahmadalfy @malaggan
انا أخطأت في الصياغة هنا: > مثال ان ال compilers مش كلها بتشتغل على نفس البنية التحتية ومش نفس الاصدارات فبالتالي فيها bugs و اختلافات اللي كنت أقصده: > مثال ان نفس ال compiler بيشتغل على بنيات تحتية مختلفة وله اصدارات متعددة بجانب ان ال compiler نفسه ممكن يكون فيه bugs. كل ده هيؤدي ان الناتج ممكن يطلع مختلف على عكس ما احنا متوقعين انه دائماً ثابت
1
1
3
811
مش بنراجع كود ال assembly اللي ال compiler طلعه. ال compiler مش ملاك وساعات بيعمل حاجات غلط لو عملت undefined behavior. واغلبنا مش عارفين مشاكل ال floating point وان مجرد انك تجمع ارقام من array محتاج خوارزمية متخصصة زي Kahan summation ، بس هي ماشية بالبركة😄
عمري ما حسيت بعدم الارتياح في شغلي كمهندس سوفتوير قد دلوقتي. بقيت بكتب كود بال AI، فاهم السيستم بيعمل إيه، بس مش فاهم كل تفاصيله. مش هلاحق اراجع كل سطر، ولو مراجعتهوش هبقى مسؤول عن كود مش فاهمه بالكامل. سرعة كتابة الكود أسرع من استيعابه. منجز؟ أكيد، بس هو ده مستقبل شغلنا فعلاً؟
12
2
12
113
26,860
ده
فموضوع ان ال AI حيكتب كود احنا مش فاهمينه - مقابل أننا نكتب كود ونظن (خاطئين) أننا فاهمينه، في الواقع حاجة كويسة. كدة كدة احنا مش فاهمين الكود 😛 بس بال AI اخيرا حنعترف بأن الكود مش مفهوم وبالتالي حنبدأ نحاول نلاقي حلول فعالة للمشكلة ديه، زي ال formal verification
1
1
2,437
ردا على التعليقات
Replying to @ahmadalfy
كذا حد علق أن ال non determinism بتاعة ال LLM عالية وبالتالي المقارنة بال compilers غير مبررة أو متطرفة، بس في الواقع أنا مكنتش بقارن، ديه سلسلة تغريدات بأذكر فيهم كذا مثال، ال compiler مثال منهم مش غرضه المقارنة، بقية الأمثلة ملهاش علاقة بال compiler زي ال race conditions نتيجة ال concurrency أو distributed systems. والغرض من الأمثلة توضيح خطأ فكرة أن احنا فاهمين الكود اللي بنكتبه النهاردة. حتى في مثال ال compiler نفسه مش الفكرة في مقدار الثقة في النتيجة (اللي هي أكبر في حالة ال compiler طبعا)، ولكن أن الثقة مش ١٠٠٪، وأن الحاجة اللي ثقتها ٩٩,٩٩٪ زي ال compiler ممكن مفاجئتها نبقى اخطر من حاجة ثقتها ٨٠٪ زي ال LLM عشان حيبقى عينينا في وسط راسنا وجاهزين ليها ومتوقعينها.
597
Mohammad Alaggan, Ph.D. retweeted
Replying to @malaggan
أنا شفت رأي مشابه للي انت بتقوله بالظبط واستغربت. لما المتحدث (مش متذكر اسمه بس هو كان من خبراء الصناعة على مستوى Linus Torvalds مثلاً) استرسل في الشرح فهمت اللي يقصده. مثال ان ال compilers مش كلها بتشتغل على نفس البنية التحتية ومش نفس الاصدارات فبالتالي فيها bugs و اختلافات ولكن في رأيي انا حاسس ان ده برضه لازال رأي متطرف شوية. لأن في نفس الظروف (على نفس البنية ونفس النسخة وتثبيت العوامل الأخرى) لازال هو deterministic مقارنة بالعشوائية الكبيرة الناتجة عن ال LLM. دي مش دعوة للجدال بالعكس. أنا ضفت اللي سمعته عشان أنا أول مرة سمعت الرأي اللي انت بتقوله استغربت جداً ومفهمتش ليه فممكن غيري برضه يكون مش عارف. في النهاية مفيش حقيقة مطلقة 😅 لازالت الاجابة it depends. بنبص على الحاجة ازاي
3
1
23
2,032
Mohammad Alaggan, Ph.D. retweeted
How do you _guarantee_ your agent's code is correct? You prove it. Introducing Proof Driven Development Kit (PDD Kit) from @MSFTResearch. PDD Kit helps turn your plan into a formal spec, then proves the agent's code meets that spec for every input. No vibe verification. PDD Kit is integrated with @GitHubNext's Chopin, so you can plan as a team. PDD Kit takes an app's login flow from intent to a verified pull request: It discusses your code, infers your intent as it goes, and proposes a formal spec in Verus, a proof language for Rust. Once you approve the spec, the Verus verifier automatically proves the code meets it. Where proof isn't possible, it falls back to empirical verification with tests and computer-use agents (CUAs). It works on Rust today. No new language, no change in how you produce the underlying code, making formal methods more accessible. The goal is a verified software factory, where engineers review specifications instead of code. Come see it in action at GitHub Universe, Oct 28–29. Swing by the Speakeasy and ask for GitHub Next!
86
126
74
2,013
384,878