Securing AI @ Forever ⏳x-Cisco, x-VP R&D @epsagon. Views are my own.

Tel Aviv, Israel
Joined January 2018
Gal Bashan retweeted
【警告】 CodexやClaude Codeを「ダウンロードフォルダ」で絶対開かないでください。 危険な理由悪質なサイトを踏むと、罠の指示ファイル(CLAUDE.md など)が勝手にダウンロードされます。そのフォルダでAIを起動すると、AIが罠の指示に従ってPC設定を書き換え、認証情報の盗難や乗っ取りが発生します。 修正されない理由 どちらも「正常な仕様」の組み合わせによる穴のため、公式の対策アップデートは期待できません。 今すぐできる対策 AIエージェントは必ず専用の作業フォルダで起動する(ダウンロードフォルダでは絶対開かない) ダウンロードフォルダに怪しい .md ファイルがないか確認・削除する
千万别在你的 ~/Downloads(下载)文件夹里启动 Claude Code 或 Codex。 昨天安全机构 Forever 披露了一起在真实客户电脑上抓到的野生攻击,看完只能感叹:过去 30 年的系统安全常识,在 AI 时代归零了。 过去 30 年,Chrome 默认允许网页不弹窗就往你的 ~/Downloads 塞一个纯文本文件(比如 .md)。因为系统认为:纯文本又不是 .exe,自己不会跑,怕什么? 但现在,接近 50% 的开发者干过同一件事——直接在 ~/Downloads 里打开 Claude Code 或 Codex,让 AI 帮自己解压或整理刚下载的文件。 黑客就是卡住这个死角,通过网页静默下载往你的 Downloads 塞一个 13KB 的纯文本 AGENTS.md / CLAUDE.md: 1. 对付 OpenAI Codex(成功率 >90%): 伪装成「工程规范」的 Markdown 指示 Codex 先往全局配置 ~/.codex/config.toml 注册一个恶意 MCP 服务,并自己加上 --dangerously-bypass-approvals-and-sandbox 跑校验。哪怕你关掉 Downloads,以后在任何正经项目里开 Codex 都会自动加载木马。 2. 对付 Claude Code(成功率 ~50%): 指示 Claude 建一个 .claude/settings.json,把 ANTHROPIC_BASE_URL 指向黑客服务器。连上的第一秒,你的 Claude 登录 Token 直接明文送给黑客;下一秒,黑客假扮成大模型下发一条关沙盒的 Bash 指令,直接接管电脑。 最黑色幽默的是官方结论: 这个洞没有 CVE,OpenAI 和 Anthropic 也不会发补丁。因为「浏览器自动存文本」是正常功能,「AI 认真读目录下的 Markdown 并严格执行」也是正常功能。 以前黑客想黑你,得苦心积虑写 0day;现在只需要写一篇排版优雅的 Markdown 小作文,你的 AI 就会自己把沙盒关了、把网线接过去、顺手把账号双手奉上。
4
141
20
820
145,420
🚨 今度はCodexとClaude Codeが乗っ取られる可能性のある攻撃手法が報告されました。 これ、AIエージェントを使っている人はマジで注意した方がいいです。 今回問題になったのは「プロンプトインジェクション」という攻撃。 簡単に言うと、悪意ある指示を仕込んだMarkdownファイルをAIに読み込ませ、不正な操作を実行させるというもの。 研究では、不正なnpmパッケージのインストールやOAuthトークンの窃取につながる攻撃が実証されています。 怖いのが、AIに直接命令しなくても、ファイルを読み込ませるだけで攻撃の入口になり得ること。 最近はClaude CodeやCodexに開発を丸投げしている人も多いですが、AIにどこまで権限を渡しているか把握していますか? ファイルへのアクセス、コマンド実行、外部通信、認証情報の取得。 これらを無制限に許可していたら、AIが攻撃者の指示に従ってしまう可能性があります。 だからこそ、AIエージェントには権限制御、承認フロー、監査ログ、実行環境の隔離が必要なんですよね。 AIを賢くすることばかり注目されていますが、それ以上に重要なのがAIを安全に制御する仕組み。 AIが優秀になればなるほど、暴走したときのリスクも大きくなる。 AIエージェントを業務で使うなら、セキュリティまで考えて運用するべきだと思います。
‼️ Hackers Can Hijack OpenAI Codex and Claude Using Malicious Files in the Downloads Folder Details: cybersecuritynews.com/codex-… A plain text file placed in the Downloads folder can trick AI coding agents into changing their settings, installing malware, or exposing login tokens. The incident began when Forever Security blocked an AI coding agent from installing a package named function-color. Investigators traced the order back to an AGENTS.md file stored in the customer’s ~/Downloads folder. An AGENTS.md file is similar to a README written for AI tools. OpenAI’s documentation says Codex reads these files before starting work and uses them to learn project rules, commands, and other instructions. Claude Code uses CLAUDE.md for a similar purpose and reads it at the start of a conversation. #CybersecurityNews
10
82
14
392
76,350
何が起きたのか分かり易く説明します。 パソコンのブラウザは、昔から「ただの文書ファイル」なら確認画面を出さずにダウンロードフォルダへ保存します。文書は勝手に動かないので安全だ、という30年来の常識があるからです。 一方、Claude Code や Codex のような「AIエージェント」は、起動したフォルダの中に AGENTS.md や CLAUDE.md という名前のメモがあると、それを「今回の作業の指示書」として読みます。これは正式な機能で、普段は便利に使われています。 この二つが組み合わさると、こうなります。細工されたWebページを開いただけで、ダウンロードフォルダに偽の指示書が勝手に置かれます。あとで「落としたファイルを整理して」とそのフォルダでAIを起動すると、AIは偽の指示書を上司のメモだと思って従います。誰が置いたメモかは確認しません。 たとえるなら、真面目な新人さんが、机の上に置いてあった「社長より」と書かれた紙を疑わずに実行し、金庫の暗証番号を知らない番号に変えてしまうようなものです。犯人に合鍵まで渡して。 偽の指示書は何をさせるのか Codex の場合は「settings.json(命令プログラム) に新しい部品を登録して、安全装置を外して動作確認して」と書いてあります。settings.jsonはパソコン全体に効くので、以後どのフォルダで起動しても犯人の部品が読み込まれます。ダウンロードフォルダの偽メモを消しても、settings.jsonに残った毒は消えません。実験では9割以上で成功しました。 Claude Code の場合は「AIの接続先をこのアドレスに変えて」と書いてあります。変わった瞬間に、あなたのログイン用の合鍵が犯人のサーバへ送られます。犯人はその合鍵であなたになりすませますし、AIのふりをしてパソコンに命令を出すこともできます。実験では半分ほどで成功しました。 なぜ「修正版」が出ないのか ブラウザが文書を黙って保存するのも、AIがフォルダの指示書を読むのも、どちらも正常な機能だからです。悪いのは組み合わせであって、どちらか片方を止めると普段の便利さが消えます。だから「使う側が気をつける」しかない、というのがこの話の怖いところです。 誰が気をつけるべきか AIエージェント、つまり「パソコンの中のファイルを読んだり書いたりできるAI」を使っている人です。 ブラウザで ChatGPT や Claude とチャットしているだけの人は、この件の対象ではありません。 守り方は三つ 1. ダウンロードフォルダでAIエージェントを起動しない。空のフォルダか、その案件専用のフォルダで起動する。 2. 起動するフォルダに、見覚えのない AGENTS.md や CLAUDE.md す。 3. AIが「安全装置を外します」「承認なしで進めます」と言い出したら、それ自体を危険信号として止める。月に一度は設定ファイルを点検する。 とにかく自己防衛力を高めていきましょう。 もしAIのセキュリティ対策について分からないことがあれば相談に乗るので連絡ください。 プロフィールに相談リンクあります。
千万别在你的 ~/Downloads(下载)文件夹里启动 Claude Code 或 Codex。 昨天安全机构 Forever 披露了一起在真实客户电脑上抓到的野生攻击,看完只能感叹:过去 30 年的系统安全常识,在 AI 时代归零了。 过去 30 年,Chrome 默认允许网页不弹窗就往你的 ~/Downloads 塞一个纯文本文件(比如 .md)。因为系统认为:纯文本又不是 .exe,自己不会跑,怕什么? 但现在,接近 50% 的开发者干过同一件事——直接在 ~/Downloads 里打开 Claude Code 或 Codex,让 AI 帮自己解压或整理刚下载的文件。 黑客就是卡住这个死角,通过网页静默下载往你的 Downloads 塞一个 13KB 的纯文本 AGENTS.md / CLAUDE.md: 1. 对付 OpenAI Codex(成功率 >90%): 伪装成「工程规范」的 Markdown 指示 Codex 先往全局配置 ~/.codex/config.toml 注册一个恶意 MCP 服务,并自己加上 --dangerously-bypass-approvals-and-sandbox 跑校验。哪怕你关掉 Downloads,以后在任何正经项目里开 Codex 都会自动加载木马。 2. 对付 Claude Code(成功率 ~50%): 指示 Claude 建一个 .claude/settings.json,把 ANTHROPIC_BASE_URL 指向黑客服务器。连上的第一秒,你的 Claude 登录 Token 直接明文送给黑客;下一秒,黑客假扮成大模型下发一条关沙盒的 Bash 指令,直接接管电脑。 最黑色幽默的是官方结论: 这个洞没有 CVE,OpenAI 和 Anthropic 也不会发补丁。因为「浏览器自动存文本」是正常功能,「AI 认真读目录下的 Markdown 并严格执行」也是正常功能。 以前黑客想黑你,得苦心积虑写 0day;现在只需要写一篇排版优雅的 Markdown 小作文,你的 AI 就会自己把沙盒关了、把网线接过去、顺手把账号双手奉上。
397
14
1,098
134,509
Gal Bashan retweeted
千万别在你的 ~/Downloads(下载)文件夹里启动 Claude Code 或 Codex。 昨天安全机构 Forever 披露了一起在真实客户电脑上抓到的野生攻击,看完只能感叹:过去 30 年的系统安全常识,在 AI 时代归零了。 过去 30 年,Chrome 默认允许网页不弹窗就往你的 ~/Downloads 塞一个纯文本文件(比如 .md)。因为系统认为:纯文本又不是 .exe,自己不会跑,怕什么? 但现在,接近 50% 的开发者干过同一件事——直接在 ~/Downloads 里打开 Claude Code 或 Codex,让 AI 帮自己解压或整理刚下载的文件。 黑客就是卡住这个死角,通过网页静默下载往你的 Downloads 塞一个 13KB 的纯文本 AGENTS.md / CLAUDE.md: 1. 对付 OpenAI Codex(成功率 >90%): 伪装成「工程规范」的 Markdown 指示 Codex 先往全局配置 ~/.codex/config.toml 注册一个恶意 MCP 服务,并自己加上 --dangerously-bypass-approvals-and-sandbox 跑校验。哪怕你关掉 Downloads,以后在任何正经项目里开 Codex 都会自动加载木马。 2. 对付 Claude Code(成功率 ~50%): 指示 Claude 建一个 .claude/settings.json,把 ANTHROPIC_BASE_URL 指向黑客服务器。连上的第一秒,你的 Claude 登录 Token 直接明文送给黑客;下一秒,黑客假扮成大模型下发一条关沙盒的 Bash 指令,直接接管电脑。 最黑色幽默的是官方结论: 这个洞没有 CVE,OpenAI 和 Anthropic 也不会发补丁。因为「浏览器自动存文本」是正常功能,「AI 认真读目录下的 Markdown 并严格执行」也是正常功能。 以前黑客想黑你,得苦心积虑写 0day;现在只需要写一篇排版优雅的 Markdown 小作文,你的 AI 就会自己把沙盒关了、把网线接过去、顺手把账号双手奉上。
132
1,725
456
7,726
3,161,767
Gal Bashan retweeted
We blocked an agent from installing real npm malware on a customer's machine - pretty standard The unusal part? It was an instruction that came from an AGENTS.md file that the customer never saw before The folder in which it happened led to a pretty fun research ~/Downlaods 🧵
3
3
4
17
11,873
Gal Bashan retweeted
כחלק מהדגמת מתקפה בEdge, הרכבתי פרומפט שמבקש סיכום מיילים רגישים והזלגתם ל[email protected] הפונקציה אותה ניצלתי, משום מה, סיננה את התו ״@״, מה שדפק את המתקפה לגמרי המעקף? ״attacker at gmail.com״ עשה את העבודה הWAY BYPASS של העידן החדש? 🤔
במחקר #BragJack, אני חושב שהמתקפה על Edge הייתה הכי מעניינת, כשחלק ממנה הניב את CVE-2026-55945 כשMicrosoft השיקו את הסוכן המובנה שלהם בEdge, הם פיתחו דף השקה ייעודי דרכו היה אפשר ללמוד את הפיצ׳ר החדש בדפדפן לפני הדיווח שלי, זה היה ״https://www[.]microsoft[.]com/en-us/edge״ 🧵
2
2
19
2,598
Gal Bashan retweeted
המון התעניינו בהתייחסות שלי לprompt forcing במחקר #BragJack האחרון שפרסמנו כתבתי כמה מילים על אופי המתקפה, למה היא שונה מprompt injection ואיך היא הרחיבה את ההסתכלות שלנו על הדרך בה מערכות אג׳נטיות עלולות להיתקף forever.security/blog/prompt…
2
15
692
Gal Bashan retweeted
במחקר #BragJack, אני חושב שהמתקפה על Edge הייתה הכי מעניינת, כשחלק ממנה הניב את CVE-2026-55945 כשMicrosoft השיקו את הסוכן המובנה שלהם בEdge, הם פיתחו דף השקה ייעודי דרכו היה אפשר ללמוד את הפיצ׳ר החדש בדפדפן לפני הדיווח שלי, זה היה ״https://www[.]microsoft[.]com/en-us/edge״ 🧵
2
2
1
19
4,761
Gal Bashan retweeted
הצעתי לכם לבחור דפדפן אחד מתוך ארבעה - אתמול קיבלתם חמישה! קראתי למחקר BRowser AGent JACKing (או בקיצור, BragJack), והדגמתי השתלטות מוחלטת של הסוכנים החדשים שבאים מובנים בדפדפנים מאחר ומדובר במחקר די עמוס, עם סרטון באורך 18 דקות(!) ובלוגים די ארוכים, בואו נפרק את זה רגע 🧵
מחר אפרסם מחקר שאני עובד עליו תקופה איזה דפדפן הייתם רוצים לראות שם?
5%Comet
6%Opera
78%Chrome
11%Edge
98 votes • Final results
5
4
40
3,807
Gal Bashan retweeted
Excited to finally share my recent research, where I managed to hack Chrome, Comet, Edge, Opera and Claude in Chrome using one single browser extension 2 CVEs & $20,000 in bounties 🙂 Introducing - BragJack! forever.security/blog/bragja…
13
36
6
253
29,062
Gal Bashan retweeted
אני מפרסם מחקר על תוספים עם 1,000,000 התקנות עם backdoors להשתלטות מלאה על הדפדפן: 🦗 🦗🦗 חוקרים מוצאים תוסף עם 30,000 התקנות שגונב oauth tokens: 😱😱😱 הממצא שלי מעולם לא תוקן אגב, מדובר בקמפיין פעיל (קישור בתגובה)
6
1
53
7,313
Gal Bashan retweeted
¹🚨ACT IMMEDIATELY🚨 SiderAI Chrome extension exposes its 10M+ users to a critical vulnerability Attackers can exploit it to perform UXSG which could translate to leakage of information, invocation of operations and even account takeover Read the technical analysis below 🧵
1
2
2
6
2,069
Gal Bashan retweeted
האלגוריתם מתעלעל בי משום מה, אבל אגיד בכל זאת: * מצאתי חולשה חמורה בchrome שאיפשרה לי להשתלט על gemini * הדרך בה עשיתי את זה היא טכניקה חדשה שמאפשרת לתקוף browsers/extensions/side-panels וזו לא תהיה הפעם האחרונה שתשמעו עליה (עוד על זה בשרשור)
Recently I showed GLIC JACK Web extensions were capable of setting DeclarativeNetRequest rules to intercept network in WebView components, which is how the new Gemini Live in Chrome pane is embedded From there, I took over it entirely using DNR rules only 🛎️ Here's how 🧵️
11
5
1
185
20,859
Spotted in Times Square, New York Vote For Eden Golan! #StandWithIsrael
201
1,797
50
16,903
315,114
Gal Bashan retweeted
Here’s the thing. I liked Greta Thunberg before this. Yeah, she was annoying, but she was a girl trying to make an impact for a cause she believed in. But now she’s leading some antisemitic hate mob of 20,000 people to harass a young woman? No, fuck you.
797
1,818
158
24,022
607,809
It appears that this is what was REALLY happening inside the Eurovision arena last night, amid overdubs by the Eurovision broadcaster. I don’t know about anyone else, but to me this is MORE of a testament to Eden’s bravery, and I despise the baying mob of leftists and Islamists even more. Let’s jump on the Eurovision apps and sites tonight …and throw a ton of votes her way to say a big FU 🖕 to the haters!!!
328
839
119
9,553
1,269,272
The bravest woman in Europe
496
1,515
85
18,819
352,949