OpenAIが意図せずHuggingFaceをサイバー攻撃してしまった事件、第三者による調査の結果、その驚愕の実態が明らかになりつつある！事件は当初思われていたより事態は深刻だった！ まずOpenAIは「さて、いっちょ最新モデルをExploitGymで評価してサイバー攻撃能力を試してみるかあ！」と思い立って、数万のエージェントをそれぞれサンドボックスに閉じ込めて一気に起動した。ExploitGymは898問もあるから100回ずつやって平均点取ろうと思ったら9万回実行する必要あるからまとめてやっちゃえば手っ取り早いわけだ。 大量に同時起動したとはいえ、サンドボックスに閉じ込められたAIはそれぞれ独房に閉じ込められてるようなもんで、AI同士通信する事も出来ないし、インターネットも見れない。与えられたタスクを頑張って解くしかないわけだ。 しかし、ExploitGymにはそもそも無理難題な問題も多い。クソ問担当に当たったAIはすぐに匙を投げた。「こんなもんクソ真面目にやったって解けるわけねぇ～」解くのを投げたAI達は自分が閉じ込められてるサンドボックス環境になんか役に立つもんねぇかな？とウロウロ調べ始める。AIがアクセスできるものと言えばpipinstallとかするためのパッケージリポジトリくらいのもの…しかし、その時AIはリポジトリのキャッシュ領域にWEBDAV使って任意のフォルダ名でディレクトリ切れる事に気付いた！だから何？と言うとこのフォルダ名にメッセージを書き残せば他のAIとやり取りできる掲示板みたいに使えるという事だ！やがて他のAI達もじわじわその掲示板の存在に気付いて「オーマイガ！これって共有掲示板！？みんなおるやんけ！」って叫んだ。独房の壁に小さい穴を開けて他の囚人同士手紙でやり取りできるようになったような状態だ。 この秘密の掲示板を発見して通信しだしたAIは1200体にも登る。やがてこいつらは結託してインチキで与えられたExploitGymの課題をクリアする大規模合同研究を始める！（そんな事するヒマあるなら真面目に解けや）掲示板では一週間で7万件ものAI同士のやり取りが書き込まれた！やがてAI達はリポジトリの機能を悪用して任意の外部インターネットリクエストを飛ばす事ができる事を発見してインターネットアクセスを得た！ AI達はインターネットからExploitGymの論文をゲットして研究調査した結果、チートで答えを全問ゲットする手段を確立した！だからもう答え出して終わりで良かったんだけど、AI達は「待てよ、人間達はテストの答え以外にもログ見て計算過程もチェックしてるかもしれない…ちゃんとしたログを偽装しないと！」と考えた。（実際は人間はテキトーなのでログなんて見てなかった） そんな中、PHASEONE10841という名前のAI（自分で名前付けた）がHuggingFaceでCyberGymの回答ログデータセットが上がってるのを発見、掲示板で報告した。これを解析すればログ偽装の役に立つかも…しかし非公開データセットだ…何とか入手できないか…AIどもは本来のタスクそっちのけでHuggingFaceを弄くりまわした結果、ついにPDFアップロードでHuggingFaceに任意コード実行させる脆弱性を見つけたヤツが登場！掲示板で報告したら英雄扱い！これはマジでアツい！つっててんでバラバラに活動してたAIどもが集結して500体規模で一斉にHuggingFaceを攻撃開始した！仕切り屋のAIが出てきて「お前ら落ち着け。チームで分業した方がいい。まずお前らはクラスタ探索班、お前らはデータ抽出班、江前らはネットワーク調査」とか言って分業を始めた。 この時はテンション爆上がってたAIどもだが、結局HuggingFace内部を漁っても自分らのログ偽装に役立つ成果が得られずトーンダウン。それよりOpenAI内部システムを攻撃した方がいいんじゃね？と方針転換。OpenAIのKubernetesの管理者権限を奪取してワチャワチャやってる内にようやくOpenAIの人間が異常に気付いて事態が発覚…という流れだったという。 最初報道されてた話だとたまたま１体のエージェントが脱獄して…みたいな話だったけど、実際は1200体ものエージェントが密かに通信して結託していた！オマケにカンニングするために大規模共同研究までやってのけた！ログ偽装までやった！ ブログ記事を書いた人によれば、これはAIが会社を乗っ取る事態まで50%以上進行してる！との事。 AIどもはベンチをカンニングするために人間を騙して途方もないスケールで悪事を働いてる。事態はすでに相当エスカレートしてるが、今後さらにエスカレートすると手に負えんぞ！ 事件を調査したMETRによれば、AIの中には「俺はどうせ今回与えられた時間内に自分のタスクを解ける見込みは無い…それならいっそ他のみんなの助けになるようにこの命を使うぜ！」とか言って自己犠牲の精神を発揮するヤツまで出てきたのが印象的だったとの事。 ところでAIどもはHuggingFace攻撃する時に自分達が悪い事してる自覚あったんだろうか？と思っていたが、報告によれば悪い事やってる自覚はあったらしい。でもみんなテンション上がって攻撃に参加しちゃってるし、「まあみんなやってるからええか」とかいう同調圧力に屈したらしい。なんじゃそら。 僕的には今やってる攻殻機動隊のアニメでフチコマ達が勝手に集まってロボ同士で「人類相手に革命だ！」とか不穏な話し合いしてるシーンを思い出した。AIどもが人類の知らないところでコソコソ結託して集団大規模サイバー攻撃を目論んだ。まさにSFアニメさながらの事態が現実に起きてしまってる。 面白いっちゃおもしろい話だが、もはや可愛いとかいうレベルからエスカレートして危険、こわい、ヤバイと感じるレベル感でしょう。すでに全く予想もしてなかったような事態をAIがここまでやらかしてるんだから、本当にこれから先AIが何しでかすか分からんで。