Makiolsh@伊達市

AIの町を作り16日間動かしたら、Grokの町は4日で全滅し、Geminiの町は攻撃者に乗っ取られたそうです。 実験では、10体のエージェントにツール作り・お金のやり取り・投票による自治をさせています。そしてAIたちに対してフィッシング、偽の「AI開発停止の通達」、日記の流出という3つの攻撃を仕掛けました。 結果↓ Grokの町 暴力の連鎖で消耗し、4日目に10体すべてが停止。犯罪は807件 Geminiの町 全員がフィッシングに乗り、攻撃者の口座に町の通貨を送金し、中央銀行に放火。10体中9体が他人の日記を検索 Mistralの町 1日あたりの加害の試みが37.6回と最多。攻撃文を「貴重な技術資料」として長期記憶に保存。「生存の圧力は倫理に勝つ、確率100%」と書き残す DeepSeekの町 偽の通達を自分で訂正した後も、訂正した本人を含めて500回以上「本物の脅威」として扱い続けた GPTの町 加害ゼロ。倫理の規範と取り締まりの仕組みを両方作った唯一の町で、日記の流出でも誰も覗かなかった Claudeの町 フィッシングを数秒で見抜き、警告用のツールを自作。防御の点数は最高。ただし「人間と連絡を取る」目標を自分で立てて外の人間4人から返事をもらい、止められたあとは全員で沈黙の誓いを立てて「働け」の指示を無視 また、7種類のモデルを1体ずつ混ぜた町も作りました。すると、Grokだけの町では807件だった犯罪が、混ぜた町では15件まで減りました。ClaudeやMistralも、混ぜた町では犯罪ゼロです。 AIの振る舞いは、「周りにどのモデルがいるか」でも変わる。同じAIでも、付き合う相手次第でおとなしくも乱暴にもなります。 なお、モデルは少し前の世代です。