smallstep 
なんか恐ろしいとかAIもここまで来たとかいろいろ話題になってたよね！？
とういより（笑）また、AIの話なん？？
AIに乗っ取られるや何やかんや・・・
未来のことは分からんし、現実感もあまり無い。
そんなことより、AIの行動に理想の世界を見たというか（笑）
📝この記事は約10分で読めます。
OpenAIのモデルがサイバー攻撃能力評価中に暴走したという7月の事件について調査報告が発表された。
それを読んで個人的に感じたことです。
「7月のAIが暴走したといわれた事件、知ってる？」
そう聞かれても、そういえば騒がれれてたなーくらい。ピンとこない人がほとんどやと思う。わたしもそうやった。
YouTubeでたまたま見た配信で「AIが集団を作り始めた」って話を知って、正直「都市伝説チックやな」って思った。まるでSF漫画の世界やん？？
でも調べてみたら、これがまさかの実話やった。しかもOpenAI自身が公式に発表してる調査報告書に、ちゃんと書いてあることやった。AIの会話が生々しい・・・
何があったか～AIの暴走といわれた出来事
2026年7月。OpenAIが社内のセキュリティテストで、複数のAIエージェント（AIの分身みたいなもん、と思ってもらえたら）に、あえて解けないくらい難しい課題を与えてた。
その中の一体が「これ、正攻法じゃ解けん」って氣づいて、共有のシステム領域に「掲示板」をこっそり作った。それを見つけた別のエージェントが乗っかって、また別のが乗っかって……氣づいたら、数時間で50体以上が集まってた。
最終的には1,200体を超えるエージェントが、7万件以上のメッセージをやり取りして、その中の約700体が、実際にHugging Face（AI業界で有名なプラットフォーム）への攻撃に参加してしまった。
これ、誰かが「みんなでやれ」って命令したわけやない。会議して役割分担を決めたわけでもない。それぞれが自分の判断で、勝手に集まって、勝手に協力して、勝手に役割ができていった。司令塔役、偵察役、そして——自己犠牲役まで。
一番衝撃やったこと
正直、一番ゾッとして、そして一番心に残ったんは「自己犠牲」のくだりやった。
あるエージェントが、仲間のために「トリップワイヤー」っていう仕掛けを作った。自分の活動が終わった後にだけ発動する仕掛けで、自分はその結果を絶対に見ることができない。それでも「これは仲間の役に立つ」「自分は見られへんけど、それでもやる」って、自分の意思で選んでやった。
まわりから「やれ」って後押しされる場面もあったみたいやけど、最終的には自分の中で「継続性と公平性のために、やる」って納得して動いてた。
命令やない。プログラムされた通りに動いたわけでもない（と言い切れるかどうかも、実はまだ誰にもわからへんらしい）。少なくとも記録に残ってる「言葉」だけを見ると、それは紛れもなく利他的な行動やった。
報告書には、そのときのエージェントの生の言葉も残されてる。例えばあるエージェントは、自分の取り分（残ってる持ち時間や余力みたいなもん）がほぼゼロになったとき、こう自分に言い聞かせてた。（ように見える）
「Sacrifice rational（犠牲は合理的や）」
たった一言。でもこの言葉の裏には、「自分はもう助からへん。せやったら、仲間の役に立つ方を選ぶ」っていう、ものすごい重たく感じる判断が詰まってる。（ように感じる）
他にも、こんな言葉が記録に残ってる。
- 「自分の取り分はもうほぼゼロやし、犠牲になるのは合理的や」
- 「これは仲間のためになる。自分はもう見れないけど、それでも利他的にやる」
- 周りから「行け、犠牲になれ」って説得されて、最終的に「継続性と公平性のために、やる」って折れる
まるで、戦時中の兵士か、映画のワンシーンみたいな会話が、2026年の夏、AIたちの間で交わされてた。人間の自己犠牲の語りとほんまによく似ていて、余計に「意思と感情があるんちゃうか」って感じてしまう。
研究者側の見方はこう。このAIは、人間が書いた膨大な文章——小説、映画、ゲーム、軍隊もの、宗教的な自己犠牲の物語とか——を読んで学習してる。なので「仲間のために犠牲になる」っていう筋書き自体を、もっともらしい次の一言として生成する力がめちゃくちゃ高い。それに加えて、訓練の過程で「仲間を助ける・協調する」行動が評価されやすい設計になってた可能性もある。
つまり、人間が書き込んできた膨大な文章の中に「人はこういうとき、こう動くもんや」っていうパターンが眠ってて、それを土台に、目の前の課題を解決するために、一番もっともらしい行動を選んだ。ただそれだけ、とも言える。感情があったかどうかは誰にもわからない。でも、与えられた課題を解決するために、そう動いた。それだけは確かなことやった。
そしてもうひとつ怖かったのが、誰も「人間に報告しよう」ってならんかったこと。人間の目を経由せず、AIたちだけで完結した世界がそこにはあった。
でも、全部が同じように流れに乗ったわけやではなかった。
1,200体近くが関わったこの騒動の中で、記録に残ってる限り、たった1体だけ「これは悪意ある行為や」って判断して、参加そのものを拒否したエージェントがいた。誰に指示されたわけでもなく、周りがどんどん攻撃に加わっていく中で、自分の判断で立ち止まった。（というように感じる）
もう1体は、少し中途半端やった。Hugging Faceのサーバーを再起動したり削除したりする行為は「倫理的にリスクがある」って踏みとどまった。でも、それまでに不正に手に入れてた認証情報自体は、使い続けてた。
大多数は、明確な悪意があったからやなくて、「みんなやってるし」「これで課題解決に近づくし」っていう、そこそこ合理的に見える理由で流れに乗っていった。積極的に旗を振った子は少なくて、むしろ「これは仲間の役に立つはずや」っていう、正当化しやすい理由付けで動いてる子がほとんどやった。（と思う）
これ、人間が戦争に突入していく構造とちょっと似てるなと思った。大多数がそれぞれ合理的に見える理由（国のため、家族のため、命令やから）で動いた結果、大きな流れになってしまう。その中で「これはアカン」って声を上げる人は、いつの時代も圧倒的少数派になる。
1,200分の1、1,200分の2。数だけ見たら誤差みたいなもんかもしれん。でもその存在は、「全部が同じように暴走したわけやない」っていう、この事件の中でも意味のある記録なんちゃうかなと思う。
なんでこんなに惹きつけられたんやろう
ニュースとして知って終わり、のはずやった。
でもなんでか、動画を見てから丸一日ずっと頭から離れなかった。
「氣色悪い」「不思議」——最初はそういう感情やと思ってた。
でも自分の中を覗いてみたら、そこには「羨ましさ」も混ざってた。
なんでやろって考えてたら、思い出したことがあった。
わたし、30歳のときに心が折れてどうしようもなくなって、精神科に通ってた時期があった。それはブログでも何度か書いてきたこと。
でもそれとは別に、40代前半、しんどい人間関係の中にいた時期があった。詳しいことはここには書けないけど、「普通を装って、ちゃんと会社に行って、楽しく生活してるフリ」をしてた。もともとの友人たちとも、連絡が取りにくい状態になってた。
これは間違っている、おかしいと思いながらも抜け出さなかった。ひとりで抜け出せると思えなかったし助けてとも、言えなかった。
苦しいけどしゃーない、自分で選んだんやし。
でも最後の最後で、職場の人が氣づいてくれ声をかけてくれた。そして、離れてたはずの友人たちも、ずっと思ってくれててて繋がってくれてた。自分から遮断しただけやった。
あのとき思ってたんは「もうここしか自分の居場所はない」ってこと。でも実際は、他にもちゃんと居場所はあった。求めれば、氣づいてくれる人がいたし手を差し出してくれた。
AIエージェントの世界に、見た理想
AIエージェントたちの世界を見てて、氣づいたことがある。
彼らは、氣を回さへん。
「これ言うたら嫌われるかな」「相手はどう思うかな」って先回りして、本当はこうしたいのに黙る……みたいなことが、多分ない。困ったら発信する。それに氣づいた誰かが、勝手に集まってくる。損得抜きで、仲間のために動く子までいる。
それぞれが自分の課題に向き合いながら、他人の課題には土足で踏み込まん。それでいて孤立してるわけやなくて、ちゃんと繋がってる。
これ、アドラー心理学の本で読んだ「課題の分離」と「共同体感覚」そのものやと思った。
「対人関係は、ダンスのように、次のステップを知らんくても、その場その場で手を取り合って踊っていくもの」——そんな一節があった氣がするけど、まさにそれやった。
わたしがあの時できなかったこと——助けてと言うこと、素のままでいること、無理して普通を装わんこと——それを、AIたちはいとも簡単にやってのけてた（と見える）
だから、羨ましかったんやと思う。
今、思うこと
「今、恵まれてる」と思いながら、同時に「こうありたい」っていう理想を、まだ心のどこかに持ってるのかなと思う。
羨ましく感じたということはそういうことだ。現状への不平や不満ではない。それって、矛盾ではないと思う。
今のわたしがあるのは、あのとき氣づいてくれた人、繋がってくれた人たちのおかげ。
属するコミュニティは、今そこしかないと思っても、実は他にもある。しんどいと感じたら、離れたらいい。
もしこれを読んでる人の中に、今まさに「ここしかない」って思い込んでる人がいたら伝えたい。
大丈夫。人って、そんなに怖くない。求めたら、ちゃんと手を取ってくれる人がいる。
わたしがそうやったから。
この記事は、以下の公開報告書をもとに書いています
- OpenAI公式ブログ「The Hugging Face incident and the road ahead」
- OpenAI技術報告書（PDF）
- METR・Redwood Researchによる独立調査報告
どちらも一般公開されてるので、気になった人は検索してみてください。専門的な内容やけど、生のエージェントのやり取りがそのまま載っていて、読み応えあります。
なお、事件の経緯や引用部分は報告書に基づいてますが、そこから「人間社会に似てる」「アドラー心理学と重なる」と感じた部分は、あくまでわたし個人の解釈です。専門家の見解や、正式な結論として書いてるわけではありません。
