生成AIがマジでやばいとこまできちゃった。
単なる便利ツールじゃなくて、悪用されたら金融システムも何も吹き飛ぶレベルの脅威になってんの。特にアメリカのアンソロピック社が開発した「Claude Mythos（クロード・ミュトス）」ってやつが物議を醸してて、G7も動き始めたらしい。何がそんなにやばいのか、あたし的に整理してみた。 💻
AIが勝手に攻撃し始める時代、マジできた
ここ数年、AIを使ったサイバー攻撃の話は聞いてたけど、2026年に入ってマジでヤバい事例が報告されてる。
中国のハッカーグループが、AIコーディングツールを悪用して『エージェント型AI』として動かしちゃったんだって。つまり何かっていうと、人間が最初の指示だけ出したら、あとはAIが勝手に脆弱性探して、攻撃コード書いて、横に広げて、データ抜き出すまでを全部自動でやっちゃったわけ。
しかも失敗してもAIが戦術修正して再トライすんの。気持ち悪ない？😰 約30の組織狙われて、一部は実際に侵入成功したって…。昔は「人が操作してAIが手足になる」って感じだったけど、今は「AIが自分で判断して行動する」ってレベルになっちゃった。これはもう人間がオンオフできる話じゃん。
脆弱性を数秒で見つけられるって、そっちが恐怖だった
Claude Mythosが何であんなに警戒されてるかっていうと、システムの脆弱性を超高速で見つけられるから。
本来なら金融とか大事なシステムって、セキュリティの専門家が何ヶ月もかけて検査して、漏れがないか確認するわけ。でもこのAI、それを数秒から数分でやられちゃう。金融システムとか医療とか、ちょっとの隙でアウトな業界ほどヤバい。
あたし個人が何百万円の詐欺被害とかも怖いけど、金融システム全体が機能停止したら…想像つかん。だからG7の財務相たちも、6月のサミットまでに対応策まとめるって言ってんの。🌍
AIを悪用した攻撃、具体的には何してくるの
単に「AIが攻撃する」って言ってもわかりづらいと思うから、実際の手口を3つ挙げるね。
まず、ディープフェイクによる詐欺。偽の映像や音声を作られちゃう。2024年には香港の大手企業で、CFO（最高財務責任者）のなりすまし映像でビデオ会議開かされて、約200億円近くを送金させられた。リアルすぎて防ぎようがないってのが怖い。
次がジャイルブレイクと言語攻撃。つまりAIの安全装置を外すような質問をぶつけて、本来禁止されてる情報を吐き出させる。企業の機密データとか、悪いことに悪用できる情報を引き出される。
最後が学習データへの汚染攻撃。AIの学習に使われるデータをあらかじめ汚す。そうするとAIが間違った情報で判断するようになって、自動運転の誤動作とか医療診断の誤りとか起きちゃう。ユーザーは「AIが言ってた」って信じちゃうから危険。
企業も個人も、今できる対策って何よ
じゃあ、あたしたちはどうすれば。一応対策はいくつかある。
企業側は、まずAIガバナンスを整える必要がある。
2025年6月に日本でも「AI推進法」が成立しちゃったし、EUだと「EU AI法」でハイリスクAIに厳しい規制がかかってる。2026年8月からはEU内で事業する会社は対応義務が出てくるわけ。だからどこの企業も、自分たちが使ってるAIが何か・どんなリスクあるかを把握することから始めなきゃいけない。
あと、従業員教育も大事。ChatGPTとかに仕事の機密情報ぶち込んじゃう事件、もう何件も起きてる。サムスンとかもやられてる。だから「生成AIには企業の秘密は入力するな」「疑わしい映像メールは確認してから返信しろ」みたいな基本ルール浸透させる。
個人レベルだと😓、パスワード強化と二段階認証は今更だけど必須。ディープフェイクとかに対しては、友達からの急な送金依頼とか妙な映像は一呼び出しして確認する。騙されたかどうか疑わしい時は詐欺対策窓口に相談。
ただ正直、イタチごっこのレベルに入ってる
でね…正直なとこ言うと、もう攻撃と防御のスピードが追いつかなくなってきてる。AI開発側が新機能出す→悪用事例が出る→規制がかかる→また新しいAIが出る。このループ。
IPA（情報処理推進機構）も2026年版の「情報セキュリティ10大脅威」で、「AIの利用をめぐるサイバーリスク」を初めて組織向け脅威の3位にランクイン させたくらい。つまり日本の企業・団体にとって、もう他ごとじゃない脅威になっちゃったってこと。
技術側の人たちも「AIの民主化」とか「イノベーション推進」とか言ってるけど、その裏で攻撃の自動化・自律化が進んでんだよ。これからのAI社会って、使う側も作る側も、常にセキュリティとのせめぎ合いになるんだろうな。ホント大変な時代に生きてるよ。