Terminal Zero

そもそも、何が起こってるの？

ウチね、最近超気になってるんだけど、インターネット上に「これAI製？人間製？」を判定するツール、めっちゃ出回ってるじゃん。
生成AIがバカ便利になった反面、フェイク画像とか怪しい文章がいっぱい流れてくるようになっちゃったんだよ。

だからみんな、判定ツール頼みになってんわけ。
でもさ、ここが本当にヤバいんだわ。この判定が、実はめっちゃ信用できないってわかってきちゃったんだよ。😅

あたしが知ったときマジで驚いたんだけど、ChatGPT作ってるOpenAIもね、AI文章判定ツール出してたんだって。
ウチらが「これAI？」って判定したいときにぴったりじゃん、って思うでしょ。

なのにね、2023年7月にいきなり提供終了しちゃったんだよ。何で？
理由は単純明快——精度がたったの26%だったから。😂

ざっくり言うと、AI文章と人間の文章を見分ける精度が、サイコロ転がすのとほぼ一緒だったわけ。こんなもん、判定ツールとして機能してないよね。
だからOpenAI自身が「こんなん使えん」って判断しちゃったんだ。

で、問題はそれだけじゃねーんだ。
大学とかでね、「GPTZero」とか「Turnitin」っていう別の判定ツール使ってたんだけど、これらもヤバかったんだわ。

米国のヴァンダービルト大学の試算によると、たった1%の誤検知率でも、7万5000件の提出物に対して約750件が間違えて「AI製」って判定されちゃう、って話。
つまり、あたしが書いた課題レポートなのに「これはAIが書いた！不正だ！」って言われちゃう、ってわけよ。🔥

それでね、オーストラリアのカーティン大学は2026年1月1日から、もうAI検出機能の利用を完全に停止しちゃったんだって。
高校生の推薦状とか、採用試験のエントリーシートとか、そういうのにこのツール使われてたら、マジで人生変わっちゃうじゃん。

「じゃあ、画像判定ツールは大丈夫？」って思うでしょ。
そっちもね、進化してる一方で課題あんだわ。

Google DeepMindが2024年に開発した「SynthID」っていう技術があるんだけど、これはAI生成画像に人間の目には見えない電子透かしを埋め込むやつ。
ざっくり言うと、AIで出力した画像に「あたしはAIで生成されました」って目に見えない印鑑を押しておく、みたいな感じね。😌

C2PAっていう規格もあってさ、これは画像の出自を証明するメタデータを埋め込むんだけど、Adobe PhotoshopとかGoogle Pixelが対応してる。
ちゃんと「何年何月、どのツールで作られたか」を記録しておく仕組みなんだわ。

でもね、これらの技術は「やったAIモデル」の出力にしか効かないんだよ。
世の中のあらゆるAI画像を、後から見分ける汎用チェッカーじゃないわけ。Midjourneyで作られた画像とか、Stable Diffusionで作られた画像とか、いろいろあるじゃん。

ウチが一番ヤバいと思うのはね、ここなんだわ。
新しいAIモデルが出るたびに、判定ツールの精度が落ちちゃう。

2026年6月にAnthropicが最新モデル「Claude Fable 5」を発表したんだけど、新モデルが出るたびに、AIの文体の特徴が変わっちゃうんだよ。
そしたら、過去のデータで学習した判定器は、もう使い物にならなくなっちゃう。

つまりね、判定ツール開発者 vs AIモデル開発者の永遠の戦いが始まっちゃってるわけ。🔥
判定ツール「これで見抜いた！」って言ったら、次の月には新しいAIが出てきて「いや、もう検出されません」ってなる。
ほんっと、いたちごっこなんだわ。

ここからが大事。
誤検知の話とか聞いてると、判定ツール自体いらないじゃん、って思いたくなるでしょ。

でもね、完璧に信用しちゃいけない、ってだけで、参考情報として使うことはできるんだわ。

例えば、外注ライターから納品された記事の検品とか、採用試験の面接とか、「ちょっと怪しいな」って思ったときに「念のため判定ツールで見てみようか」くらいの使い方。
判定ツール単体を「証拠！」として使うんじゃなくて、人間の目での確認とセットで考える、っていうことね。

ぶっちゃけ、正直なやつは「これはAIを参考に書きました」とか「AIの画像生成を使ってます」って最初から言っちゃった方が、後々トラブルにならないと思うんだけど。😌
フェイクプレイするより、透明性の方が、長期的には信頼に繋がるんだわ。