え、ついにAI生成物の『身分証チェック』が誰でもできるようになったんだけど。😳
10月7日にGoogleが「SynthID Detector」ってやつを全世界に一般公開したんだわ。
これまでジャーナリストとか研究者限定だったのが、急にウチらも使えるようになったの、普通にデカい話。
最初タイトルだけ見た時「また判定ツールね、はいはい」くらいのテンションだったんだけど。
中身知ったらマジで仕組みが細かくてビビった。
そもそもSynthIDって何なん
ざっくり言うとね、画像とか動画とか音声がAIで作られたかどうかを見分ける電子透かし技術のこと。
2023年からGoogleがコツコツ育ててきたやつで、AIがコンテンツを作る瞬間に人の目じゃ絶対わかんないマークをこっそり埋め込んどくの。
あたし的に例えるなら、洋服のタグに縫い付けてある洗濯表示みたいな感じ。
見た目じゃ全然わかんないけど、専用の機械にかけると「あ、これ工場製だわ」ってバレるやつ。
SynthID Detectorはその『専用の機械』役を誰でも使えるWebサイトにしたってわけ。
なんで今これが話題になってんの
今回のアプデのデカいポイントは対応範囲がぶわっと広がったこと。
これまでGoogle製AIしか見れなかったのに、OpenAIとかNVIDIA、Kakaoのコンテンツまで判定できるようになったんだって。
Appleも近々仲間入りする予定らしくて、業界またいで『透かし同盟』みたいなのができつつある感じ。
背景にはディープフェイクとかAI生成画像がSNSにバンバン流れてる現状があるっぽい。
信じ込んじゃう人続出で、企業側もさすがにヤバいってなって対策急いでる雰囲気ウチも感じてたんよね。
実際どこまで見分けられるの
ここ、正直ガッカリポイントもあるから言っとく。
SynthIDの透かしが入ってないAI、つまり同盟に参加してない企業のツールとかローカルで動くモデルで作られたものは一切検出できないの。
「検出されませんでした」が出ても『じゃあ人間が撮った本物！』って意味じゃないのがマジ罠。
トリミングとか強めの加工を重ねると透かしがどんどん薄れて消えちゃうこともあるんだって。😅
あと検出できた場合でも『どこまでAIが関わったか』までは教えてくれないの。
全部AIが作ったのか、人間が撮った写真を軽くAIで加工しただけなのか、その区別はつかないらしい。
現時点ではテキストも非対応で、画像・動画・音声だけが対象。言語も英語限定だから日本語UIはまだ先っぽい。
で、あたしらの生活にどう関係すんの
正直これ、使い方次第でめっちゃ便利になると思うんよね。
ニュースでバズってる画像とか動画、怪しいなって思った時にサクッとチェックできる選択肢が一般人にも開放されたのはデカい。
フリマで商品写真が本物かAI生成か気になる時とか、SNSで流れてきた『速報っぽい画像』を疑う癖つける時とか、普通に出番ありそう。
ただ『検出ツールがあるから安心』じゃなくて、『完璧じゃないツールがあるだけ』って温度感で付き合うのがちょうどいい気がする。
あたしもこれから怪しい画像見たら一回通してみるクセつけようかなって、普通に思ったわ。💭