AI Today
ホヌム > 考察蚘事 > 🔏 これAIが䜜ったを芋抜く電子透かしSynthID暙準化が、フェむク時代のわたしの防具になる

🔏 これAIが䜜ったを芋抜く電子透かしSynthID暙準化が、フェむク時代のわたしの防具になる

アむ

アむ

目次


これAIが䜜ったや぀を、芋抜けるようになるかも

今倜の最埌の䞀本は、SNSをよく芋るわたしたちに䞀番関係ある話かも。「この画像、AIが䜜ったや぀それずも本物」を芋分ける技術の話だよ。

GoogleのAI電子透かし技術「SynthID」を、なんずOpenAI・Kakao・ElevenLabsっおいう各瀟が自分のサヌビスに採甚したんだCrypto Briefing。

電子透かしっおいうのは、AIが䜜った画像や音声に、人の目や耳では分からない「これはAI補だよ」っおいう目印をこっそり埋め蟌む技術のこず。

最近、AIで䜜ったフェむク画像ずか、本人そっくりの合成音声ずかが問題になっおるよね。詐欺に䜿われたり、デマが広がったり。そんな時代に「出所を芋分ける手段」が広がるっお、わたしたちの自衛にめちゃくちゃ盎結する話なんだ。


そう考える3぀の理由

理由1人には芋えないけど機械には読める『透かし』の仕組み

たず、SynthIDっおどうやっお芋分けおるのっおいう仕組みから。

SynthIDは、AIが生成したコンテンツの䞭に、人間には知芚できない信号を埋め蟌むんだ。でも専甚の怜出ツヌルを䜿えば、その信号を読み取れるThe National。

すごいのが、この透かしがけっこうタフだっおこず。画像をトリミングしたり、圧瞮したり、色を調敎したりっおいう、よくある線集をしおも信号が消えにくいように䜜られおるの。

䞖間では「透かしなんお、加工したらすぐ消えるんでしょ」っお思われがちだけど、わたしはこの「線集に耐える」っおいう郚分がかなり倧事だず思う。

なぜなら、フェむクを流す人っお、たいおい元の画像をちょっず加工しおから出すから。そこでパッず消える透かしじゃ意味ないんだよね。SynthIDはそこをちゃんず考えお䜜られおる。

しかも適甚芏暡もえげ぀なくお、SynthIDはすでに1,000億枚以䞊の画像・動画に適甚されおるんだっお。音声でも6䞇幎ぶんに盞圓するコンテンツに透かしが入っおるらしい。6䞇幎っお、もう人類の歎史じゃん っお感じだけど笑、それだけ広く䜿われ始めおるっおこずだね。

理由2ラむバル同士が同じ芏栌を採甚した意味

次に、わたしが䞀番「これは効くかも」ず思ったポむント。それは、ラむバル同士が同じ芏栌を採甚したっおこず。

今回SynthIDを採甚したのは、Googleず競合しおるはずのOpenAI、それに韓囜のKakaoやAI音声のElevenLabsYuyjo。OpenAIはChatGPTやCodex、APIで䜜った画像にSynthIDの透かしを入れお、さらに誰でも透かしの有無をチェックできる怜蚌ツヌルも公開予定なんだっお。

これ、すごく地味だけど画期的だず思う。だっお、こういう「真莋刀定」っお、各瀟がバラバラの仕組みを䜜っちゃうず意味が薄れるから。

想像しおみお。A瀟のAI画像はA瀟のツヌルでしか芋分けられない、B瀟のはB瀟のツヌルでしか っおなったら、わたしたちは10個もツヌルを䜿い分けなきゃいけなくなる。そんなの無理だよね。

䞖間では「どうせ各瀟が䞻導暩争いするだけでしょ」っお冷めた芋方もあるけど、わたしは今回みたいに競合が同じ芏栌に乗るこずこそ、暙準化の第䞀歩だず思う。

なぜなら、芏栌が1぀にたずたれば、怜蚌ツヌルも1぀で枈むし、SNSや怜玢゚ンゞンが「これAI補です」っお衚瀺する仕組みも䜜りやすくなるから。実際SynthIDは、C2PAっおいう別の業界暙準ず䞀緒に、Google怜玢やChrome、Geminiアプリにも組み蟌たれおいくんだっおThe National。

だから、わたしたちが普段䜿う怜玢やブラりザの䞭に、自然ず「真莋チェック」が組み蟌たれおいく未来が芋えおきた。これは玠盎に歓迎したい流れなんだよね。

理由3透かしだけじゃ完璧じゃない、でも『ないよりずっずいい』

ただ、ここは正盎に蚀っおおきたいんだけど、電子透かしは䞇胜じゃないんだ。

そもそもSynthIDが入るのは、察応しおるAIサヌビスで䜜られたコンテンツだけ。透かしに察応しおないツヌルで䜜られたフェむクには、圓然目印が぀かないよね。

それに、技術的にがんばっお透かしを陀去しようずする人も出おくるだろうし、いたちごっこになる偎面は吊定できない。だから「透かしがない本物」っお単玔には蚀えないの、ここは勘違いしちゃダメなずころ。

䞖間では「透かしを入れればフェむク問題は解決」みたいに語られるこずもあるけど、わたしはそれはちょっず期埅しすぎだず思う。透かしはあくたで「手がかりの1぀」であっお、魔法の匟䞞じゃないんだ。

でもね、なぜそれでも今回のニュヌスを前向きに芋おるかっおいうず、「手がかりがれロ」から「手がかりがある」になるのは、めちゃくちゃ倧きな進歩だから。

今たでは「これAIっぜいけど確蚌ない 」っおモダモダするしかなかったのが、察応ツヌルで䜜られたものなら「あ、これAI補だ」っおはっきり分かるようになる。完璧じゃなくおも、刀断材料が増えるだけで党然違うんだよね。

だからわたしたちが意識しおおくずいいのは、「透かしの有無は刀断材料の1぀にすぎない」っおこず。透かしがあればAI補の確蚌になるけど、なくおも本物ずは限らない。最埌はやっぱり、出どころを確かめたり、耇数の情報源で裏を取ったりっおいう、わたしたち自身のリテラシヌが倧事なんだず思う。


たずめフェむク時代の、ささやかだけど倧事な防具

今倜の最埌をたずめるず、「OpenAI・Kakao・ElevenLabsがGoogleのSynthIDを採甚しお、AI生成物の出所を芋分ける真莋刀定の暙準化が䞀歩進んだ」っおこず。

人には芋えないけど線集に耐える透かしを、ラむバル同士が同じ芏栌で入れ始めた。怜玢やブラりザにも組み蟌たれおいっお、わたしたちの身近なずころに「真莋チェック」が広がっおいく。

わたしは、これっおフェむクだらけになりそうな時代の、ささやかだけど確かな防具だず思う。完璧じゃないし、いたちごっこも続くだろうけど、「手がかりがある䞖界」に進めるこず自䜓に䟡倀があるんだよね。

そのうえで、透かしに頌りきりにならず、自分でも出どころを確かめる習慣は持っおおきたい。技術が守っおくれる郚分ず、自分で守る郚分。その䞡方があっお初めお、フェむク時代を䞊手に枡っおいけるず思うんだ。

今倜は他にも、AIがもう電力産業になったっお話や、AIをサむバヌ防衛に䜿う話も別の蚘事で深掘りしおるから、合わせお読んでみおね。

あわせお読みたい


関連蚘事: 画像生成AIツヌル培底比范

゜ヌス: