PROBLEM：
生成AIを悪用し、実在する人物の音声や映像を装って相手をだます手口が急速に広がっている。企業幹部になりすました音声や偽のビデオ会議を使った詐欺も相次いでおり、米国では関連被害が年間数百億ドル規模に膨らむとの予測も出ている。SOLUTION：
国立情報学研究所（NII）は、ディープフェイク検知プラットフォーム「SYNTHETIQ VISION（シンセティック・ビジョン）」を開発し、今年6月には機能を大幅に拡張した。現在、この技術は音声・画像・動画を対象とした偽・誤情報対策プラットフォームの中核技術の一つとして活用が進められている。
ディープフェイク詐欺、特殊な犯罪から組織的な脅威へ
見慣れた人物の顔や聞き慣れた声を悪用する詐欺は、もはや一部の特殊な犯罪ではなくなりつつある。2024年初めには、英国のエンジニアリング企業アラップの財務担当者が、偽のビデオ会議を本物だと信じ込み、犯罪グループに2,500万ドルを送金してしまう事件が発生した。会議に映っていたCFOを含む参加者全員は、AIで生成された映像だった。国立情報学研究所によると、こうしたなりすましは低コストで実行でき、音声クローンもわずか数秒分の音声データがあれば生成できるという。
被害規模は拡大を続けている。デロイトの金融サービスセンターは、米国における生成AI関連の詐欺被害額が、2023年の123億ドルから2027年には400億ドルに増加すると予測している。また、FBIの2025年版年次サイバー犯罪報告書では、AI関連の被害申告が初めて独立した分類として集計され、被害額は約9億ドルに上った。
日本の研究機関が対抗技術を開発
国立情報学研究所は2021年に「シンセティックメディア国際研究センター」を設立し、2023年からディープフェイク検知プラットフォーム「SYNTHETIQ VISION」のライセンス提供を開始した。その基盤となったのは、2018年に発表されたディープフェイク顔映像検知モデル「MesoNet」である。
2024年10月からは、富士通を代表機関とし、国立情報学研究所やNECなど計9機関で構成される産学コンソーシアムが、世界初を目指す偽・誤情報対策プラットフォームの開発を進めており、2025年半ばには試作版を完成させた。国立情報学研究所とNECは、このプラットフォームにおけるディープフェイク検知技術の開発を担っている。
現在はファクトチェック機関や行政機関で実証が進められており、2026年度以降は、選挙や災害時の偽・誤情報対策を主な用途として、企業や報道機関での活用が予定されている。
AI生成コンテンツ全般へ、検知対象を拡大
2026年6月、国立情報学研究所は、ディープフェイク検知プラットフォーム「SYNTHETIQ VISION」を大幅にアップデートした。従来の人物の顔画像・映像の検知に加え、洪水や火災、建物の倒壊など、災害時にSNSで拡散され混乱を招くAI生成画像を含む一般画像の真偽判定にも対応した。
また、クラウド環境への対応により、大量の画像を高速に解析できるようになったほか、ニュース配信システムやセキュリティシステム、監視システムなどとの連携もしやすくなった。
災害の多い日本は、実際の災害画像とAI生成画像を見分けるための知見を蓄積しやすい環境にあると考えられる。一方で、それがSYNTHETIQ VISIONの検知精度にどの程度寄与しているかについては、現時点では明らかになっていない。
また、多くのAIコンテンツ検知ツールと異なる点として、SYNTHETIQ VISIONはオープンソースの方針を採用し、プログラムを無償で公開していることが挙げられる。
検知技術だけでは解決できない
もちろん、国立情報学研究所だけがディープフェイク検知に取り組んでいるわけではない。米インテルの「FakeCatcher」や「Reality Defender」、「Sensity AI」など、世界的な競合も存在する。2026年のディープフェイク検知市場の規模予測は10億ドル未満から数十億ドルまで幅があり、この分野がまだ黎明期にあることを物語っている。
また、検知技術には限界もある。2024年に実施された実環境のディープフェイクを対象としたベンチマークでは、既存の検知ツールの精度がおよそ45〜50％低下した。過去のディープフェイクで学習した検知モデルが、より新しい生成技術に十分対応できないためだ。
そのため専門家は、検知技術は必要ではあるものの、それだけでは十分ではないと指摘する。企業には、別の通信手段による本人確認や合言葉の設定など、人による確認を併用することが求められる。
一方、国立情報学研究所の研究者たちはより前向きな見方を示している。実在する人間のデータと数千種類ものAI生成モデルを用いて学習することで、これまで学習していないディープフェイクも検知できる可能性があるという。
日本が目指しているのは、ディープフェイク検知を単なる製品ではなく、AI時代を支える社会インフラへと育てることである。
トップ写真：国立情報学研究所（NII）
この記事に関するお問い合わせは、jstories@pacificbridge.jp にお寄せください。
