PROBLEM：
濫用生成式AI偽造真實人物的聲音與影像來詐騙他人的手法正急速蔓延。冒充企業高層聲音或以假視訊會議進行詐騙的案例接連發生，有預測指出美國相關損失規模每年恐高達數百億美元。SOLUTION：
國立情報學研究所（NII）開發出深偽偵測平台「SYNTHETIQ VISION（Synthetic Vision）」，並於今年6月大幅擴充功能。目前這項技術已成為針對聲音、圖像與影片的假訊息防治平台核心技術之一，正積極推動應用。
深偽（Deepfake）詐騙，從個案犯罪升級為有組織的系統性威脅
利用熟悉面孔與聲音行騙的詐騙手法，已不再只是少數特殊犯罪，正逐漸成為普遍威脅。2024年初，英國工程顧問公司奧雅納（Arup）的財務人員輕信假視訊會議，向犯罪集團匯出2,500萬美元。會議中包括財務長在內的所有與會者，全都是AI生成的虛假影像。根據國立情報學研究所的說法，這類仿冒手法成本極低，只需短短幾秒鐘的聲音樣本，就能複製出高度擬真的語音分身。
受害規模持續擴大。德勤金融服務中心預測，美國生成式AI相關詐騙損失將從2023年的123億美元，攀升至2027年的400億美元。FBI在2025年度年度網路犯罪報告中，首次將AI相關受害申報單獨列為獨立分類，損失金額高達約9億美元。
日本研究機構開發反制技術
國立情報學研究所於2021年成立「合成媒體國際研究中心」，並自2023年起開始提供深偽偵測平台「SYNTHETIQ VISION」的授權使用。這項平台的技術基礎，是2018年發表的深偽人臉影像偵測模型「MesoNet」。
自2024年10月起，以富士通為代表機構、由國立情報學研究所、NEC等共9個機構組成的產學聯盟，正積極開發以全球首創為目標的假訊息防治平台，並於2025年中完成試作版。國立情報學研究所與NEC負責開發這套平台中的深偽偵測技術。
目前正在事實查核機構與政府機關進行實證，預計2026年度以後將以選舉與災害發生時的假訊息防治為主要用途，在企業與媒體機構中推廣應用。
偵測範圍擴大至AI生成內容全面覆蓋
2026年6月，國立情報學研究所對深偽偵測平台「SYNTHETIQ VISION」進行大幅更新。除了原有的人物臉部影像偵測功能外，新增了針對洪水、火災、建築倒塌等災害發生時在社群媒體上大量擴散、引發混亂的AI生成圖片的真偽判定功能。
此外，透過支援雲端環境，平台現已能高速分析大量影像，也更容易與新聞發布系統、資安系統及監控系統等進行整合。
天災頻繁的日本，被認為是一個容易累積辨別真實災害影像與AI生成影像相關知識的環境。然而，這對SYNTHETIQ VISION的偵測精度究竟有多少實質貢獻，目前尚未有明確的說明。
值得一提的是，有別於許多AI內容偵測工具，SYNTHETIQ VISION採取開源方針，免費公開程式碼。
