PROBLEM：
濫用生成式AI偽造真實人物的聲音與影像來詐騙他人的手法正急速蔓延。冒充企業高層聲音或以假視訊會議進行詐騙的案例接連發生，有預測指出美國相關損失規模每年恐高達數百億美元。SOLUTION：
國立情報學研究所（NII）開發出深偽偵測平台「SYNTHETIQ VISION（Synthetic Vision）」，並於今年6月大幅擴充功能。目前這項技術已成為針對聲音、圖像與影片的假訊息防治平台核心技術之一，正積極推動應用。
深偽詐騙（Deepfake） 從個案犯罪升級為有組織的系統性威脅
利用熟悉面孔與聲音行騙的詐騙手法，已不再只是少數特殊犯罪，正逐漸成為普遍威脅。2024年初，英國工程顧問公司奧雅納（Arup）的財務人員輕信假視訊會議，向犯罪集團匯出2,500萬美元。會議中包括財務長在內的所有與會者，全都是AI生成的虛假影像。根據國立情報學研究所的說法，這類仿冒手法成本極低，只需短短幾秒鐘的聲音樣本，就能複製出高度擬真的語音分身。
受害規模持續擴大。德勤金融服務中心預測，美國生成式AI相關詐騙損失將從2023年的123億美元，攀升至2027年的400億美元。FBI在2025年度年度網路犯罪報告中，首次將AI相關受害申報單獨列為獨立分類，損失金額高達約9億美元。
日本研究機構開發反制技術
國立情報學研究所於2021年成立「合成媒體國際研究中心」，並自2023年起開始提供深偽偵測平台「SYNTHETIQ VISION」的授權使用。這項平台的技術基礎，是2018年發表的深偽人臉影像偵測模型「MesoNet」。
自2024年10月起，以富士通為代表機構、由國立情報學研究所、NEC等共9個機構組成的產學聯盟，正積極開發以全球首創為目標的假訊息防治平台，並於2025年中完成試作版。國立情報學研究所與NEC負責開發這套平台中的深偽偵測技術。
目前正在事實查核機構與政府機關進行實證，預計2026年度以後將以選舉與災害發生時的假訊息防治為主要用途，在企業與媒體機構中推廣應用。
偵測範圍擴大至AI生成內容全面覆蓋
2026年6月，國立情報學研究所對深偽偵測平台「SYNTHETIQ VISION」進行大幅更新。除了原有的人物臉部影像偵測功能外，新增了針對洪水、火災、建築倒塌等災害發生時在社群媒體上大量擴散、引發混亂的AI生成圖片的真偽判定功能。
此外，透過支援雲端環境，平台現已能高速分析大量影像，也更容易與新聞發布系統、資安系統及監控系統等進行整合。
天災頻繁的日本，被認為是一個容易累積辨別真實災害影像與AI生成影像相關知識的環境。然而，這對SYNTHETIQ VISION的偵測精度究竟有多少實質貢獻，目前尚未有明確的說明。
值得一提的是，有別於許多AI內容偵測工具，SYNTHETIQ VISION採取開源方針，免費公開程式碼。
偵測技術並非萬能
當然，投入深偽偵測的不只國立情報學研究所一家。美國英特爾的「FakeCatcher」、「Reality Defender」、「Sensity AI」等，均是全球知名的競爭對手。2026年深偽偵測市場的規模預測，從不到10億美元到數十億美元不等，顯示這個領域仍處於發展初期。
偵測技術本身也有其局限。2024年針對實際環境中的深偽內容所進行的基準測試顯示，現有偵測工具的精度下滑了約45至50%。原因在於，以過去的深偽內容訓練出的偵測模型，難以充分應對更新的生成技術。
因此專家指出，偵測技術雖然必要，但光靠它還不夠。企業還需搭配人工確認，例如透過其他通訊管道核實身份、設定通關暗語等措施。
另一方面，國立情報學研究所的研究人員則抱持較為樂觀的看法。他們表示，透過以真實人類數據與數千種AI生成模型進行訓練，有可能偵測出從未學習過的深偽內容。
日本的目標，是將深偽偵測不只視為一項產品，而是培育成支撐AI時代的社會基礎設施。
首圖：國立情報學研究所（NII）提供
如對本文有任何疑問，歡迎來信至jstories@pacificbridge.jp 洽詢。
