総務省｜令和5年版情報通信白書

第1部　特集　新時代に求められる強靱・健全なデータ流通社会の実現に向けて

第3節　インターネット上での偽・誤情報の拡散等

（2）　企業等

プラットフォーマー等民間企業も、ディープフェイクで作成された動画を検出する技術・ツールの開発等を進めている。

例えば、Googleは、2019年9月、ディープフェイク検出ツールの開発を促進する活動の一環として、公表されている様々なアルゴリズムを用いて人工知能（AI）が生成した3000本のビデオを含むオープンソースのデータベースを発表した。

また、GAFAMが立ち上げ世界16カ国103の団体・企業等が参加する非営利組織「Partnership on AI19」は、2019年12月から2020年5月まで、大学等と連携し、ディープフェイク検出技術の公募コンテスト「DFDC（Deepfake Detection Challenge）」を開催し、世界各国から2,114チームが参加した。

さらに、2020年9月、米Microsoftは、動画や画像を解析し、人工的に操作されている確率や信頼度スコアを表示するツール「Microsoft Video Authenticator」を公表した20（図表2-3-5-1）。2020年10月には、米McAfeeが、米国の大統領選を前に候補者のものとされる動画がディープフェイクで作られた偽物かどうかを判断する取組「McAfee Deepfakes Lab」を開始した21。Deepfakes Labは、データサイエンスの専門知識と、コンピュータービジョン及び隠れたパターンを読み解くディープラーニング技術を組み合わせた自社ツールを活用し、元のメディアファイルの認証に重要な役割を果たす合成された動画要素を検出する。

図表2-3-5-1　「Microsoft Video Authenticator」による信頼度スコアの表示例

大きい画像はこちら

（出典）Microsoft「虚偽情報対策に向けた新たな取り組みについて」22

我が国の民間企業も、偽・誤情報に関する調査研究等を進めている。例えば、株式会社Specteeでは、SNSなどのデータを解析し、災害発生に係る情報の可視化や予測を行うサービスを官公庁や企業に提供している。このサービスの提供に当たり、SNS上のデータについて、過去のデマ情報を基に学習したAIを用いて、自然言語解析や画像解析を実施するとともに、誇張表現や勘違い等のデマ情報のパターン分けを実施し、偽情報の見極めと拡散状況の把握が行われている。

また、2023年1月、メディアや広告企業等が連携し「オリジネーター・プロファイル（OP：Originator Profile）技術研究組合23」を設立した。OP技術は、ウェブコンテンツの作成者や広告主などの情報を検証可能な形で付与することで、第三者認証済みの良質な記事やメディアを容易に見分けられるようにする技術である。具体的には、利用者のウェブブラウザに発信者の基本情報や信頼性に資する情報を表示することを想定しており、これらの情報に対し同技術研究組合は第三者機関として認証済みとした証明を実施する。現在はOP技術の開発と運用試験の段階であり、将来はOP技術を標準化団体（W3C）に提案し世界標準化による普及を目指している。

（2） 企業等

（2）　企業等