IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。
2024年の上半期だけ見ても、ディープフェイク検出ツールの開発に焦点を当てた記事が300件以上IEEE Xplore digital libraryで公開されています。
「ディープフェイクのアルゴリズムは、AIによって、より見破りにくいフェイクを生成できるようになっていますが、それに対抗するAIを駆使した検出技術もまた、さまざまな手法やアルゴリズムを活用してフェイクを識別する能力を維持しています」とIEEEシニアメンバーのアイヤッパン・ピライ氏(Aiyappan Pillai)は述べています。
■ディープフェイクとは何か?
ディープフェイクという用語は、ディープラーニングとフェイクを組み合わせた造語です。ディープフェイクとは、実在の人物が実際には言っていないことを言ったり、やっていないことをやっているかのように見せかける、AIによって生成されたリアルな動画、音声クリップ、静止画像のことです。近年では、政治の世界にも出現しています。また、エンターテインメントの分野にもその影響が及んでいます。通常、ディープフェイクは、人気ミュージシャンの同意なしにその楽曲を模倣することで、エンターテインメント業界の経済を混乱に陥れる恐れがあります。
■最新の検出手法
ディープフェイクを見破る技術は大きく分けて2つのカテゴリーがあり、その有効性を見極める研究が盛んに行われています。
機械学習:ディープフェイクを識別する1つの手法は、膨大な量のディープフェイクと本物のコンテンツを機械学習モデルに投入して、両者の違いを認識できるよう学習させることです。こうした技術は、必ずしもマシンビジョンに頼っているとは限りません。むしろ、画像をデータに変換し、そのパターンから学習しているのです。この手法の課題の1つとしては、新たに出現したディープフェイクが訓練に使用したデータと大きく異なる場合、識別するのが困難になることです。
意味分析:生データに依存する機械学習手法とは対照的に、意味分析では、人工知能システムが写真の中のリンゴや本を認識する際に用いるマシンビジョン技術と同じ手法により、画像の内容やコンテキストを分析します。この手法を使えば、話し手の顔の血流パターン、頭の形、または外見が、時間が経過しても一貫しているかどうかを分析することができます。意味分析は、意味をなさない物体間の関係性も含めて分析対象としています。例えば、バスルームの設計図を思い描いてみてください。AIが生成した画像では、シャワーヘッドが機能的に使用できない場所に設置されていることがあります。
■電子透かし
ディープフェイクを識別する必要性から、一部の生成AI企業はそのためのマークを開発しています。場合によって、これらのマークがユーザーに表示されることも、非表示になることもあります。
「最も効果的な技術の1つは、生成AIプラットフォームを使用して生み出された画像に埋め込む電子透かしです」と、IEEEシニアメンバーのラーフル・ヴィシュワカルマ(Rahul Vishwakarma)は述べています。
■バイアスに関する疑問
ディープラーニングモデルがディープフェイクを検出できるよう訓練するには、約5~6個の一般的なデータセット(人物の動画や画像)が使用されます。1つのデータセットはすべて有名人で構成されています。研究者たちが抱えている課題の1つは、これらのデータセットに含まれている人々が白人男性である可能性が高いことです。その結果、多様な背景を持つ人々のデータに直面した場合、ディープフェイク検出ツールは、うまく機能しないのではないかという疑問が生じます。
■人間の方が優秀か?
ディープフェイクはとてもリアルですが、人間は見破ることができます。IEEE Privacy & Securityジャーナルに掲載された最近の研究では、人間と機械を対決させています。人間は平均してディープフェイクの約71%を識別できました。一方で、最先端の検出手法では93%を識別できることが分かりました。
しかし、検出アルゴリズムを欺いた一部のディープフェイク画像を人間は偽物だと看破することができました。
ディープフェイクを見破るのが得意な人もいれば、そうでない人もいますが、その理由に関する研究は緒に就いたばかりです。別の研究では、警察官と「スーパーレコグナイザー」がディープフェイクをどの程度検出できるかを調査しています。スーパーレコグナイザーとは、研究所で人並み外れた顔認識/識別能力を持つことが検証された人々です。この研究では、ディープフェイクを見抜く能力において、スーパーレコグナイザーは、必ずしも一般の人々よりも優れてはいないことが示されました。このことは、ディープフェイクを見破る能力は、顔を認識する能力とは異なることが示唆されています。
■IEEEについて
IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。
IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30%を出版、2,000以上の現行標準を策定し、年間1,800を超える国際会議を開催しています。
詳しくは http://www.ieee.org をご覧ください。
IEEE
この企業のリリース
ITの新着プレスリリース
「トムとジェリー」デザインのゲームコントローラー用ソフトカバーを株式会社PGAが1月30日より新発売
株式会社PGA
24分前
「トムとジェリー」デザインのゲーム用スティックカバーを株式会社PGAが1月30日より新発売
株式会社PGA
24分前
iiyama PCより、インテル® Core™ Ultra 9・7 プロセッサー(シリーズ2)搭載BTOパソコン 新ラインナップ登場
株式会社ユニットコム
44分前
ZenmuTech、テクノロジー企業成長率ランキング 「Technology Fast 50 2024 Japan」を受賞 3年連続受賞の快挙達成!
株式会社ZenmuTech
54分前
SSILとNTT Com、ビジネスアイデアコンテスト「衛星データ活用アワード2024」受賞発表
宇宙サービスイノベーションラボ事業協同組合 NTTコミュニケーションズ株式会社
1時間前
ビジネスの新着プレスリリース
ZenmuTech、テクノロジー企業成長率ランキング 「Technology Fast 50 2024 Japan」を受賞 3年連続受賞の快挙達成!
株式会社ZenmuTech
54分前
「ブランド品買取専門店ブランドハンズJR西宮店」 1月28日リニューアルオープン 内装・外装共に心機一転、居心地の良い空間に
株式会社ブランド買取ブランドハンズ
1時間前
【釣りの聖地・五島発】地域の魅力を発信! 五島の魚を使った「ものづくり工房」づくりの挑戦
西田商店
1時間前
Colt、その卓越したESG*への取り組みにおいて、 EcoVadisより3年連続プラチナ評価を獲得
Coltテクノロジーサービス株式会社
1時間前
「OPTiM スマート農業サービス 2025」を開催
株式会社オプティム
1時間前
人気のプレスリリース
Co-op引っ越しゲーム『Moving Out』、 ドタバタお料理アクションゲーム 『Overcooked!王国のフルコース』が新価格版で再登場! 2025年4月24日発売予定!2025年1月23日から予約受付開始
Game Source Entertainment
21時間前
ふるさと納税返礼品が満載! 山梨県忍野村が新作公式プロモーション動画を公開!
山梨県忍野村、株式会社ポニーキャニオン
2時間前
福岡ソフトバンクホークス 牧原大成選手・緒方理貢選手の 一年を支える体作りをサポート! 新感覚ストレッチ&リラクゼーション『RE:BODY』
RE:BODY
2時間前
ビューティーワールドジャパン福岡特別企画 ハズレなしルーレットで「iroro」サンプルをゲット!
株式会社VIUM
2時間前
和歌山県初出店!「ラーメン山岡家和歌山紀三井寺店」 1月29日(水)オープン!オープン記念企画も実施
株式会社丸千代山岡家
1時間前