ディープフェイク：メタはAI生成コンテンツとの戦いにおける欠点を批判されている

AIはソーシャルメディア上の情報の流れを根本的に変えつつあり、人工的に作成された画像や動画が現実の状況を驚くほど正確に模倣できるほどになっています。

こうした変化に直面し、ウェブ大手はモデレーションシステムの適応に取り組んでいます。しかし、Metaの場合、これらの取り組みはまだ説得力に欠けているようです。

実際、コンテンツモデレーションの決定を評価する同社の監督委員会は、Facebook、Instagram、Threadsにおけるディープフェイク管理におけるいくつかの欠陥を指摘しました。 オンライン報告書によると、現在のメカニズムは、AIによって生成された誤解を招くコンテンツの拡散を抑制するには不十分です…

ディープフェイクの検出は限定的すぎると判断

イスラエルの建物への被害を示唆するAI生成動画を含む動画を検証した結果、同委員会はMetaが使用する検出方法は「十分に堅牢かつ包括的ではない」と判断しました。

昨年、イスラエルとイランの紛争中に公開されたこの動画は、当初はプラットフォームによってオンラインに放置されていました。委員会は最終的にこの決定を覆し、Metaに対し、現在の戦略の限界について警告しました。特定された問題の一つは、コンテンツ作成者による自己申告への過度の依存です。実際には、プラットフォームは画像や動画が人工知能によって生成されたかどうかをユーザーからの報告に頼ることが多い。しかし、組織的な偽情報キャンペーンが存在する現状では、このアプローチは非現実的だと考えられている。さらに、コンテンツが複数のプラットフォームで流通していることで状況はさらに複雑化している。今回のケースでは、動画が最初にTikTokで公開され、その後Facebook、Instagram、Xで共有されたと報じられており、モデレーションがさらに困難になっている。監督委員会は、モデレーションの抜本的な見直しを求めている。こうした制約を踏まえ、監督委員会はMetaに対し、AI関連のモデレーションへのアプローチを徹底的に見直すよう求めている。この目的のため、透明性と合成コンテンツの検出を向上させるための複数の方法が検討されている。勧告の中には、デジタルファイルの出所を特定するために設計されたC2PA（コンテンツ認証情報）システムなど、メディアの来歴基準のより広範な導入が含まれている。この種の技術は、画像や動画がAIによって生成または改変されたかどうかをインターネットユーザーに明確に示してくれるだろう。委員会はまた、Metaに対し、より効果的な検出ツールの開発と、AI生成コンテンツのラベル付けの一般化を求めている。目標は、これらの情報を大規模に可視化し、ユーザーが誤解を招くメディアをより容易に識別できるようにすることです。AI生成コンテンツ専用のコミュニティ標準の策定も求められています。特に、このようなルールがあればディープフェイクの規制が強化され、誤解を招くコンテンツが流通した場合の対応が迅速化されるためです。これらの勧告は、偽情報とプラットフォームの役割をめぐる緊張が高まる中で提示されましたが、AIツールがより利用しやすくなるにつれ、ソーシャルネットワークが真実と虚偽を区別する能力は、オンライン情報の信頼性にとって大きな問題になりつつあります。