MetaはAIコンテンツを検出するツールを準備している。

最近の調査によると、AI生成コンテンツがウェブに溢れ、50%を超えているため、テクノロジー大手は適応し始めています。

これらの利用の民主化に大きく貢献してきた一部の企業は、現在、それらをより適切に規制しようとしています。

このような状況で、Metaはまだ目立たない機能に取り組んでいると報じられていますが、これは生成AIを取り巻く現在の問題を明らかにしています…

Meta AIに直接統合されたAI検出器

一部のユーザーによると、Meta AI インターフェースで「AI Detector」と呼ばれるツールが発見されたとのことです。この機能はまだ開発中ですが、ユーザーがコンテンツを分析して、それが人工知能によって生成されたかどうかを判断できるようになります。最初の痕跡は、TestingCatalog がアプリケーションのコード内の内部機能をアクティブ化することによって特定されました。これは、未発表のツールを発見するための一般的な方法です。現在、検出器はアクティブではなく、オプションをクリックすると非アクティブなページが表示されるため、プロジェクトはまだテスト段階にあることがわかります。ただし、入手可能な情報に基づくと、このツールは最初はテキスト分析に焦点を当て、その後、画像、音声、ビデオなどの他の形式に拡張する可能性があります。これは、Meta のマルチメディア コンテンツ生成への大規模な投資と一致する開発です。

合成コンテンツの増殖への対応でしょうか？

この開発は、ここ数か月で Meta がプラットフォーム上で生成 AI 機能を増やしているという特別な状況下で行われています。最近の写真からストーリーへの変換などがその例です。残念ながら、この結果、一部の人々が「AIスロップ」と呼ぶ、大量生産された低品質な合成コンテンツが爆発的に増加しました。

実際、このグループは、AI生成コンテンツが中心的な位置を占めるフィードなどの新しい形式も実験しています。このアプローチはユーザーエクスペリエンスを大きく変革しますが、配信される情報の信頼性と読みやすさについても疑問が生じます。

このような状況に直面して、AI検出器の開発は防御的な対応の一形態のように見えます。

しかし、これは重要な疑問を提起します。このツールは、あらゆるモデルのコンテンツを識別できるのか、それともMetaエコシステムによって生成されたコンテンツのみを識別できるのか？実際には、この選択は、そのリーチに直接影響します。さらに、この段階では公式発表はありませんが、この取り組みは根本的な傾向を示しています。AIによるコンテンツ制作を加速した後、プラットフォームは、それをより適切に識別し、潜在的にコントロールを取り戻そうとしています。