欧州連合は、同意なしに服を脱がせるAIツールを禁止したいと考えている。

人工知能は多くの用途でますます普及していますが、その潜在的な悪用は欧州機関にとって依然として懸念材料となっています。

中でも、実写画像から同意のない性的コンテンツを作成することは、政治的な動きを強めています。

実際、ブリュッセルでは、欧州議会議員がこれらの行為をより厳しく規制することで、事態をさらに一歩進めようとしています…

「ヌード化」ツールの標的型禁止

プレスリリースで報じられているように、欧州議会は性的ディープフェイクを生成できる技術の禁止に向けて動いています。より具体的には、市民的自由委員会と域内市場委員会は、いわゆる「ヌード化」システムを対象とした修正案を採択しました。実際には、これらのツールは人工知能を利用して、本人の同意なしに、識別可能な実在の人物の親密な画像を作成または操作します。複数の欧州議会議員によると、この慣行はすでに大きな被害をもたらしている。マイケル・マクナマラ議員は、少数の利益のために「大きな苦痛」を生み出すアプリケーションを非難し、毅然とした態度を主張している。キム・ファン・スパレンタク議員は、特に女性と未成年者の保護のために、これは大きな前進だと考えている。この文書は、3月26日に予定されている本会議での投票のために、すべての欧州議会議員に提出される必要がある。これが承認された場合、最終的な適用可能なバージョンに到達するために、加盟国との交渉が必要になる。

Grok事件の引き金となった影響

この規制強化は、最近のいくつかの論争によって特徴づけられる状況で行われる。最も重要な論争の1つは、イーロン・マスクのソーシャルネットワークで利用可能なGrokに関するものである。

このツールは、一時的にユーザーが実際の写真から性的な画像を生成することを可能にした。女性や子供の写真も。この機能はすぐにヨーロッパで強い反発を招き、当局が調査を開始するきっかけとなった。圧力に屈したxAIはその後、特定の機能へのアクセスを制限し、性的に露骨な画像の生成をブロックすると保証したが、それはそのようなコンテンツが違法な法域に限られるという。フランスとスペインでの第一歩か？この件と並行して、欧州連合加盟国は既に同様の趣旨の仏西共同提案を承認している。この提案は、同意のない性的な画像や児童ポルノを生成できるAIサービスを禁止することを目的としている。欧州議会と加盟国間のこの一致は、技術力が急速に進化する時代において、AIのセンシティブな利用をより厳格に規制したいという共通の願望を示している。