欧盟希望禁止未经同意即可脱衣服的人工智能工具

尽管人工智能在许多应用中日益普及，但其潜在的滥用问题仍然令欧洲机构担忧。

其中，利用真实图像制作未经同意的性内容正在引发日益增长的政治动员。事实上，在布鲁塞尔，欧洲议会议员们现在希望更进一步，通过更严格地监管这些行为……

针对“裸体”工具的禁令

正如新闻稿报道，欧洲议会正朝着禁止能够生成性深度伪造内容的技术的方向迈进。

更具体地说，公民自由委员会和内部市场委员会通过了一项针对所谓“裸露”系统的修正案。实际上，这些工具利用人工智能技术，在未经本人同意的情况下，创建或篡改真实可识别人物的私密图像。多位欧洲议会议员表示，这种做法已经造成了严重的伤害。议员迈克尔·麦克纳马拉主张采取强硬立场，谴责那些“为了少数人的利益而造成巨大痛苦”的应用程序。金·范·斯帕伦塔克则认为这是向前迈出的重要一步，尤其是在保护妇女和未成年人方面。该文本仍需提交给所有欧洲议会议员，以便在定于3月26日举行的全体会议上进行投票表决。如果获得批准，则需要与成员国进行谈判，以达成最终适用版本。

Grok事件的触发效应

此次监管收紧正值近期一系列争议事件频发之际，其中最引人注目的事件之一便是埃隆·马斯克社交网络上的Grok工具。

该工具曾一度允许用户从真实照片（包括女性和儿童的照片）生成性暗示图像。这一功能迅速在欧洲引发强烈反响，促使当局展开调查。在压力之下，xAI随后限制了某些功能的使用，并保证将阻止生成性暗示图像，但仅限于此类内容非法的司法管辖区。法国和西班牙的第一步？与此同时，欧盟成员国已批准了一项类似的法西联合提案。

该提案旨在禁止能够生成未经同意的性图像以及儿童色情内容的AI服务。欧洲议会和成员国之间的这一共识表明，在技术能力快速发展的当下，各方都希望更加严格地监管AI的敏感用途。