유럽연합은 동의 없이 옷을 벗기는 인공지능 도구를 금지하려 한다.

인공지능이 다양한 분야에서 점점 더 널리 사용되고 있지만, 그 오용 가능성에 대한 우려가 유럽 기관들을 계속해서 불안하게 하고 있습니다. 그중에서도 실제 이미지를 이용해 동의 없이 성적 콘텐츠를 제작하는 행위는 점점 더 큰 정치적 논란을 불러일으키고 있습니다. 실제로 브뤼셀에서는 유럽의회 의원들이 이러한 행위를 더욱 엄격하게 규제함으로써 한 단계 더 나아가고자 합니다…

“누드화” 도구에 대한 표적 금지

보도자료에 따르면, 유럽의회는 성적 딥페이크를 생성할 수 있는 기술에 대한 금지를 추진하고 있습니다. 구체적으로, 시민 자유 및 내부 시장 위원회는 이른바 "누드화" 시스템을 겨냥한 수정안을 채택했습니다. 이러한 도구는 인공지능을 이용하여 실존 인물의 은밀한 이미지를 동의 없이 생성하거나 조작합니다. 여러 유럽의회 의원들은 이러한 행위가 이미 상당한 피해를 초래했다고 지적했습니다. 마이클 맥나마라 의원은 "소수의 이익을 위해 많은 고통을 야기하는" 애플리케이션을 강력히 비난하며 단호한 입장을 표명했습니다. 킴 반 스파렌탁 의원은 특히 여성과 미성년자 보호 측면에서 이번 조치가 중요한 진전이라고 평가했습니다. 해당 법안은 3월 26일 본회의 표결을 위해 모든 유럽의회 의원들에게 제출되어야 합니다. 만약 승인된다면, 최종적이고 적용 가능한 버전을 마련하기 위해 회원국들과의 협상이 필요할 것입니다.

그록 사태의 촉발 효과

이번 규제 강화는 최근 여러 논란, 특히 일론 머스크의 소셜 네트워크에서 이용 가능한 그록(Grok)과 관련된 논란 속에서 이루어졌습니다.

그록은 사용자가 실제 사진, 특히 여성과 아동의 사진에서 성적으로 노골적인 이미지를 생성할 수 있도록 일시적으로 허용했습니다. 이 기능은 유럽에서 강력한 반발을 불러일으켰고, 당국은 조사에 착수했습니다. 압력에 굴복한 xAI는 이후 특정 기능에 대한 접근을 제한하고, 성적으로 노골적인 이미지 생성을 차단하겠다고 약속했지만, 이는 해당 콘텐츠가 불법인 관할권에서만 적용되었습니다. 프랑스와 스페인의 첫걸음? 이 사건과 동시에 유럽연합 회원국들은 이미 유사한 내용의 프랑스-스페인 공동 제안을 승인했습니다. 이 제안은 동의 없이 성적 이미지를 제작할 수 있는 AI 서비스와 아동 포르노를 금지하는 것을 목표로 합니다. 의회와 회원국 간의 이러한 의견 일치는 기술 역량이 급속도로 발전하는 시기에 AI의 민감한 사용을 더욱 엄격하게 규제하고자 하는 공통된 열망을 보여줍니다.