딥페이크: 메타, AI 생성 콘텐츠 대응 미흡으로 비판받아

인공지능(AI)은 소셜 미디어의 정보 흐름을 근본적으로 변화시키고 있으며, 인공적으로 생성된 이미지와 동영상이 실제 상황을 놀라울 정도로 정확하게 모방하는 지경에 이르렀습니다. 이러한 변화에 직면하여 웹 거대 기업들은 콘텐츠 검열 시스템을 개선하려고 노력하고 있습니다. 하지만 메타의 경우, 이러한 노력은 아직 설득력이 부족해 보입니다. 실제로 콘텐츠 검열 결정을 평가하는 메타의 감독 위원회는 최근 페이스북, 인스타그램, 스레드에서 딥페이크 관리와 관련하여 몇 가지 문제점을 지적했습니다. 온라인 보고서에 따르면, 현재의 메커니즘은 AI가 생성한 허위 콘텐츠의 확산을 제한하기에 불충분합니다.…

딥페이크 탐지 기능이 너무 제한적이라고 판단됨

이스라엘의 건물 피해를 보여주는 AI 생성 영상을 포함한 여러 영상을 검토한 결과, 해당 기관은 Meta에서 사용하는 탐지 방법이 "충분히 강력하거나 포괄적이지 않다"고 판단했습니다.

지난해 이스라엘과 이란 간의 분쟁 중에 공개된 이 영상은 처음에는 플랫폼에서 그대로 온라인에 게시되었습니다. 그러나 이사회는 결국 이 결정을 번복하고 Meta에 현재 전략의 한계를 알리기로 했습니다. 지적된 문제점 중 하나는 콘텐츠 제작자의 자체 신고에 지나치게 의존하고 있다는 점입니다. 실제로 플랫폼들은 이미지나 동영상이 인공지능에 의해 생성되었는지 여부를 사용자가 직접 신고하도록 의존하는 경우가 많습니다. 하지만 조직적인 허위 정보 유포 캠페인이 만연한 상황에서 이러한 접근 방식은 비현실적입니다. 더욱이, 사례 연구의 경우처럼 동영상이 틱톡에 처음 게시된 후 페이스북, 인스타그램, X 등 여러 플랫폼으로 확산되는 등 콘텐츠가 다양한 플랫폼을 통해 유통되면서 검열이 더욱 어려워지고 있습니다. 감독위원회는 콘텐츠 검열 시스템의 전면적인 개편을 촉구하고 있습니다. 이러한 한계를 고려하여 감독위원회는 메타(Meta)에 인공지능 관련 콘텐츠 검열 방식에 대한 철저한 재검토를 요청했습니다. 이를 위해 투명성 제고 및 인공 콘텐츠 탐지 능력 향상을 위한 여러 방안을 모색하고 있습니다. 권고 사항 중 하나는 디지털 파일의 출처를 식별하도록 설계된 C2PA(콘텐츠 자격 증명) 시스템과 같은 미디어 출처 표준의 광범위한 도입입니다. 이러한 기술은 인터넷 사용자에게 이미지나 동영상이 인공지능에 의해 생성 또는 수정되었는지 여부를 명확하게 보여줄 수 있습니다. 또한 감독위원회는 메타에 더욱 효과적인 탐지 도구를 개발하고 인공지능 생성 콘텐츠에 대한 라벨링을 보편화할 것을 요청했습니다. 목표는 이러한 정보를 대규모로 공개하여 사용자들이 허위 정보를 더 쉽게 식별할 수 있도록 하는 것입니다. 특히 딥페이크에 대한 더 나은 규제와 허위 콘텐츠 유포 시 신속한 대응을 가능하게 하는 AI 생성 콘텐츠 전용 커뮤니티 표준의 마련도 요구되고 있습니다. 이러한 권고는 허위 정보와 플랫폼의 역할에 대한 긴장이 고조되는 가운데, AI 도구에 대한 접근성이 높아짐에 따라 소셜 네트워크가 진실과 거짓을 구별하는 능력이 온라인 정보의 신뢰성에 있어 중요한 문제로 대두되고 있는 상황에서 나왔습니다.