구글, AI 탐지 도구 공개: SynthID란 무엇이며 어떻게 작동하는가?

인공지능 기술의 발전 속도가 빨라짐에 따라, 진짜 미디어와 합성 콘텐츠의 경계가 점점 모호해지고 있습니다. 투명성에 대한 요구가 증가함에 따라, 구글은 인공지능이 생성한 이미지, 동영상, 오디오를 식별하는 새로운 무료 도구인 SynthID 검증 웹사이트를 공식적으로 공개했습니다.

SynthID란 무엇인가요?

구글 딥마인드에서 개발하고 2023년에 처음 선보인 SynthID는 강력한 워터마크 기술입니다. 쉽게 잘라내거나 제거할 수 있는 기존 워터마크와 달리, SynthID는 미디어 제작 시점에 눈에 띄지 않는 디지털 신호를 직접 삽입합니다.

이러한 마커는 색상 조정, 파일 압축 또는 자르기와 같은 상당한 조작 후에도 유지되도록 설계되어 딥페이크와 AI 생성 허위 정보 시대에 출처를 확인하는 데 중요한 도구입니다.

검증 도구 사용 방법

새롭게 공개된 웹사이트를 통해 사용자는 JPG, PNG, WEBP, GIF 이미지, MP4, MOV 비디오, MP3, WAV 오디오 등 다양한 미디어 형식을 업로드할 수 있습니다. 파일이 업로드되면 시스템에서 디지털 서명을 검색합니다. 서명이 발견되면 해당 콘텐츠가 SynthID 표준을 지원하는 AI 시스템에 의해 생성되거나 수정되었다는 증거가 됩니다.

제한 사항 이해

이는 중요한 진전이지만 SynthID가 무엇이고 무엇이 아닌지 이해하는 것이 중요합니다.

• 만능 탐지기가 아님: SynthID는 모든 AI 생성 콘텐츠를 탐지하는 포괄적인 솔루션이 아닙니다. 이는 특정 워터마크가 삽입되어 있다는 사실만 확인해 줍니다.
• '감지되지 않음'의 의미: 스캔 결과가 음성이라고 해서 해당 미디어가 사람이 만든 것이 아니라는 것을 증명하는 것은 아닙니다. 해당 콘텐츠는 SynthID 표준을 사용하지 않는 시스템으로 생성되었거나, 워터마크가 제거될 정도로 심하게 수정되었을 수 있습니다.

이것이 중요한 이유

구글만이 이 분야의 유일한 기업은 아닙니다. OpenAI와 Nvidia 같은 회사들도 워터마킹 및 출처 추적 시스템을 연구하고 있습니다. 아직 보편적인 표준은 없지만, 구글이 언론인과 연구원뿐 아니라 모든 사람이 SynthID를 사용할 수 있도록 한 것은 디지털 리터러시 측면에서 긍정적인 변화를 의미합니다. 이미 매일 수백만 건의 검증 요청이 처리되고 있는 이 기술은 디지털 생활에서 필수적인 보안 계층이 되어 사용자가 소비하는 미디어에 대해 정보에 입각한 결정을 내릴 수 있도록 돕고 있습니다.