Meta는 AI 콘텐츠를 감지하는 도구를 개발 중입니다.

AI 탐지기는 사이드 메뉴에서 접근 가능합니다 - 출처:

일부 사용자에 따르면, Meta AI 인터페이스에서 AI Detector라는 도구가 발견되었습니다. 아직 개발 중인 이 기능은 사용자가 콘텐츠를 분석하여 인공지능으로 생성된 것인지 판단할 수 있도록 해줍니다. 첫 번째 흔적은 TestingCatalog에서 애플리케이션 코드의 내부 기능을 활성화하는 방식으로 발견되었는데, 이는 공개되지 않은 도구를 발견하는 일반적인 방법입니다. 현재 Detector는 활성화되어 있지 않으며, 옵션을 클릭할 때마다 비활성화된 페이지로 이동하여 프로젝트가 아직 테스트 단계에 있음을 나타냅니다. 그러나 현재까지 알려진 정보에 따르면, 이 도구는 초기에는 텍스트 분석에 초점을 맞춘 후 이미지, 오디오 또는 비디오와 같은 다른 형식으로 확장될 가능성이 있습니다. 이는 Meta의 멀티미디어 콘텐츠 생성에 대한 대규모 투자와 일관된 개발입니다…합성 콘텐츠의 확산에 대한 대응일까요?

이러한 개발은 Meta가 최근 몇 달 동안 사진을 스토리로 변환하는 기능과 같은 생성형 AI 기능을 플랫폼에 대폭 추가한 특정 맥락에서 이루어졌습니다. 불행히도 이로 인해 일부에서는 "AI 슬롭"이라고 부르는, 대량 생산되고 종종 품질이 낮은 합성 콘텐츠가 폭발적으로 증가했습니다. 실제로 해당 그룹은 AI 생성 콘텐츠가 중심이 되는 피드와 같은 새로운 형식까지 실험하고 있습니다. 이러한 접근 방식은 사용자 경험을 근본적으로 변화시키지만, 유포되는 정보의 신뢰성과 가독성에 대한 의문도 제기합니다. 이러한 상황에 직면하여 AI 탐지기 개발은 일종의 방어적 대응으로 보입니다. 하지만 여기서 중요한 질문이 제기됩니다. 이 도구는 모든 모델의 콘텐츠를 식별할 수 있을까요, 아니면 메타 생태계에서 생산된 콘텐츠만 식별할 수 있을까요? 실제로 이러한 선택은 도구의 도달 범위에 직접적인 영향을 미칠 것입니다. 또한, 아직 공식 발표는 없지만, 이 계획은 근본적인 추세를 보여줍니다. AI를 통해 콘텐츠 생산을 가속화한 후, 플랫폼들은 이제 콘텐츠를 더 잘 식별하고 잠재적으로 통제권을 되찾으려 하고 있습니다.