Google раскрывает свой инструмент обнаружения ИИ: что такое SynthID и как он работает?

По мере того, как сложность искусственного интеллекта продолжает стремительно расти, грань между подлинным контентом и синтетическим контентом становится все более размытой. Чтобы удовлетворить растущую потребность в прозрачности, Google официально открыл для публики свой веб-сайт проверки SynthID, предлагая новый бесплатный инструмент, предназначенный для идентификации изображений, видео и аудио, созданных с помощью ИИ.

Что такое SynthID?

Разработанная Google DeepMind и впервые представленная в 2023 году, SynthID — это надежная технология водяных знаков. В отличие от традиционных водяных знаков, которые легко обрезать или удалить, SynthID внедряет незаметные цифровые сигналы непосредственно в медиаконтент в момент его создания.

Эти маркеры разработаны таким образом, чтобы сохраняться даже после значительных манипуляций, таких как корректировка цвета, сжатие файлов или обрезка, что делает их критически важным инструментом для проверки происхождения в эпоху дипфейков и дезинформации, генерируемой ИИ.

Как использовать инструмент проверки

Новый общедоступный веб-сайт позволяет пользователям загружать различные медиаформаты, включая JPG, PNG, WEBP и GIF для изображений; MP4 и MOV для видео; и аудиоформаты, такие как MP3 и WAV. После загрузки файла система сканирует его на наличие цифровой подписи. Если она обнаружена, это подтверждает, что контент был создан или изменен системами ИИ, поддерживающими стандарт SynthID.

Понимание ограничений

Хотя это значительный шаг вперед, крайне важно понимать, что такое SynthID и чем он не является.

• Не универсальный детектор: SynthID не является комплексным решением для обнаружения всего контента, созданного ИИ. Это лишь подтверждает наличие конкретного встроенного водяного знака.
• Значение «Не обнаружено»: Отрицательный результат сканирования не доказывает, что медиаконтент создан человеком. Контент мог быть сгенерирован системой, не использующей стандарт SynthID, или мог быть подвергнут экстремальным модификациям, в результате которых водяной знак был удален.

Почему это важно

Google — не единственный игрок в этой области; такие компании, как OpenAI и Nvidia, также изучают системы водяных знаков и подтверждения происхождения. Хотя универсального стандарта пока нет, решение Google сделать SynthID доступным для всех — не только для журналистов и исследователей — знаменует собой позитивный сдвиг в цифровой грамотности. Учитывая, что ежедневно обрабатываются миллионы запросов на проверку, эта технология становится важным уровнем безопасности в нашей цифровой жизни, помогая пользователям принимать обоснованные решения о потребляемом ими медиаконтенте.