Резюме
- Детекторы ИИ в настоящее время ненадежны из-за ложных срабатываний и ложных отрицательных результатов.
- Детектор SynthID от Google сканирует контент, созданный с помощью искусственного интеллекта, на наличие цифровых водяных знаков.
- SynthID Detector, возможно, не является стопроцентно надежным средством, но он, вероятно, настолько надежен, насколько это вообще возможно для детектора ИИ.
Детекторы ИИ, хотя и являются потенциально полезной функцией, в настоящее время представляют собой беспорядок. Такие инструменты, как ZeroGPT, любят делать много ложных положительных и ложных отрицательных результатов. Тем не менее, потребность в действительно надежном детекторе ИИ реальна, и именно поэтому продолжаются усилия в этом направлении. У Google есть свой собственный, хотя вы пока не можете им пользоваться.
Google только что анонсировала SynthID Detector, новый портал проверки, предназначенный для идентификации контента, созданного с использованием его инструментов искусственного интеллекта, таких как Gemini, модель генерации изображений Imagen или модель генерации видео Veo. SynthID Detector работает, сканируя загруженные медиа на наличие незаметного цифрового водяного знака, также называемого SynthID. Google разрабатывает эту технологию водяных знаков для непосредственного внедрения в контент, созданный его моделями ИИ, включая Gemini (текст и мультимодальный), Imagen (изображения), Lyria (аудио) и Veo (видео). По данным компании, более 10 миллиардов единиц контента уже были помечены водяными знаками с помощью этой системы. Таким образом, это инструмент, созданный Google, который ищет этот водяной знак и сообщает вам, сгенерировано ли что-то ИИ или нет.
Когда вы загружаете файл — будь то изображение, аудиодорожка, видео или текстовый документ — на портал SynthID Detector, он проверяет, присутствует ли этот встроенный водяной знак. И если это так, портал укажет, что контент, скорее всего, сгенерирован ИИ, и в некоторых случаях выделит определенные части, где водяной знак обнаружен наиболее заметно. Например, в аудиофайлах он может указать сегменты, содержащие водяной знак, а для изображений он может указать области, где цифровая подпись, скорее всего, присутствует.
Что мне все еще не нравится в этом, так это то, что он все еще, кажется, делает много догадок. Детектор может быть «не уверен» в определенных частях, что не является хорошим предзнаменованием для предположительно надежного метода водяных знаков, который может выдерживать изменения и модификации. Точно так же, как он может быть не уверен в некоторых битах, он может обнаружить водяной знак там, где его нет, или он может не обнаружить что-то, сгенерированное ИИ. Я бы сказал, что он будет более склонен к ложным срабатываниям, чем к ложным отрицательным, но ложные срабатывания все еще могут быть проблемой. Я уверен, что он будет продолжать совершенствоваться. Такой инструмент от первого лица, как этот, может быть самым надежным способом прямо сейчас узнать, было ли что-то сгенерировано ИИ, но я бы не сказал, что все еще есть 100% надежный, пуленепробиваемый метод, чтобы поймать их все.
В настоящее время детектор доступен ограниченному кругу лиц в режиме раннего доступа, а затем последует ограниченное распространение среди журналистов, специалистов по СМИ и исследователей через список ожидания.
Источник: Google
