В РФ появится сервис для маркировки и выявления ИИ-контента

«Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного ИИ. Об этом сообщают «Ведомости».

Маркировка будет представлять собой микроскопический артефакт, который заметен анализатору, но не человеческому глазу. В отличие от водяных знаков, такую маркировку невозможно закрасить или обрезать. Сейчас специалисты «Яндекса» работают над сервисом, который позволит распознавать такие артефакт‑маркеры. Технологию планируют стандартизировать и выложить в опенсорс для всех участников рынка.

Мы планируем внедрять такие инструменты в наши сервисы, однако, для полноценного ее внедрения необходим отраслевой стандарт генерации ИИ-контента.
— подтвердил факт разработки представитель «Яндекса».

Эксперты уточнили: «Яндекс» не может повлиять на ChatGPT или другие иностранные нейросети, речь идет об отечественных стандартах. Детектор «Яндекса» сможет выявлять контент от других нейросетей только при наличии общих метаданных или открытых API для анализа.

Когда новая технология будет готова к использованию, пока неизвестно.

Сейчас речь идёт о добровольном принятии единых отраслевых стандартов всеми участниками рынка, но если эти стандарты будут зафиксированы законодательно, то маркировка ИИ-контента может стать обязательной, а использование немаркированного контента (от других ИИ вне отечественных стандартов) — незаконным.