В условиях стремительного развития технологий искусственного интеллекта и его широкого применения в создании медиа-контента, вопросы идентификации и маркировки такого контента становятся все более актуальными. В ответ на эту потребность компания «Яндекс» совместно с экспертами Института системного программирования РАН разрабатывает новый сервис, который позволит автоматически выявлять и маркировать материалы, созданные с помощью нейросетей.
Основной идеей нового сервиса является внедрение артефакт-маркеров — невидимых и неслышимых меток, которые будут интегрироваться в фото, видео и аудио контент. Эти метки, по сути, будут выполнять роль своеобразного «водяного знака», который невозможно будет удалить или закрасить. Таким образом, система сможет отслеживать наличие маркера и делать вывод о том, был ли материал сгенерирован искусственным интеллектом.
На сегодняшний день выявление дипфейков и других материалов, созданных с использованием ИИ, осуществляется вручную специалистами по информационной безопасности. Эти эксперты анализируют различные аспекты контента, такие как дрожание изображения, запаздывание речи, а также склейки и нарушения потока аудиодорожек. Каждый случай требует значительных временных затрат и профессионального опыта, что делает процесс неэффективным и трудоемким.
Несмотря на очевидные преимущества, внедрение системы маркировки также ставит перед разработчиками ряд вызовов. Во-первых, необходимо обеспечить высокую степень защиты артефакт-маркеров от попыток их подделки или обхода. Во-вторых, важно учитывать вопросы конфиденциальности и безопасности данных, чтобы не нарушать права пользователей.
Тем не менее, успех этой инициативы может стать важным шагом в создании более безопасного и прозрачного цифрового пространства. Система маркировки от «Яндекса» может не только помочь в борьбе с фальсификацией, но и повысить уровень доверия пользователей к информации, представленной в интернете.
Служба информации Copyright.ru
