Бесплатный сервис KodikScan, предназначенный для выявления сгенерированного искусственным интеллектом контента, с момента запуска в конце мая был использован для проверки 12 тысяч видео и 25 тысяч текстов. Об этом CNews рассказали представители проекта. Приложение, разработанное компанией «Архитех ИИ», стало инструментом противодействия цифровому мошенничеству, позволяя не только определить факт генерации контента нейросетью, но и установить, какая именно ИИ-модель была применена.

Основная задача сервиса – предоставить обычным пользователям бесплатную возможность самозащиты от злоумышленников, которые с помощью искусственного интеллекта создают голосовые и видео-сообщения от лица других людей, а также распространяют фальшивые благотворительные обращения с использованием образов знаменитостей. Разработчики сознательно сделали упор на массовую доступность инструмента, видя в этом способ повышения цифровой грамотности населения.

По словам создателя ИИ-среды Kodik Рафаэля Гильмурахманова, первыми доступ к сервису получили СМИ, однако и обычные пользователи быстро начали применять его для «народной» проверки на дипфейки. «Это говорит о том, что цифровая грамотность растет. К сожалению, злоумышленники все чаще применяют искусственный интеллект в социальной инженерии, и нам было важно предоставить пользователям инструмент, определяющий наличие ИИ-контента», – отметил он.

Технически KodikScan опирается на ML-модели, обученные анализировать цифровой контент и оценивать вероятность ИИ-генерации или манипуляции. Система принимает изображения, видео, аудио или текст и извлекает из них скрытые признаки синтезированного материала: визуальные паттерны, структуру шума, временную динамику видео, акустические особенности голоса и статистические характеристики текста. Далее контент сравнивается с обширной базой примеров, и на основе этого сопоставления выдается заключение о том, насколько высока вероятность подделки. Такой подход позволяет выявить даже сложные дипфейки, созданные продвинутыми нейросетевыми алгоритмами.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *