Купон на скидку: 2026
Компания приняла обязательство поддерживать открытый стандарт под названием C2PA, который добавляет в метаданные изображения четкий сигнал о том, что оно было создано с помощью искусственного интеллекта. OpenAI также сотрудничает с Google для внедрения невидимого водяного знака под названием SynthID, который будет труднее обнаружить и сложнее удалить, если злоумышленники попытаются скрыть свои следы. Новые меры защиты применяются только к изображениям, созданным продуктами OpenAI, и не повлияют на поток изображений, поступающих из менее надежных инструментов ИИ; они помогут гарантировать, что OpenAI не является частью проблемы.
OpenAI также тестирует публичный инструмент проверки, который будет проверять оба сигнала, позволяя пользователям легко определить, было ли изображение создано с помощью ИИ. Первоначально инструмент будет применяться только к изображениям, созданным продуктами OpenAI; компания надеется со временем расширить его на другие инструменты. Основанная в 2021 году, Коалиция за происхождение и подлинность контента (C2PA) является некоммерческой организацией, целью которой является смягчение вредных последствий изображений, созданных ИИ, для общественного дискурса.
Стандарт C2PA был принят рядом продуктов Google, но его внедрение остается непоследовательным в отрасли. Поскольку сигнал C2PA четко доступен в метаданных каждого файла, его можно манипулировать, и он наиболее полезен среди доверенных пользователей. SynthID — это более новая разработка, предназначенная для более надежной защиты от вмешательства.
Разработанный Google, водяной знак SynthID предназначен для сохранения даже при попытках злоумышленников удалить его, будь то через скриншоты, изменение размера или цифровую манипуляцию. Эти две системы предназначены для взаимного дополнения, каждая из которых устраняет слабые стороны другой.
"Водяные знаки могут быть более устойчивыми к трансформациям, таким как скриншоты, в то время как метаданные могут предоставить больше информации, чем один только водяной знак," отметила OpenAI в своем объявлении. "Вместе они делают происхождение более устойчивым, чем любой из уровней по отдельности.