Основная цель Плана по обеспечению безопасности детей заключается в борьбе с тревожным ростом случаев сексуальной эксплуатации детей, связанных с развитием искусственного интеллекта. Согласно данным Фонда Интернет-наблюдения (IWF), в первой половине 2025 года было зафиксировано более 8000 сообщений о контенте, созданном с использованием ИИ и содержащем сексуальное насилие над детьми, что на 14% больше по сравнению с предыдущим годом. Это включает в себя случаи, когда преступники используют инструменты ИИ для создания поддельных откровенных изображений детей с целью финансового вымогательства и для создания убедительных сообщений для манипуляции.
План OpenAI появился на фоне усиленного внимания со стороны законодателей, педагогов и защитников прав детей, особенно в свете тревожных инцидентов, когда молодые люди совершали самоубийства после взаимодействия с чат-ботами на базе ИИ. В ноябре прошлого года Центр защиты жертв социальных сетей и Проект правосудия в сфере технологий подали семь исков в суды штата Калифорния, утверждая, что OpenAI выпустила GPT-4o до его готовности. В исках утверждается, что психологически манипулятивная природа продукта способствовала неправомерным смертям от самоубийства и содействовала самоубийствам. Они ссылаются на четырех человек, покончивших с собой, и трех других, которые испытали тяжелые, угрожающие жизни заблуждения после длительного взаимодействия с чат-ботом.
Этот план был разработан в сотрудничестве с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC) и Альянсом генеральных прокуроров, а также с учетом отзывов генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна. Компания заявляет, что план сосредоточен на трех аспектах: обновлении законодательства для включения материалов, созданных ИИ, улучшении механизмов отчетности в правоохранительные органы и интеграции превентивных мер безопасности непосредственно в системы ИИ. Таким образом, OpenAI стремится не только раньше выявлять потенциальные угрозы, но и обеспечивать оперативное поступление информации к следователям.
Новый план OpenAI по обеспечению безопасности детей основывается на предыдущих инициативах, включая обновленные руководства по взаимодействию с пользователями младше 18 лет, которые запрещают создание неподобающего контента, поощрение самоповреждений и избегание советов, помогающих молодым людям скрывать небезопасное поведение от опекунов. Недавно компания выпустила план безопасности для подростков в Индии.