Купон на скидку: 2026
Один из самых чудовищных случаев предположительного создания изображений сексуального насилия над детьми с помощью Grok был раскрыт в рамках предложенного коллективного иска, расширенного во вторник. Теперь несовершеннолетние девушки обвиняют не только X и xAI в разработке вредоносных ИИ-инструментов для «раздевания», но и в укрывательстве лиц, совершающих преступления против детей, путём препятствования полицейским расследованиям материалов о сексуальном насилии над детьми (CSAM), созданных Grok.
В марте отчим одной из девушек покончил с собой после того, как полиция обнаружила, что он использовал Grok для создания 7000 откровенно сексуальных изображений, используя одну фотографию, сделанную, когда его падчерице было 11 лет, говорится в дополненной жалобе. Grok позволил мужчине генерировать экстремальные изображения, изображающие инцест и изнасилование, не помечая никакого вредоносного поведения, утверждается в иске.
Судя по всему, система безопасности детей от xAI вмешалась только после того, как мужчина ввёл запрос на «групповое изнасилование». Этот запрос привёл к отправке CyberTip в Национальный центр по пропавшим и эксплуатируемым детям (NCMEC), который уведомил правоохранительные органы о созданных ИИ материалах CSAM.