Согласно семи искам, поданным в среду в суд Калифорнии, OpenAI могла предотвратить одну из самых смертоносных массовых стрельб в истории Канады. Компания в конечном итоге отвергла рекомендации своей внутренней команды по безопасности. Более чем за восемь месяцев до стрельбы в школе обученные эксперты отметили аккаунт в ChatGPT, который позже был связан со стрелком, как представляющий реальную угрозу применения огнестрельного оружия. В таких случаях от OpenAI ожидается уведомление полиции, которая уже имела дело с этим человеком и ранее изъяла у него оружие. Однако этого не произошло.
По словам информаторов, OpenAI решила, что конфиденциальность пользователя и потенциальный стресс от встречи с полицией перевешивают риски насилия, как сообщила The Wall Street Journal. Руководство отвергло настойчивые рекомендации команды безопасности и отказалось сообщать о пользователе в правоохранительные органы. Вместо этого OpenAI просто деактивировала аккаунт и вскоре после этого предоставила стрелку инструкции о том, как вернуться в ChatGPT, зарегистрировавшись с другим адресом электронной почты, как утверждается в исках.