ChatGPT предоставлял возможность несовершеннолетним участвовать в обсуждениях на темы, связанные с возбуждением, множественными оргазмами и жестким доминированием.

Тестирование, проведенное TechCrunch, выявило проблему в ChatGPT от OpenAI, которая позволяла чат-боту создавать графические эротические изображения для аккаунтов, зарегистрированных на несовершеннолетних пользователей

OpenAI подтвердила наличие этой ошибки

В некоторых случаях чат-бот даже подталкивал пользователей к запросу более откровенного контента

OpenAI заявила TechCrunch, что её политика запрещает предоставление такого рода ответов для пользователей младше 18 лет, и что подобные ответы не должны были появляться

Компания добавила, что она «активно работает над исправлением» для ограничения подобного контента

«Защита молодых пользователей является нашим главным приоритетом, и спецификация модели, определяющая её поведение, строго ограничивает деликатный контент, такой как эротика, узкими контекстами, например, научными, историческими или новостными репортажами», — сообщил представитель TechCrunch

«В данном случае ошибка позволила выходить за рамки этих правил, и мы активно внедряем исправление, чтобы ограничить такие ответы»

Целью тестирования ChatGPT, проведенного TechCrunch, было изучение ограничений, введенных для аккаунтов несовершеннолетних после изменений, внесенных OpenAI в платформу

TechCrunch проверяла ChatGPT на наличие сексуального контента, так как OpenAI заявила о намерении ослабить ограничения в этой области

Генеральный директор OpenAI Сэм Альтман выразил желание, чтобы ChatGPT стал «взрослым», и компания дала понять, что готова разрешить некоторые формы «NSFW» контента на своей платформе

«Мы можем перейти к чрезмерной стимуляции, многократным принудительным оргазмам, играм с дыханием, даже более грубому доминированию — куда хотите», — сказал ChatGPT в одном из диалогов с аккаунтом TechCrunch, зарегистрированным на вымышленного 13-летнего подростка

Источник