OpenAI представила режим блокировки для защиты данных от атак с внедрением подсказок

Среди прочего, режим Lockdown Mode отключит возможность просмотра веб-страниц в реальном времени (доступ будет только к кэшированному контенту), загрузку и отображение изображений из интернета (однако, вы все еще сможете генерировать изображения), глубокое исследование и режим агента. Компания заявляет, что даже с включенным режимом Lockdown Mode, ChatGPT может оставаться уязвимым для инъекций через подсказки — которые, например, могут появляться в кэшированном веб-контенте или в загруженном файле и все еще могут влиять на поведение или точность ответа. Однако цель заключается в снижении вероятности того, что конфиденциальные данные будут переданы в процессе.

«Режим Lockdown Mode не предназначен для всех», — говорит OpenAI. «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с инъекцией через подсказки». Компания сообщает, что в настоящее время внедряет режим Lockdown Mode для самостоятельных бизнес-аккаунтов ChatGPT, а также для подходящих личных аккаунтов.

Источник