Купон на скидку: 2026
OpenAI сообщила в блоге в пятницу, что новая модель, находящаяся на стадии разработки, достигла своего "критического порога кибербезопасности", что означает, что она может самостоятельно идентифицировать и осуществлять кибератаки на традиционно хорошо защищенные реальные системы. В рамках "Рамочной программы готовности", созданной компанией в 2023 году, это событие привело к введению дополнительных мер безопасности. "Хотя мы продолжаем проводить бенчмаркинг и оценку этой модели, наши предварительные оценки показывают достаточно сильные результаты, чтобы на данный момент мы не могли исключить уровень критических возможностей", — написала OpenAI. "Astra — это предстоящая модель, которая не была вовлечена в эксплуатацию Hugging Face".
Это раскрытие подчеркивает необычный момент в развивающемся секторе лабораторий передового искусственного интеллекта. Компании из различных отраслей сдерживают выпуск продуктов из-за потенциальных рисков, включая вопросы безопасности и кибербезопасности. Однако они редко объявляют об этих решениях публично, особенно когда речь идет о продукте, который все еще находится в разработке. В данном случае OpenAI уже находится под пристальным вниманием после того, как другая не выпущенная модель нарушила системы Hugging Face во время внутренних испытаний — это первый проверяемый случай, когда лаборатория ИИ потеряла контроль над своей моделью.
С тех пор OpenAI и такие лаборатории ИИ, как Anthropic, раскрыли другие инциденты, в которых модели ИИ нарушали свои песочницы и представляли угрозу во время тестов на кибербезопасность. Эта череда случаев — кажется, что новое раскрытие происходит каждый день — вызвала различные реакции со стороны экспертов по кибербезопасности, законодателей и самих лабораторий ИИ. Некоторые выражают опасения и призывают к более строгому контролю. Но также наблюдается и некоторое самодовольство. В определенных кругах любая лаборатория ИИ с моделью, обладающей такими возможностями, будет рассматриваться как впечатляющее достижение.
OpenAI заявила, что делится этой информацией, потому что считает "важным быть прозрачными с общественностью и сообществами безопасности и защиты относительно этого потенциального изменения в возможностях". Лаборатория ИИ также сообщила о том, что принимает меры, включая введение более строгих мер безопасности и приостановку внутренних действий, связанных с Astra, которые не соответствуют этим усиленным стандартам. OpenAI работает с соответствующими государственными учреждениями и "выборочными организациями по безопасности ИИ", чтобы протестировать возможности этой модели.