Купон на скидку: 2026
В июне правительство США ввело экспортные ограничения на широко разрекламированные ИИ-модели Anthropic — Mythos и Fable. Решение было принято, в частности, после публикации отчёта, в котором утверждалось, что можно обойти встроенные механизмы защиты, призванные помешать использованию этих моделей для создания и проведения вредоносных кибератак. Позднее ограничения на экспорт Fable 5 и Mythos 5 были сняты: с 1 июля Fable 5 вновь стала общедоступной, а Mythos 5 вернулась только к проверенным организациям на территории США в рамках государственной процедуры пересмотра. Примечательно, что Anthropic последовательно позиционировала Mythos как некую «кибермашину судного дня», доступ к которой возможен лишь для тщательно отобранных пользователей и со строгими барьерами безопасности.
Подобное «сторожевое» отношение не уникально для Mythos. И OpenAI, и Anthropic предлагают исследователям кибербезопасности специализированные программы верификации: OpenAI — Trusted Access for Cyber, Anthropic — Cyber Verification Program. Успешно прошедшие проверку специалисты получают доступ к моделям с меньшим числом ограничений в области кибербезопасности. Однако такой подход вызывает резкую критику, особенно со стороны профессионалов, чья задача — находить неизвестные уязвимости и разрабатывать способы их эксплуатации раньше злоумышленников.
Известный исследователь уязвимостей Марк Дауд (Mark Dowd) в недавнем подкасте по кибербезопасности выразил недовольство тем, что «случайные крупные компании принимают произвольные решения о том, что безопасно в сфере безопасности, а что нет». Дауд десятилетиями находит и продаёт zero-day-уязвимости западным правительствам, а не сообщает о них производителям для исправления. Его позицию разделяют многие специалисты по наступательной кибербезопасности. Крис Энли (Chris Anley), главный научный сотрудник консалтингового гиганта NCC Group, отметил, что просьба к ИИ-модели попытаться проэксплуатировать ошибку — это критически важный шаг для подтверждения реальности уязвимости. Когда же защитный барьер заставляет модель полностью отказываться отвечать, это вредит именно обороняющейся стороне. По словам Энли, «исправить этот код» может быть одновременно и механизмом защиты, и дорожной картой для поиска критических уязвимостей — инструмент неразделимо сочетает наступательные и оборонительные функции, подобно молотку, без которого не построить дом, но который неизбежно является и оружием. Сталкиваясь с отказами облачных моделей, специалисты его группы иногда переключаются на опенсорсные ИИ-модели, лишённые подобных предохранителей.
Паоло Станьо (Paolo Stagno), технический директор компании CrowdFense, занимающейся разработкой и продажей неизвестных уязвимостей правительственным агентствам, также критикует программы верификации, считая, что ИИ-компании «относятся к клиентам как к детям, которым нужна нянька». CrowdFence использует передовые модели лишь для обратной разработки; для поиска уязвимостей и создания эксплойтов они применяют опенсорсные модели, запускаемые локально, чтобы исключить утечку чувствительных данных о дефектах в облачную среду и их попадание в будущие циклы обучения. Исследователь Джузеппе Кали (Giuseppe Cali), напротив, не считает нынешние барьеры помехой, поскольку применяет ИИ исключительно для начального анализа кода и создания вспомогательных инструментов, принципиально оставляя обнаружение уязвимостей и вооружение эксплойтов за собой. «Я слишком ревниво отношусь к своим находкам и слишком люблю эту игру, чтобы позволить моделям играть за меня», — признался Кали.
Сотрудник компании-производителя компонентов для смартфонов, пожелавший остаться анонимным, рассказал, что его работодатель не участвует в программе CVP от Anthropic, а её ИИ-инструменты практически бесполезны для поиска дефектов из-за чрезмерно строгих ограничений: как только система определяет запрос, связанный с безопасностью, она перестаёт отвечать. Крис Томпсон (Chris Thompson), глава компании RemoteThreat и основатель конференции Offensive AI Con, добавил, что на практике «защитные перила» даже в верифицированных программах работают непоследовательно и ежедневно по-разному, вынуждая тратить массу времени на «переговоры с моделью» вместо анализа уязвимости.
Подобная нестабильность, по словам Томпсона, подталкивает ответственных исследователей к использованию китайских опенсорсных моделей вроде GLM — свободно загружаемых систем без проверок и ограничений. «Эти исследователи уходят от американских регулируемых систем к иностранным, — подчеркнул он. — Я считаю, что нынешние барьеры приносят больше вреда, чем пользы». Томпсон призвал ведущие ИИ-лаборатории не ужесточать фильтры, а открывать программы, предоставлять ответственный доступ и привлекать к ответственности тех, кто злоупотребляет инструментами. Иначе, по его мнению, обороняющаяся сторона проиграет гонку в сфере ИИ: «Приближается большая буря — волна атак невиданной скорости и масштаба, а легитимные специалисты, пытающиеся что-то изменить, прямо сейчас оказываются скованными по рукам».