Опасные» модели ИИ появятся несмотря ни на что

В конце прошлой недели компания Anthropic отключила свои новые ИИ-модели Claude Fable 5 и Mythos 5 после директивы правительства США по экспортному контролю, запрещающей «любым иностранным гражданам» пользоваться этими сервисами.

С пятницы компания ведёт переговоры с Белым домом, однако пока не смогла достичь соглашения, которое позволило бы восстановить работу сервисов.

С момента дебюта Mythos в апреле Anthropic заявляла — и предупреждала, — что модель обладает передовыми возможностями не только для поиска уязвимостей в программном обеспечении, помогая защитникам их исправлять, но и для разработки способов их эксплуатации, которые могли бы использовать злоумышленники.

Сама компания отметила эту обоюдоострую природу при запуске Mythos 5 и Claude Fable 5. «Значительная часть продвинутого использования ИИ-моделей носит двойной характер: те же запросы, которые полезны в руках специалистов по кибербезопасности и биологических исследователей, могут быть опасны, если станут доступны злоумышленникам», — говорилось в блоге компании на прошлой неделе.

Учитывая это, изначально компания выпустила версию под названием Mythos Preview для избранного консорциума в рамках рабочей группы, известной как Project Glasswing. Mythos 5 также была предоставлена этой группе в частном порядке на прошлой неделе, а Claude Fable 5, модель уровня Mythos, была открыта широкой публике с особыми ограничениями: она не могла отвечать на вопросы по биологии и кибербезопасности.

Читать полную статью. Комментарии.

Источник