OpenAI заявляет, что будущее поколение её моделей ИИ, таких как ChatGPT, может значительно увеличить риск создания биологического оружия даже людьми без специального научного образования.

Руководитель отдела безопасности OpenAI, Йоханнес Хайдеке, отметил, что компания ожидает, что некоторые из будущих моделей достигнут такого уровня.

Чтобы предотвратить использование технологий для создания биологического оружия, OpenAI усиливает меры безопасности.

Компания обеспокоена тем, что без этих мер новые ИИ-модели могут позволить людям с ограниченными научными знаниями создавать опасные вещества.

Хайдеке подчеркнул, что пока нет угрозы появления новых биологических опасностей, но существует риск воспроизведения уже известных.

Он также отметил, что некоторые возможности ИИ, которые могут способствовать медицинским открытиям, могут быть использованы во вред.

В свою очередь, компания Anthropic недавно представила свою самую продвинутую модель Claude Opus 4, которая имеет более строгие протоколы безопасности и классифицируется как AI Safety Level 3 (ASL-3) в рамках политики ответственного масштабирования.

Ранее все модели Anthropic относились к AI Safety Level 2 (ASL-2).

Новые
Яндекс внедряет передовые рекомендации, аналогичные тем, что используют Google и Netflix, основываясь на генеративных моделях.
Обратно к списку
Старее К сервису «Яндекс Еда» добавили интеллектуального помощника «Еда AI», работающего на базе YandexGPT 5 Pro.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *