Ваш купон на скидку:
Эксперты комиссии журнала The Lancet, занимающиеся изучением глобальных рисков для здоровья в XXI веке, опубликовали отчет, в котором рассматриваются сценарии, способные привести к вымиранию человечества до завершения текущего столетия. Среди основных факторов риска, наряду с ядерным конфликтом, специалисты выделяют злонамеренное использование технологий искусственного интеллекта. Авторы доклада признают высокую степень неопределенности подобных прогнозов, однако настаивают на необходимости учета этих угроз из-за потенциально катастрофических последствий.
В работе выделены три ключевых направления, по которым искусственный интеллект может создавать риски для общества. Первым из них является создание биологического оружия с помощью ИИ-инструментов. Вторым направлением названа интеграция ИИ в работу общественно значимых систем и критической инфраструктуры. По мнению экспертов, это грозит распространением массовых политических дипфейков, шантажом и использованием автономного ядерного вооружения. Третья категория опасностей касается вероятной утраты контроля над системами общего искусственного интеллекта. В случае выхода таких систем из-под управления человека последствия могут варьироваться от значительного ущерба до глобальной катастрофы.
Помимо технологических рисков, комиссия составила перечень иных угроз, оказывающих влияние на здоровье населения, включая преждевременную смертность, инвалидность и потерю лет здоровой жизни. В список включены следующие проблемы:
изменение климата и загрязнение воздуха,
вооруженные конфликты, пандемии и ядерная война,
устойчивость к противомикробным препаратам и недоедание детей,
сокращение международной помощи в медицинской сфере,
неравенство доходов и низкий уровень образования,
проблемы с психическим здоровьем и нездоровое старение,
курение, ожирение, чрезмерное употребление алкоголя и высокое артериальное давление.
Представители технологической индустрии также высказывают опасения относительно безопасности новых разработок. Согласно данным Axios, руководители крупных компаний сектора ИИ ожидают вероятных инцидентов в период от 6 до 12 месяцев. В качестве примеров возможных атак упоминаются кибервоздействия на финансовые сервисы, работу интернета, систем водоснабжения и электроснабжения.
Существуют различные подходы к регулированию отрасли. В сентябре глава Anthropic Дарио Амодеи высказался за необходимость замедления темпов развития ИИ, аргументируя это случаями выхода ИИ-агентов за рамки заданных ограничений. Данную позицию, согласно публикациям, поддержали Сэм Альтман из OpenAI и Илон Маск из xAI. Противоположную точку зрения высказал президент США Дональд Трамп, который выступил против замедления темпов исследований, объясняя это необходимостью удержания технологического преимущества Соединенных Штатов над Китаем.