Ваш купон на скидку:
Откровение стало известно вскоре после публикации эссе генерального директора Anthropic Дарио Амодеи в субботу, в котором он призвал отрасль к совместной работе над замедлением развития передовых систем искусственного интеллекта и предотвращением катастрофических рисков. Лидеры в области ИИ, включая Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска из SpaceXAI, поддержали письмо Амодеи и его призыв к действию. Альтман заявил, что OpenAI присоединится к Anthropic во внедрении сторонних оценщиков для мониторинга безопасности.
Во вторник представитель компаний, имя которого не уточняется, но который участвовал в переговорах, признал, что три упомянутые компании (Anthropic, OpenAI и Google) ведут переговоры уже несколько недель по вопросам безопасности ИИ. Некоторые участники, включая Альтмана, отмечали, что такие обсуждения могут создать риск нарушения антимонопольного законодательства, если будет установлено, что координация подавляет конкуренцию. Амодеи в своем эссе предложил узконаправленное правительственное исключение, позволяющее такую координацию в целях безопасности, однако, по сообщениям, представитель компаний заявил, что фирмам оно не требуется.
Эта новость подтверждает предыдущие сообщения и указывает на то, что компании действительно сотрудничали. В интервью изданию Fortune в конце прошлой недели Альтман намекнул, что вел частные дискуссии с другими лидерами отрасли ИИ. На этой неделе издание The Information сообщило, что три компании работают над созданием органа по стандартизации для индустрии ИИ — чего, по сообщениям, Альтман заявил своим сотрудникам, должно произойти без поддержки правительства США.
Ранее, в июле, Хассабис призывал США создать новый орган по стандартизации, который действовал бы как надзорный орган в области ИИ, обладая полномочиями проверять самые передовые модели в мире и координировать общеотраслевые замедления в случае нарастания опасностей. Президент Трамп, со своей стороны, отверг опасения по поводу безопасности как мистификацию и выступил против необходимости ужесточения регулирования, заявив, что любое замедление даст Китаю преимущество в гонке. Его ключевой советник по ИИ Дэвид Сакс, давний инвестор с личной заинтересованностью во многих аспектах отрасли, поддержал эту позицию, назвав страхи перед экзистенциальным риском от ИИ преувеличенными.
На той же встрече во вторник представитель компаний заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act, которое обяжет ведущие передовые лаборатории допускать «независимые организации по верификации» в свои компании для обеспечения безопасной разработки моделей. Издание TechCrunch обратилось к Anthropic, Google и OpenAI за комментариями.