Ваш купон на скидку:
Тематика информационной безопасности, развитие искусственного интеллекта и вопросы масштабирования вычислительной инфраструктуры стали центральными темами в недавнем интервью руководителя компании, которое он дал в подкасте Cheeky Pint, записываемом совместно с сооснователем Stripe Джон Коллисон. В ходе беседы обсуждались перспективы использования робототехнических систем для удешевления вычислений, архитектура будущих моделей, а также вызовы, с которыми сталкивается вся технологическая отрасль.
Для преодоления дефицита вычислительных мощностей OpenAI намерена задействовать роботов под управлением искусственного интеллекта. По планам организации, автоматизированные системы должны будут участвовать в выпуске микросхем, солнечных панелей и турбин, а в дальнейшем строить дата-центры, которые смогут воспроизводить себя сами. Сэм Альтман отметил, что подобные комплексы уже находятся в пределах досягаемости, а конечной целью такой программы является радикальное снижение стоимости вычислений.
Касаясь финансовых параметров инфраструктуры, руководитель компании привел в пример текущую оценку в $70 млрд на возведение и эксплуатацию гигаватта вычислительных мощностей в течение 5 лет, назвав при этом сумму в $20 млрд за аналогичный объем гораздо более привлекательной. Кроме того, компания ведет разработку собственного чипа, который демонстрирует хорошие результаты по производительности искусственного интеллекта на единицу потребляемой электроэнергии. Рынок же, по мнению Альтмана, пока не успевает за растущим спросом на компоненты и память из-за осторожности производителей, опасающихся повторения прошлых финансовых потерь от избыточного строительства заводов.
Отдельное внимание в беседе было уделено рискам в области кибербезопасности. Руководитель OpenAI указал, что модели все эффективнее находят программные уязвимости, однако специалисты еще не проверили с их помощью весь существующий код. По мере расширения таких проверок он ожидает обнаружения более серьезных ошибок, а также предупредил об угрозе выявления уязвимостей на уровне аппаратного обеспечения. Что касается защиты самих систем, то изолированные среды выполнения или песочницы эффективны лишь до определенного уровня возможностей модели, а мониторинг обеспечивает лишь дополнительную защиту, поскольку в итоге безопасность будет зависеть от соответствия поведения системы намерениям ее создателей. При этом индустрия пока не имеет уверенности в долгосрочной эффективности существующих подходов к безопасности.
В части архитектуры искусственного интеллекта Альтман высказался в пользу применения систем из множества взаимодействующих агентов вместо создания одной сверхмощной модели. Команды из моделей со способностями чуть выше человеческого уровня могут оказаться предпочтительнее единой системы с чрезвычайно высоким интеллектом, хотя здесь сохраняются риски для согласованности поведения, а в будущем для отдельных моделей могут потребоваться ограничения на уровень возможностей. Методы, принесшие успехи в математике, где на отдельные задачи тратились вычислительные ресурсы стоимостью порядка $10 млн, а общие расходы исчислялись сотнями миллионов долларов, вероятно, удастся перенести и на научные исследования. В завершение было отмечено, что при огромном потенциале технологии индустрия пока не смогла убедительно объяснить обществу причины, по которым ожидаемая польза способна оправдать сопутствующие риски, включая усиление слежки и массовую потерю рабочих мест.