Ваш купон на скидку:
Гарри Тан, президент Y Combinator, заявил в интервью CNBC на этой неделе, что не стал бы ничего предпринимать в ответ на дистилляцию моделей искусственного интеллекта. Более того, он считает, что в США должен существовать режим дистилляции американских моделей. В разговоре с TechCrunch он уточнил свою позицию: Тан хочет, чтобы небольшие американские лаборатории, разрабатывающие открытые модели ИИ, использовали те же методы обучения на американских передовых моделях, что обеспечило бы США более широкий набор открытых решений, не зависящих от китайских разработок. Дистилляция представляет собой процесс, при котором разработчик модели многократно запрашивает другую модель, чтобы понять принципы её работы и рассуждений. Этот метод обычно легитимно используется лабораториями ИИ для обучения новых моделей.
На этой неделе компания Anthropic опубликовала второй отчёт, в котором утверждается, что китайские лаборатории занимаются незаконной дистилляцией, скрывая свою личность для получения несанкционированного доступа и используя мошенничество и украденные учётные данные. Генеральный директор Anthropic Дарио Амодеи ранее публично призывал американских регуляторов пресечь практику дистилляции. Примечательно, что глава престижного и влиятельного стартап-акселератора Кремниевой долины с этим не согласен. Важно отметить, что Тан не призывает американские лаборатории ИИ использовать украденные учётные данные для дистилляции — он хочет, чтобы им была предоставлена возможность делать это легально и открыто.
Аргументация Тана состоит из двух частей. Во-первых, он считает чрезмерным то, что лаборатории ИИ диктуют своим клиентам, как использовать информацию, которую их модели предоставляют. Во-вторых, он отмечает, что проприетарные лаборатории ИИ сами не спрашивали разрешения, когда собирали максимально возможный объём человеческих знаний для обучения своих моделей, включая большое количество материалов, защищённых авторским правом, без согласия правообладателей. «Контроль над тем, что пользователи и клиенты делают с API-вызовами к закрытым моделям, кажется ограничительным, и здесь правительство может сыграть роль в нормализации того факта, что доступ к интеллекту, обученному на широко доступных публичных данных, сам должен быть скорее формой общественного блага, чем чем-то, запертым за ограничительными условиями обслуживания», — пояснил он TechCrunch, отвечая на вопрос, почему американским лабораториям также должна быть предоставлена свобода дистилляции.
Тан, который сам является настолько активным пользователем ИИ, что однажды описал своё состояние как киберпсихоз, хочет видеть баланс между открытыми лабораториями ИИ и передовыми лабораториями. «Они находятся на переднем крае и двигают его вперёд. Мы хотим, чтобы это можно было финансировать и чтобы это была отличная бизнес-модель», — сказал он CNBC. «Вы хотите, чтобы открытые модели давали людям свободу и доступ». Для него истинный сценарий катастрофы в области ИИ заключается в том, что вся огромная мощь передового искусственного интеллекта окажется в руках единственного мощного проприетарного поставщика. «Кошмарный сценарий, сценарий катастрофы для ИИ заключается в том, что будет только одна компания, — сказал он. — У неё будет лучший доступ к капиталу. У неё будут лучшие исследователи ИИ. Она оторвётся от всех, и внезапно появится одна монолитная компания. И это будет плохо».