Ваш купон на скидку:
Как быстро все изменилось. Компании, занимающиеся безопасностью, теперь спешат создавать продукты, которые могут мониторить не только агентов, но и инструменты и дополнения, которые они используют. Хотя пока нет множества заголовков о том, что агенты подвергаются эксплуатации, риск того, что агенты выйдут из-под контроля во время производства, тем не менее, реален. И рынок инструментов для предотвращения этого взорвался: Gartner оценивает, что компании потратят $2,83 миллиарда в этом году на продукты, предназначенные для обеспечения безопасности инструментов ИИ, что на 83% больше, чем в 2025 году, и ожидает, что расходы достигнут почти $4,78 миллиарда в следующем году.
HiddenLayer, которая создает инструменты для защиты моделей ИИ, агентов и рабочих процессов от атак, уязвимостей и вредоносных кодов, смогла хорошо воспользоваться этим сдвигом. Ее соучредитель и генеральный директор, Крис Сестито, сообщил TechCrunch, что годовой регулярный доход стартапа вырос более чем в 10 раз за последний год. Он отказался назвать точную цифру, но сказал, что ARR сейчас составляет "десятки миллионов" долларов, и более 90% этого роста было обусловлено новыми клиентами, подписавшимися в прошлом году. Финансовые услуги и крупные технологические компании, создающие продукты ИИ, в настоящее время являются крупнейшими вертикалями компании, и у нее также есть контракты с Министерством обороны и разведывательным сообществом. Один из ее клиентов, по-видимому, является "ведущим поставщиком моделей на переднем крае" с "более чем 700 миллионами еженедельных пользователей", что звучит как OpenAI или Anthropic.
Чтобы максимально использовать этот импульс, стартап привлек $100 миллионов в рамках раунда финансирования серии B, который возглавила Delta-v Capital, с участием Ten Eleven Ventures, Morgan Stanley, M12 от Microsoft, Booz Allen Hamilton и других. Основанный в Остине стартап в целом все еще продает то, что он продавал в 2023 году, но Сестито сообщил TechCrunch, что самым большим изменением, которое ему пришлось сделать, было расширение существующих продуктов — обнаружение, защита во время выполнения, моделирование атак и безопасность цепочки поставок — для решения проблем с внедрением подсказок, манипуляцией агентами и использованием вредоносных инструментов. "Выводы остаются выводами. Независимо от того, идет ли речь о традиционной модели машинного обучения, GenAI или агентной рабочей потоковой линии, большая часть нашей технологии все еще применима. Так что нам действительно не пришлось менять направление, но пришлось расширить наш охват … от традиционного моделирования к GenAI и агентному," — сказал он.
Сестито подчеркнул, что безопасность во время выполнения особенно стала приоритетом, поскольку развертывание ИИ становится обычным явлением в бизнесе, и сравнил это с традиционными решениями для обнаружения и реагирования на конечные точки (EDR), но специально для ИИ. Новые продукты компании отражают этот сдвиг, и Сестито выделил новую возможность для атакующих в эксплуатации моделей с открытым исходным кодом. "Мы анализируем и сканируем около 50 различных фреймворков файлов ИИ, чтобы убедиться, что, особенно в случае открытого исходного кода, моделей с открытыми весами, инструмент, с которым вы работаете, является тем, чем вы считаете его, и тем, чем он заявляет быть. Мы смотрим на такие вещи, как модели, которые заявляют, что они одно, но на самом деле они другое — скрытые модели внутри моделей," — сказал он.
Стартап утверждает, что новые $100 миллионов помогут ему двигаться в этом направлении, хотя с большим акцентом на продажи и распределение, продолжая расширять свои инженерные и исследовательские возможности. Он также планирует расширяться в Европе и EMEA. HiddenLayer может найти себя, используя этот капитал для большего, однако. Крупные компании в области кибербезопасности, такие как Cisco, Palo Alto Networks и Check Point, часто предпочитают покупать, а не создавать такую технологию, в то время как стартапы, такие как Noma и Zenity, привлекли более $100 миллионов каждый, чтобы заняться смежными или пересекающимися областями этого пространства. Сестито признал, что некоторые части продуктов безопасности ИИ, которые предлагает его компания, в конечном итоге могут быть объединены в платформы, созданные такими компаниями, как Microsoft, OpenAI и AWS. Однако он ожидает, что инфраструктура ИИ будет развиваться в сторону функций управления, таких как обнаружение, идентификация и контроль политики, а не тех инструментов, которые создает его компания. На данный момент он говорит, что задача HiddenLayer — "масштабироваться вертикально вместе с искусственным интеллектом," и в конечном итоге расширяться горизонтально в части кибербезопасности, которые все больше зависят от ИИ. Это амбициозная цель, но стартапу сначала нужно доказать, что он может превратить свое преимущество в устойчивый бизнес, прежде чем остальная часть индустрии догонит его.