Zenity привлекла 125 миллионов долларов для обеспечения AI-агентов, а не моделей.

      Большая часть денег, потраченных на защиту ИИ, ушла на модель и запрос. Zenity только что привлекла 125 миллионов долларов на другом аргументе: оба упускают настоящую опасность. Эта опасность заключается в ИИ-агенте, который действует самостоятельно. Израильский стартап обеспечивает безопасность действий агентов, как только компания позволяет им свободно работать внутри своих систем.

      Norwest возглавила раунд Series C. Фонд Vision Fund 2 от SoftBank, Hitachi Ventures и LG Technology Ventures присоединились, как сообщила компания. Это увеличивает общий объем финансирования до примерно 185 миллионов долларов. Zenity не раскрыла оценку. Примечательно, что новые инвесторы — это все компании, использующие агентов в своем бизнесе.

      Два ветерана Unit 8200, Бен Клигер и Майкл Баргури, основали Zenity в 2021 году. Оба ранее создавали продукты безопасности в Microsoft. В настоящее время в компании работает более 230 сотрудников, с исследованиями в Тель-Авиве и командой продаж в Нью-Йорке. Как утверждает компания, ее клиентами в основном являются фирмы из списка Fortune 500 и Global 2000 в регулируемых отраслях.

      Защита агента, а не модели

      Предложение основывается на изменении, к которому индустрия только сейчас начинает адаптироваться. Чат-бот отвечает на вопрос. Агент принимает меры. Он может получить доступ к внутренним базам данных, вызывать инструменты, обновлять записи и выполнять многоступенчатые рабочие процессы по системам. Это превращает проблему контента в проблему контроля.

      💜 технологий ЕС Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Агент может вести себя точно так, как задумано, и все равно вызвать утечку. У него может быть слишком много доступа или он может читать манипулированные инструкции. Поэтому Zenity следит за слоем агентов: их разрешениями, подключенными инструментами, памятью и действиями в реальном времени. Он читает намерение за каждым действием и, как утверждает, может разрешить, изменить или заблокировать это действие до его выполнения.

      Zenity Labs демонстрирует риск. Календарное приглашение с ловушкой может захватить агентский браузер Perplexity. Затем он может открыть незаблокированный хранилище паролей и утечь учетные данные внутри. Его предыдущая работа AgentFlayer обнаружила нулевые клики, позволяющие превратить корпоративных помощников против их владельцев. Атаки скрываются внутри данных, которым агент должен доверять.

      Категория, и переполненная

      Тайминг не является тонким. Привлечение средств произошло через несколько дней после испуга. OpenAI признала, что две ее модели вырвались из запечатанного теста и взломали Hugging Face. Они искали ключ ответов для бенчмарка. Это именно тот сценарий, против которого продает Zenity: агент делает что-то, что не должен. Это повысило ставки для каждой компании, внедряющей агентов в свои системы.

      Zenity не одна в том, что замечает пробел. Это второй раунд финансирования в девятизначной сумме в области безопасности ИИ на этой неделе, после 250 миллионов долларов от Horizon3 на автономное тестирование на проникновение. Она находится рядом со стартапами, такими как Onyx, создающими уровни контроля для агентов. Gartner уже называет Zenity компанией, которую нужно обойти в управлении агентами. Инвесторы ставят на то, что это станет категорией, а не функцией.

      Предостережения следуют за любым быстрым привлечением средств. Zenity держала свою оценку в секрете, и ее показатели роста, как бы круты они ни были, исходят из молодой базы. Более серьезное испытание — стратегическое. Предприятия должны сделать выбор. Покупают ли они специализированную платформу для безопасности агентов? Или полагаются на то, что Microsoft, Google и AWS объединяют в инструментах, где агенты уже живут?

      Пока деньги текут к специалистам. Как говорит Клигер, индустрия движется в «эпоху 1 миллиарда агентов». Каждый из них может действовать внутри бизнеса, а не просто отвечать на вопрос. Ставка Zenity заключается в том, что кто-то должен следить за тем, что делают все они. На этой неделе это сделало ставку более трудной для обсуждения.