Galtea привлекла 3,2 миллиона долларов для помощи предприятиям в тестировании ИИ-агентов

      Стартап Galtea, основанный восемнадцать месяцев назад и выведенный из Барселонского суперкомпьютерного центра, использует ИИ для генерации реалистичных тестовых сценариев, которые выявляют сбои, галлюцинации, предвзятости и риски безопасности до того, как корпоративные ИИ-агенты начнут работать в реальных условиях. Раунд финансирования возглавила компания 42CAP; участие приняла Mozilla Ventures.

      Разрыв между ИИ-агентом, который работает в демонстрации, и тем, который работает в производстве, все больше становится проблемой тестирования. Создание продукта на основе генеративного ИИ больше не является сложной задачей: модели существуют, API доступны, а инструменты для разработчиков созрели.

      То, что не успевает за развитием, так это инфраструктура для понимания того, будет ли созданный вами продукт надежно работать, когда реальные пользователи начнут взаимодействовать с ним в больших масштабах.

      Galtea, стартап из Барселоны, выведенный из Барселонского суперкомпьютерного центра в октябре 2024 года, строит эту инфраструктуру. Он привлек 3,2 миллиона долларов начального финансирования для продолжения работы.

      Раунд возглавила 42CAP, фонд ранних стадий технологий из Мюнхена, с участием Mozilla Ventures, чья инвестиционная стратегия сосредоточена на надежном ИИ, а также существующих инвесторов JME Ventures, Masia и ABAC Nest Ventures. Общая сумма финансирования теперь составляет 4,1 миллиона долларов. Новые средства пойдут на расширение инженерных и коммерческих команд Galtea и дальнейшую разработку платформы.

      Основной продукт Galtea генерирует тестовые случаи и синтетические пользовательские симуляции на основе описаний того, как предполагается, что ИИ-агент будет себя вести. Идея заключается в том, чтобы автоматически создавать противоречивые и крайние сценарии в больших масштабах, не требуя от инженерных команд писать их вручную, что является трудоемким, дорогостоящим и, на практике, редко завершенным процессом.

      Платформа оценивает модели по уровням галлюцинаций, предвзятости, уязвимостям безопасности и токсичности, и выводит структурированные метрики, которые разработчики и команды по соблюдению норм могут использовать для принятия решений о развертывании. На этой неделе компания также запустила уровень самообслуживания с бесплатным пробным периодом, расширив доступ за пределы своей существующей базы корпоративных клиентов.

      Основатели необычны для этой сферы. Хорхе Палома, генеральный директор, работал в Amazon и в исследовательской группе языковых технологий BSC, прежде чем основать Galtea; его соучредитель Байбарс Кюлеби, технический директор, имеет степень доктора философии в области астрофизики, соучредил несколько предыдущих проектов в области языковых и аудиотехнологий и много лет работал экспертом по машинному обучению в BSC.

      Сама технология изначально была разработана в BSC для оценки больших языковых моделей в рамках внутренних исследовательских целей, работая на MareNostrum 5, одном из самых мощных суперкомпьютеров Европы. Это происхождение придает Galtea необычную степень научной глубины для компании, которой восемнадцать месяцев.

      Коммерческое время структурировано. Законодательство ЕС о ИИ теперь требует от компаний, внедряющих ИИ в высокорисковых приложениях, документировать и проверять безопасность и соответствие своих моделей, с штрафами до 35 миллионов евро за нарушения.

      Для европейских предприятий, которые создавали ИИ-продукты без системной тестовой инфраструктуры, регулирование создало срочность. Платформа Galtea находится прямо в этом разрыве: она помогает командам разработки и юридическим командам производить доказательства соблюдения, которые требует регулирование, без необходимости заново строить рабочие процессы. Участие Mozilla Ventures в частности сигнализирует о том, что раунд был частично сформирован вокруг нарратива надежного ИИ, который определяет инвестиционную стратегию фонда с момента его запуска в 2022 году.