Pramaana Labs привлекла 27 миллионов долларов для создания проверяемого ИИ

      Поскольку компании пытаются превратить пилотные проекты ИИ в вещи, на которые они действительно могут полагаться, новый стартап ставит на то, что решение больше похоже не на лучший чат-бот, а на математическое доказательство.

      Pramaana Labs объявила о привлечении 27 миллионов долларов в рамках посевного финансирования в среду, возглавляемом Khosla Ventures, с участием Accel, BoldCap, Nexus Venture Partners, Premji Invest и Unbound.

      Компания нацелена на высокостратегические области, где неверный ответ несет реальные последствия: право, открытие лекарств и подготовка налоговых деклараций.

      Ее предложение заключается в том, что эти области не так запутаны, как кажется. "Самые сложные проблемы мира не являются неразрешимыми. Они неформализованы", - сказал соучредитель и главный исполнительный директор Ранджан Раджагопалан. "Каждая область, где ошибка может стоить кому-то здоровья, денег или свободы, имеет свои правила."

      LLM с проверяющим доказательства

      Pramaana все еще работает на обычной модели большого языка, что дает ей гибкость в обработке вопросов на естественном языке. Разница заключается в верхнем уровне.

      Этот уровень опирается на формальную верификацию, практику доказательства того, что система ведет себя точно так, как указано. В частности, Pramaana использует LEAN, язык с открытым исходным кодом, который математики используют для проверки доказательств, чтобы проверить работу модели и сделать рассуждения детерминированными, а не вероятностными.

      "Это похоже на математику в том смысле, что у вас есть много правил, которым вы должны следовать", - сказал Раджагопалан TechCrunch, описывая налоговый кодекс. "Как только у вас есть кодифицированная версия этого, рассуждения на ее основе начинают становиться детерминированными."

      Сочетание LLM с уровнем верификации становится распространенным способом решения проблемы надежности ИИ. То, что Pramaana утверждает как свое, - это использование инструментов формального доказательства для этого, подход, который ближе к исследованиям с доказуемыми гарантиями, чем к обычным защитным механизмам.

      Создание свода правил, область за областью

      Загвоздка в том, что кто-то должен сначала кодифицировать правила, и Pramaana делает это по одной вертикали за раз, каждая из которых контролируется экспертами в данной области.

      Для налогов компания работает с бывшим комиссаром IRS Дэнни Уэрфелом. Профессора из IIT Дели, IIT Мадрас и UC Беркли контролируют системы кибербезопасности и открытия лекарств.

      Существует прецедент для этой идеи. Раджагопалан указывает на проект CATALA во Франции, который превратил большую часть налогового и социального законодательства страны в исполняемый код.

      Пока работа все еще опережает продукт. У Pramaana есть деньги, инвесторы и тезис о том, что потолок точности ИИ на самом деле является вопросом того, сколько из мира мы потрудились записать. Правила просто нужно кодифицировать, и это самая сложная часть.