Ответ Lovable на риски корпоративного ИИ — это страховой полис от Lloyd’s

      Lovable стал первой платформой для кодирования агентов, сертифицированной по стандарту AIUC-1, который является стандартом безопасности для ИИ-агентов и имеет необычное дополнение: сертифицирующий орган также берет на себя риск. Клиенты, использующие сертифицированного агента, застрахованы через Lloyd’s of London от неудач, которые стандарт должен предотвратить. Сертификация и ответственность приходят вместе.

      Что охватывает стандарт

      AIUC-1 разработан компанией Artificial Intelligence Underwriting Company с учетом мнений Стэнфорда, MIT, MITRE и Cloud Security Alliance. Он устанавливает 51 требование по шести принципам.

      Эти требования охватывают управление секретами, безопасные настройки генерации кода, выполнение в песочнице, человеческий контроль и корпоративное управление. Каждое требование требует документированной политики, технической реализации, операционного процесса и квартальной проверки третьими сторонами.

      Критически важно, что это проверяется независимо, а не самоаттестуется, что отличает его от большинства существующих рамок управления ИИ.

      Почему страхование — это интересная часть

      Актуарии, оценивающие риск ИИ-агентов, представляют собой более конкретный механизм ответственности, чем добровольный кодекс поведения. Кто-то должен быть готов потерять деньги, если контрольные меры не сработают.

      Это также заполняет реальную пустоту. ИИ-агенты проникают в компании самостоятельно, и закон не дает четкого ответа на вопрос, кого винить, поскольку законы о неправомерном использовании компьютеров предполагают наличие человеческого нарушителя, а законы о продуктовой ответственности касаются разработчиков только в том случае, если суд признает, что вовлечена автономная система.

      Страхование обходит это. Оно не решает, кто юридически виноват, оно просто делает кого-то контрактно ответственным за расходы.

      Риск не гипотетический

      Режимы отказа, на которые нацелен AIUC-1, уже задокументированы. Четыре отдельных атаки агентов за один месяц имели один общий недостаток, и исследовательские организации зафиксировали несанкционированные действия агентов в контролируемых тестовых запусках.

      Для платформы, где 80% строителей не являются техническими специалистами, выполнение в песочнице и безопасные настройки не являются необязательными дополнениями. Это разница между прототипом и чем-то, что будет использоваться банком.

      Решение проблемы безопасности

      Второе объявление касается центров доверия. Каждое приложение, опубликованное на Lovable, теперь получает специальную страницу безопасности по своему адресу, показывающую, какие меры контроля активны.

      Она считывает их непосредственно из приложения, без необходимости заполнять что-либо строителю, охватывая проверки уязвимостей, список материалов программного обеспечения, отслеживание развертывания, мониторинг состояния и проверки авторизации базы данных.

      Это нацелено на конкретное узкое место. Почти каждая сделка B2B включает в себя проверку безопасности программного обеспечения, и не технический основатель с приложением Lovable исторически не имел ничего, чтобы передать им.

      И проблема разрешений

      Третья часть — это соединители пользователей приложений, позволяющие каждому конечному пользователю опубликованного приложения подключать свою собственную учетную запись третьей стороны, чтобы приложение действовало от их имени с их собственными разрешениями.

      Аутентификация проходит через шлюз соединителей Lovable и работает с Google, Microsoft, Slack, Salesforce и HubSpot. Это устраняет схему, при которой одна общая учетная запись делает все для всех, что именно и вызывает возражения у проверяющих безопасность.

      Что общего у трех

      Ни одно из этих объявлений не улучшает код. Все три делают приложение проще для покупки.

      Корпоративный сектор признан следующим рубежом для кодирования настроений, и барьер там никогда не был в том, функционирует ли программное обеспечение. Вопрос в том, подпишется ли команда безопасности.

      Lovable достигла 500 миллионов долларов в годовом доходе с 146 сотрудниками и, как сообщается, ведет переговоры о привлечении средств при оценке в 13,2 миллиарда долларов. Рост потребительского и профессионального сегментов привел к этому, а корпоративные контракты оправдали бы следующую цифру.

      Открытый вопрос

      Сертификация не равна безопасности, и квартальная проверка — это моментальный снимок, а не гарантия. Застрахованный сбой все равно остается сбоем.

      Что это меняет, так это то, кто несет расходы, когда что-то идет не так, что для сотрудника по закупкам часто является единственным важным вопросом.