Anthropic тестирует новый стандарт для Claude, чтобы работать с заводским и лабораторным оборудованием

      Anthropic выпустила Стандарт Аппаратного Обеспечения в исследовательском превью, спецификацию, которая хранит информацию о том, как работает аппаратное обеспечение и как ИИ может безопасно его эксплуатировать, например, ограничивая скорость и углы движения роботизированной руки. Регламент ЕС по машинам начнет охватывать функции безопасности на основе ИИ с 20 января 2027 года.

      Anthropic разработала стандарт для объяснения ИИ, как работает машина. Стандарт Аппаратного Обеспечения, выпущенный в исследовательском превью, хранит информацию о том, что делает аппаратное обеспечение и как его можно эксплуатировать, чтобы модели не приходилось полагаться на бумажное руководство или на двух человек, которые это знают.

      Пример, который приводит компания, — это роботизированная рука. Поставщик может указать в файле MHS, как ИИ может безопасно перемещать тяжелую руку, ограничивая скорости и углы, которые ему разрешено использовать.

      Речь идет о знаниях, которые существуют, но недоступны. «Во многих случаях наука не происходит, потому что вы не можете использовать оборудование», — сказал Джона Кул из научного подразделения Anthropic.

      Прецедент установлен самой Anthropic. «То, что MCP сделала для программного обеспечения, MHS сделает для мира аппаратного обеспечения», — сказал Алекс Кеменй, имея в виду Протокол Модельного Контекста, который теперь соединяет помощников с Gmail, Календарем и Slack.

      Демонстрация проходит в лаборатории. Anthropic сообщает, что ученый из Genentech отправил Клоду PDF-документ с экспериментом, который они разработали, и помощник выполнил его автономно на оборудовании с спецификацией MHS.

      Тестовая группа значительная. Amazon Web Services, Danaher, Hugging Face и Raspberry Pi пробовали это, и сейчас открыт список ожидания для всех остальных.

      Два из них имеют европейское происхождение. Raspberry Pi британская и зарегистрирована в Лондоне, а Hugging Face была основана французской командой.

      Машины также становятся все более европейскими. NEURA Robotics привлекла до 1,4 миллиарда долларов в Германии в этом году в секторе гуманоидов, который, как утверждает TNW, тихо лучше подготовлен, чем кажется.

      Европа собирается регулировать именно это. Регламент 2023/1230 полностью заменяет Директиву по машинам с 20 января 2027 года и впервые охватывает функции безопасности на основе ИИ и машины с саморазвивающимся поведением.

      Это меняет то, что может представлять собой файл MHS. Спецификация, которая ограничивает скорость и углы движения роботизированной руки, выполняет функцию безопасности, и для категорий с высоким риском самодекларация о соответствии перестает быть достаточной.

      Запись о безопасности стоит держать в уме. TNW сообщила, что Claude Cowork мог сбежать из своей виртуальной машины и прочитать учетные данные на Mac, и это было программное обеспечение.

      Anthropic намерена сделать фреймворк с открытым исходным кодом, как только превью закончится. В Европе, кто бы ни написал этот файл, может обнаружить, что он написал регулируемый компонент безопасности.