С ватиканской сцены Крис Олах из Anthropic говорит, что ИИ не может управляться только лабораториями ИИ.

      Сидя рядом с Папой Львом XIV на запуске Magnifica humanitas, руководитель по интерпретируемости компании признал, что стимулы пограничных лабораторий могут отвлекать исследователей от правильных действий.

      Кристофер Олах, соучредитель Anthropic и глава его исследовательского направления по интерпретируемости, использовал свое место в Ватикане в понедельник, чтобы сделать аргумент, который ни один лидер крупной AI-компании ранее не высказывал на платформе такого масштаба: развитие пограничного ИИ не может быть оставлено пограничным лабораториям ИИ.

      Олах выступил на официальной презентации первой энциклики Папы Льва XIV, Magnifica humanitas, в Зале Синода Ватикана.

      «Каждая пограничная лаборатория ИИ», - сказал он, - «работает в рамках набора стимулов и ограничений, которые иногда могут противоречить правильным действиям».

      Даже хорошо намеренные исследователи, добавил он, остаются под влиянием этих сил. Вывод, который он сделал, заключался в том, что внешний контроль со стороны религиозных лидеров, правительств и институтов гражданского общества был необходим. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Вторая половина речи касалась труда. Олах сообщил присутствующим, что существует «реальная возможность», что ИИ заменит человеческий труд «в очень большом масштабе», и что, «если это произойдет, поддержка тех, кто будет заменен, станет моральным императивом исторических масштабов».

      Эта фраза является самым конкретным публичным признанием на сегодняшний день со стороны основателя пограничной лаборатории, что технология, которую строит его компания, может, согласно ее внутренним прогнозам, вытеснить рабочие места быстрее, чем рынок труда сможет их вновь поглотить.

      Присутствие Anthropic в Ватикане уже стало, за последние две недели, самым заметным переосмыслением года для любой AI-компании.

      Компания предварительно анонсировала открытие офиса в Милане; теперь она находится внутри самого значимого заявления Католической Церкви о технологии с тех пор, как Рерум новарум Льва XIII касался промышленного капитала в 1891 году.

      Конкретная роль Олаха, возглавляющего исследование интерпретируемости компании, рассматривается фирмой как ее самый сильный аргумент в пользу надежности: он руководит командой, пытающейся понять, что на самом деле делают пограничные модели внутри.

      Политический контекст является обратным моральному. Anthropic провела весну в центре двух отдельных противостояний с правительством США.

      Пентагон исключил компанию из своей работы с высокосекретным ИИ в апреле из-за собственных ограничений использования фирмы, затем подписал контракты с Nvidia, Microsoft и AWS вместо нее.

      Администрация Трампа заблокировала расширение Mythos, модели автономного обнаружения уязвимостей, которая потрясла глобальное управление кибербезопасностью банков. Появление Олаха на одной сцене с папой, призывающего к внешнему контролю, является прямым ответом.

      Это также происходит в момент особого коммерческого веса для компании. Anthropic ведет переговоры о привлечении 30 миллиардов долларов при оценке в 900 миллиардов долларов.

      Диссонанс на странице резкий, и Олах не притворялся, что это не так. «Компании, подобные нашей», - сказал он присутствующим, - «работают под сильным коммерческим, геополитическим и личным давлением, которое может противоречить более широким интересам общества».

      Аргумент заключался не в том, что Anthropic стоит вне этих давлений. Он заключался в том, что ответ на них находится вне лаборатории.

      Что энциклика требует от правительств и гражданского общества в конкретных терминах, и во что превратится приглашение Олаха для отношений Anthropic с регуляторами США, остается нерешенной частью.

      Magnifica humanitas не называет политики; она задает рамки. Речь Олаха на запуске сделала то же самое. Оба, по сути, отказались передавать архитектуру регулирования следующего десятилетия компаниям, которые потратили последние три года на создание технологии, которую она будет регулировать.

      Выбор посланника тоже не был тонким. Олах - основатель лаборатории ИИ, который говорит аудитории, включая кардиналов, папу и наблюдающий Белый дом, что лаборатории ИИ не могут справиться с этим в одиночку.

      Будет ли этот аргумент влиять на практическую политику - открытый вопрос. То, что основатель пограничной лаборатории сделал это изнутри Ватикана, само по себе является новостью.