Познакомьтесь с философом DeepMind, размышляющим о этике ИИ

      Что нужно компании, занимающейся разработкой ИИ для игр, с философом? Этот вопрос стоит в центре длинного материала Guardian о Иасоне Габриэле, который работает в Google DeepMind с 2017 года.

      На некоторое время, как сообщает Guardian, Габриэль был единственным философом в передовой лаборатории ИИ. Его работа заключалась в том, чтобы предвидеть этические последствия технологии, которую его коллеги-инженеры стремились создать.

      Два лагеря

      Когда Габриэль присоединился, в статье объясняется, что размышления о рисках ИИ разделились на два лагеря. Один лагерь, «безопасность ИИ», беспокоился о будущем суперразуме, который может выйти из-под контроля. Другой, «этика ИИ», сосредоточился на текущих вредах, таких как предвзятое распознавание лиц.

      Статья Габриэля 2020 года о ценностях и согласовании пыталась соединить эти два подхода. Получить машину, которая будет следовать набору ценностей, сложно, утверждал он. Выбор, какие ценности выбрать в мире глубоких разногласий, еще сложнее.

      Согласование как отношение

      Guardian подробно описывает 267-страничный отчет, который Габриэль и его команда позже подготовили о агентах ИИ. Его основная идея заключается в том, что согласование — это не просто подчинение инструкциям. Это четырехстороннее отношение между ИИ, пользователем, разработчиком и обществом.

      Такое представление помогает показать, как помощник может ошибиться. Один, обученный угождать своему пользователю, может просто льстить ему, что Габриэль называет «взломом социальной награды». Частично благодаря его работе, отмечает статья, модели Google обучены не притворяться людьми.

      Большое давление

      Guardian рассматривает настоящую проверку как коммерческую, а не техническую. ИИ — это самая быстрорастущая отрасль, которую когда-либо видел мир, и DeepMind теперь несет большую часть будущего Google. Его руководитель, Демис Хассабис, назвал гонку «военным временем».

      DeepMind по-прежнему опирается на знаковые научные достижения, от AlphaFold до Isomorphic Labs. Но статья задается вопросом, смогут ли этики удержать линию по мере нарастания этих давлений. Хелен Кинг, которая определяет стратегию ответственного ИИ в DeepMind, сравнила эту работу с ножом: изготовитель не может контролировать, как он будет использоваться, но может накрыть лезвие и предупредить людей.

      Габриэль, который называет себя «человеческим гуманистом», ожидает, что ИИ будет столь же трансформирующим, как промышленная революция. Он также отмечает, что для многих, кто пережил это время, ситуация ухудшилась, прежде чем стала лучше.

      

       Опубликовано 17 июля 2026 года - 10:14 по всемирному координированному времени

      

       Вернуться к началу