Недооцененный страх Сэма Альтмана по поводу ИИ: что мы перестанем думать сами за себя

      Человек, чья компания пытается заставить мир использовать ИИ для всего, назвал риск, о котором, по его мнению, почти никто не говорит: что люди позволят ему делать так много их размышлений, что их собственные умы станут вялыми.

      Сэм Альтман, генеральный директор OpenAI, называет это «когнитивной атрофией» и ставит это на вершину нерешенных вопросов ИИ. Он сказал это в подкасте «Инвестируй как лучший».

      На вопрос, что больше всего его беспокоит о будущем ИИ, Альтман ответил: «Один из тех вопросов, который, я думаю, не получает много внимания, это как мы собираемся избежать когнитивной атрофии?»

      Его формулировка была менее мрачной, чем дисциплинарной. «Как мы собираемся использовать эти инструменты и убедиться, что мы все больше и больше тренируем свои умы и продолжаем понимать то, что действительно имеет значение?» — спросил он, рассматривая опасность как лень, а не как апокалипсис.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Это тревожная забота, исходящая от него. Вся бизнес-модель OpenAI заключается в том, чтобы убедить людей полагаться на ChatGPT для большей части своей работы и своих решений, что делает его основателя, беспокоящегося о чрезмерной зависимости, немного похожим на кондитера, предупреждающего о сахаре.

      Исследования начинают подтверждать эту тревогу. Наталия Космина, исследователь MIT, провела предварительное исследование, в котором люди, использующие генеративный ИИ для написания эссе, со временем показывали худшие результаты, чем те, кто использовал Google или не получал никакой помощи.

      Ее формулировка была резкой. «Никогда не было инструмента, который предлагал бы нам возможность позволить думать за нас».

      Другие формулируют риск более резко. Вивьен Минг, теоретический нейробиолог, называет привычку передавать когнитивную работу ИИ «хронической заменой» и предупреждает, что повторение этого может подорвать когнитивный резерв, который помогает защищать мозг от деменции.

      Беспокойство усиливается по мере того, как ИИ берет на себя больше. Инструменты вышли за рамки ответов на вопросы и начали выполнять обзор документов, исследования, анализ, поддержку клиентов и программирование, что означает, что умственная работа, которая передается, больше не является тривиальной.

      Альтман не первый технологический руководитель, который это говорит. В прошлом году Артур Менш, генеральный директор французской лаборатории Mistral, сказал The Times, что крупнейшим риском ИИ может быть «обесквалификация» работников и их постепенная лень, когда они полагаются на него для размышлений.

      Шаблон старый, только более резкий. Калькуляторы, навигация и поиск каждый раз забирали навык, который люди раньше держали в своих головах, и каждый раз звучало одно и то же предупреждение, обычно без коллапса, который предсказывали эти предупреждения.

      Что сейчас отличается, так это широта. Ранее инструменты передавали одну узкую задачу; универсальный помощник может читать, писать, рассуждать и принимать решения, что делает вопрос о том, что люди продолжают практиковать, гораздо более значительным.

      Альтман, со своей стороны, не остался мрачным. Он описал «довольно волшебное» будущее, в котором всегда включенный личный ИИ читает ваши документы, слушает ваши встречи, вспоминает электронные письма недельной давности и использует свободные вычислительные мощности ночью, чтобы генерировать идеи и подсказывать, что делать дальше.

      Тем не менее, он провел черту вокруг того, что машины не могут делать. «Миру может понадобиться как бы новое слово для того рода суждений, в которых люди очень хороши, с которыми ИИ, похоже, действительно глубоко борется», — сказал Альтман, что является редким признанием ограничений инструмента от его главного продавца.

      Это напряжение, в котором он живет. Альтман может верить как в то, что ИИ сделает людей более способными, так и в то, что он может сделать их ленивее, и OpenAI продвигает инструмент в повседневную жизнь, в то время как его основатель предупреждает именно об этом.

      Честный ответ заключается в том, что никто еще не знает. Будет ли ИИ развивать наши умы или позволит им ослабнуть, зависит от того, как люди его используют, и Альтман, который уже раньше беспокоился о своей неспособности отложить экран, не обещает хорошего результата, а только называет риск.