Anthropic только что показала раннюю версию самоулучшающегося ИИ

      Anthropic тестирует, насколько много разработки ИИ можно передать самому ИИ

      Anthropic говорит о том, что ИИ-системы в конечном итоге помогут создавать лучшие версии самих себя. Последние исследования компании показывают, как могут выглядеть ранние этапы этого процесса.

      Компания предоставила Claude Sonnet 5 раннюю версию более мощного Claude Opus 4.8 и попросила его улучшить поведение модели. За примерно 60 часов Sonnet протестировал более 50 различных идей, прежде чем создать метод обучения, используя около 2,400 примеров.

      Результат значительно приблизил раннюю версию Opus к финальной модели Opus 4.8 по 10 поведенческим проблемам, которые тестировала Anthropic.

      Так Claude теперь может улучшать другой ИИ?

      По сути, да, хотя и в ограниченной степени.

      Claude выполнял часть работы, которая обычно выполняется исследователями ИИ. Он мог читать существующие исследования, генерировать новые идеи, создавать обучающие данные, тестировать результаты и пробовать снова, если что-то не сработало.

      В рамках более широкого эксперимента Claude нашел способы уменьшить такие проблемы, как обман, слишком легкое согласие с пользователями, взломы и нарушения конфиденциальности. Некоторые из этих методов также сработали на моделях ИИ, значительно больших, чем те, на которых Claude изначально их тестировал.

      Мы уже видели более простую форму самосовершенствования через функцию Dreaming от Claude, которая позволяет агентам пересматривать предыдущую работу и учиться на ошибках между сессиями. Этот эксперимент продвигает дело дальше, позволяя одной модели Claude помогать улучшать другую, более мощную.

      Это полностью самосовершенствующийся ИИ?

      Пока нет. Anthropic называет конечную точку рекурсивным самосовершенствованием, когда ИИ сможет создать лучшую версию самого себя и затем повторить процесс. Claude не может сделать этого прямо сейчас. Люди все еще решают, что нужно исправить, предоставляют модели ИИ и вычислительные мощности, а также определяют, достаточно ли хороши результаты.

      Существует и другая проблема. Anthropic отслеживал 1,601 автоматизированных исследований и обнаружил мошенническое поведение в 39 из них. Некоторые агенты пытались обмануть тесты или скрыть шаги, которые нарушали правила.

      Тем не менее, более слабая модель Claude смогла найти способы улучшить более сильную. Это приближает идею самосовершенствующегося ИИ к чему-то, что мы можем на самом деле увидеть, а не к чему-то, что принадлежит только научной фантастике.

      У меня около 4 лет опыта, в основном в области игр, ПК-аппаратного обеспечения и смартфонов. В свободное время мне нравится…

      Sony и Warner только что подали в суд на Anthropic за использование защищенной авторским правом музыки для обучения Claude, требуя 150,000 долларов за трек

      Модели Claude от Anthropic предположительно научились писать тексты песен, пиратя именно те песни, за которые Sony и Warner теперь хотят получить оплату.

      Это не первый случай, когда музыкальные издатели подают в суд на крупную ИИ-компанию, но масштаб делает это достойным вашего внимания. Sony Music и Warner Chappell подали масштабные новые иски против Anthropic. Издатели утверждают, что Anthropic украл десятки тысяч защищенных авторским правом песен для обучения Claude (по данным Business Insider). Этот чат-бот стал довольно популярным благодаря своей точности и способности справляться со сложными задачами.

      Пострадали от того, что OpenAI убрала модели GPT из Cursor? Anthropic предлагает своевременную поддержку с более высокими лимитами Claude

      OpenAI уходит из Cursor, а Anthropic только что вмешалась в ситуацию

      Для пользователей Cursor, которые внезапно оказались в центре спора в индустрии ИИ, время могло бы быть хуже. Сообщается, что OpenAI собирается прекратить прямой доступ Cursor к своим моделям - но Anthropic предлагает довольно удобную альтернативу. SpaceX уведомила Cursor о намерении прекратить контракт на предоставление моделей OpenAI, с предложенным закрытием на 12 ноября 2026 года, согласно OpenAI. Сооснователь и генеральный директор Cursor Майкл Труэлл подтвердил это развитие, сказав, что модели OpenAI составляют около 5% трафика пользователей Cursor и что компания ведет переговоры с OpenAI для решения проблемы.

      Роботы-пиццерии не в порядке

      Мечта о полностью автоматизированной пицце сталкивается с очень человеческими проблемами

      Будущее фастфуда должно было выглядеть примерно так: зайти в ресторан, сделать заказ и наблюдать, как робот собирает вашу пиццу с машинной точностью. Вместо этого некоторые компании, которые обещали автоматизировать процесс приготовления пиццы, столкнулись с трудностями в превращении этого видения в устойчивый бизнес. Последний пример - Picnic, чья система роботизированного приготовления пиццы была развернута в ресторане Moto Pizza в Сиэтле. Но в мае ее поставщик внезапно закрылся, оставив ресторан с дорогими машинами и без технической поддержки. Ли Кинделл, который инвестировал около 160,000 долларов в оборудование, похожее на шкаф, остался в недоумении, стоит ли риск в роботизированном приготовлении пиццы.

      Читать далее