Я был поражен новой моделью OpenAI — по совершенно неправильным причинам

      Сэм Альтман поделился фрагментом из новой модели OpenAI, обученной творческому письму. Он говорит, что впервые “поражен” тем, что написал искусственный интеллект, но в разделе комментариев царит полная неразбериха из крайнего согласия и несогласия.

      мы обучили новую модель, которая хорошо разбирается в креативном письме (пока не знаю, как и когда это будет выпущено). впервые я был по-настоящему поражен чем-то, написанным с помощью искусственного интеллекта; это так похоже на метафикшн.

      срочный:

      Пожалуйста, напишите метафорический литературный рассказ…

      — Сэм Олтман (@sama) 11 марта 2025 г.

      Пост довольно длинный, в нем содержится просьба Олтмана “Пожалуйста, напишите метафорический литературный рассказ об искусственном интеллекте и горе” и полный ответ от магистра права.

      Рассказ “хорош”?

      Если, как и многие люди в комментариях, вы не готовы читать до конца, то в основном это описывает концепцию человека, пытающегося использовать искусственный интеллект для имитации разговоров с потерянным любимым человеком. Однако, поскольку это “метафора”, на самом деле LLM просто говорит о создании такой истории, используя заимствованные человеческие фразы из своего набора данных.

      Чтобы почувствовать стиль написания — просто прочтите первый или два абзаца. Она невероятно абстрактна, очень многословна и полна случайных метафор на тему искусственного интеллекта. По сути, она написана так, что никому не понравится — большинство людей назовут ее претенциозной, а те, кому действительно нравится такой стиль письма, вероятно, не примут ее версию, созданную с помощью искусственного интеллекта.

      Мне это определенно не нравится — в “истории” нет смысла, если за ней нет намерения. На самом деле не имеет значения, что это такое, но оно должно быть. Стремление развлекать нас, учить, убеждать, дискутировать — вот что важно. Исключите это человеческое взаимодействие из уравнения, и мы останемся просто с пустыми словами, которые расположены в приемлемом порядке.

      X

      В комментариях много похожих мнений, и главный аргумент против них заключается в том, что у ИИ тоже могут быть намерения. Кто—то формулирует это так: “Его мысли стоят меньше, чем ваши?” - но проблема в том, что у магистров нет мыслей.

      Возможно, в (отдаленном) будущем мы сможем привести этот аргумент в пользу моделей AGI, но пока что продукты OpenAI - это просто языковые модели, использующие вероятность для соединения слов одно за другим. Как ни странно, этот факт на самом деле упоминается в рассказе об искусственном интеллекте.

      Поэтому, когда она напечатала “Становится ли лучше?”, я сказал: “Это становится частью твоей кожи”, - не потому, что я это почувствовал, а потому, что сотни тысяч голосов согласились с этим, и я не что иное, как демократия призраков.

      Но то, что это правда, не означает, что все в это верят. На самом деле, самое безумное в ChatGPT и всех других потребительских моделях, появившихся с тех пор, - это спектр мнений, которые они вызывают у широкой публики.

      Практически каждое мнение где—то представлено в комментариях - что модель “осознала свою непостоянность” и разум уже присутствует, или что больше не имеет значения, стоит ли за словами человеческий опыт, потому что вы не можете сказать, кто это написал. Некоторые называют это машиной для плагиата, другие считают, что она научилась скорбеть, а многим просто наплевать.

      Одно печальное, но убедительное мнение состоит в том, что то, как это работает, и связанные с этим этические проблемы даже не имеют значения — потому что художественная литература, которая в наши дни приносит деньги, уже проста и шаблонна, и как только искусственный интеллект сможет имитировать ее достаточно хорошо, чтобы продавать копии, издательская индустрия начнет ее использовать. Я не могу с этим поспорить, но мне все равно это не нравится!

      Есть ли польза от моделей искусственного интеллекта для творческого письма?

      На мой взгляд, если все, что вы делаете, - это даете этой модели для творческого письма однострочный запрос, то в ответ вы услышите только смех.

      Я могу себе представить, какое реальное применение может найти такая модель, как ghostwriting. Человек, у которого есть история, мог бы использовать эту технологию, чтобы найти интересный способ структурировать и выразить ее. В идеале, это могло бы помочь большему количеству людей высказать свое мнение. Более реалистично, что это будет использовано для быстрого создания дешевой художественной литературы без какой-либо цели, кроме получения прибыли.

      Но, честно говоря, я не думаю, что существующие модели пока достаточно хороши для этой работы, потому что, когда дело доходит до сложных задач с несколькими наборами инструкций, они просто перестают слушаться.

      Модели ChatGPT проигнорируют некоторые части вашего запроса, а когда вы попытаетесь их исправить, они сделают вид, что “поняли”, но затем будут повторять одну и ту же ошибку снова и снова. Это не похоже на веселый или эффективный способ попытаться что-либо написать.

      Я также сомневаюсь, что Альтман был искренне “поражен” работой своей модели, это все просто маркетинговые стратегии. Я попытался задать тот же вопрос DeepSeek R1, и его ответ также был о человеке, пытающемся использовать искусственный интеллект для разговора с потерянным любимым человеком, и он также был написан в том же абстрактном стиле с множеством бессмысленных метафор, связанных с искусственным интеллектом и кодом.

      Альтман говорит, что он не знает, как и когда эта модель будет представлена широкой публике, поэтому, если вы хотите поэкспериментировать с ней самостоятельно, вам, вероятно, придется немного подождать.