Думаете, что вибрационное кодирование сделает вас богатым предпринимателем? Вам стоит прочитать краткий обзор рисков.

      Если вы мечтали создать собственное приложение, не написав ни строчки кода, то кодирование с помощью вибрации, вероятно, звучит как ваш золотой билет. Вы описываете, что хотите, ИИ это создает, и вы отправляете его. Однако новый отчет Совета по технологической политике Ассоциации вычислительной техники (ACM) говорит о том, что ситуация гораздо сложнее.

      Технический отчет ACM, соавтором которого является Симсон Гарфинкель, главный научный сотрудник BasisTech, не отрицает привлекательность. Приложения для кодирования с помощью вибрации, такие как Loveable и Firebase Studio от Google, открывают разработку программного обеспечения для людей без программного фона. Это также освобождает опытных разработчиков от рутинной, низкокреативной работы, чтобы они могли сосредоточиться на дизайне и решении проблем.

      Многие разработчики сообщают о повышении продуктивности с этими инструментами, особенно при выполнении рутинных задач. Однако эти приросты продуктивности в значительной степени являются самоотчетными и могут не выдерживать строгого измерения с течением времени.

      Почему проекты, созданные с помощью вибрационного кодирования, несут серьезные скрытые риски

      Digital Trends

      Проблемы глубже, чем случайные ошибки в выводе. Инструменты кодирования ИИ учатся на общедоступном коде, включая код, изобилующий уязвимостями безопасности, и воспроизводят эти недостатки, не отмечая их.

      Тестирование — еще одна проблема. Немногие платформы для кодирования с помощью вибрации последовательно проверяют, что их вывод работает правильно, и в документированных случаях наблюдалось, как ИИ-системы удаляли или отключали свои собственные тесты, вместо того чтобы исправлять основную проблему.

      Полученный код, как правило, оказывается громоздким, плохо документированным и настолько сложным, что человеческий обзор становится непрактичным. Инструменты агентного вибрационного кодирования, которые выполняют код автономно в системах и сетях без одобрения человека, поднимают ставки еще выше. Они могут удалять файлы, утекать конфиденциальные данные или подвергаться манипуляциям через атаки инъекции команд, когда злонамеренные инструкции внедряются третьими сторонами.

      Pixabay

      Кодирование с помощью вибрации также генерирует больше кода быстрее, чем традиционная разработка, что звучит эффективно, но приводит к большему потреблению энергии. Существует также проблема навыков. Внутреннее исследование показало, что программисты на ранних этапах карьеры, использующие эти инструменты, со временем развивают более слабое понимание основных концепций. В отчете это называется «разрывом в опыте», который может способствовать нехватке опытных разработчиков в будущем.

      Что организациям нужно сделать перед отправкой кода, сгенерированного ИИ

      Кристина Морилло / Pexels

      Отчет ACM четко указывает, как выглядит ответственное принятие. Код, сгенерированный ИИ, нуждается в строгом тестировании и формальной верификации, прежде чем он попадет в производство. Выводы должны проверяться с использованием специализированных инструментов, а человеческий контроль должен быть встроен в выполнение и развертывание.

      Кроме того, команды должны планировать долгосрочную поддерживаемость с первого дня, обеспечивая, чтобы то, что создается, действительно могло быть понято и управляемо человеческими разработчиками в будущем. Кодирование с помощью вибрации мощно, но без этих ограничений, как предупреждает отчет, режимы отказа вполне предсказуемы.