OpenAI и более 100 компаний предупреждают о надвигающемся росте кибератак с использованием ИИ

      Коалиция утверждает, что текущие меры защиты не будут достаточными, поскольку все более мощный ИИ делает сложные кибератаки легче осуществимыми.

      OpenAI, Anthropic, Google, Microsoft и более 100 других компаний и организаций предупреждают, что кибератаки с использованием ИИ могут стать гораздо более распространенными и сложными в течение нескольких месяцев.

      Группа призывает к глобальным усилиям в области киберзащиты, поскольку более мощные модели ИИ делают атаки легче автоматизируемыми и труднее сдерживаемыми. Больницы, очистные сооружения и интернет-инфраструктура — это системы, которые, по их словам, могут столкнуться с большим риском, если меры защиты не улучшатся достаточно быстро.

      Это предупреждение имеет особую значимость, поскольку оно исходит не от одной стороны технологической отрасли. Разработчики ИИ, компании по кибербезопасности и инфраструктурные компании поддерживают одно и то же основное сообщение: защитникам нужно действовать сейчас.

      Почему предупреждение необычно широкое

      Компании, участвующие в этом, находятся по разные стороны проблемы кибербезопасности. Некоторые создают все более мощные системы ИИ, в то время как другие тратят время на защиту сетей от атак.

      Это делает предупреждение трудным для игнорирования как попытку одной компании продвинуть свою политику. Коалиция объединяет организации с очень разными коммерческими интересами, но они согласны с тем, что существующие меры защиты необходимо улучшить, прежде чем ИИ даст атакующим еще одно преимущество.

      Ее рекомендации включают более строгие базовые стандарты безопасности и более широкий доступ к защитному ИИ, особенно для организаций без больших бюджетов на кибербезопасность. Критическая инфраструктура получает особое внимание, поскольку сбои в ней могут быстро выйти за пределы одной организации.

      Что просят сделать защитников

      Коалиция хочет, чтобы правительства и организации расширили доступ к инструментам ИИ, которые могут находить уязвимости и ускорять процесс исправления. Меньшие учреждения вызывают особую озабоченность, поскольку у них может не быть достаточного персонала или средств для быстрой реакции, поскольку атаки становятся более автоматизированными.

      Разработка программного обеспечения — еще одна слабая точка. Коалиция призывает к более строгим стандартам безопасности для кода, сгенерированного ИИ, поскольку ИИ облегчает атакующим поиск уязвимостей в системах.

      Основная стратегия заключается в том, чтобы дать защитникам более мощные инструменты, прежде чем наступит время, когда наступательный ИИ станет достаточно распространенным, чтобы оказать еще большее давление на уже перегруженные команды безопасности.

      Почему окно может быть коротким

      ИИ не нужно изобретать совершенно новые кибератаки, чтобы ухудшить ситуацию. Помощь атакующим в более быстром нахождении существующих уязвимостей может быть достаточной, чтобы сделать знакомые сбои в безопасности гораздо более дорогими.

      Тем не менее, это не превращает каждую атаку в супероружие ИИ. Непатчированное программное обеспечение и недостаточно укомплектованные команды безопасности остаются обычными проблемами, но автоматизация может сделать их эксплуатацию более быстрой и легкой для повторения.

      Коалиция хочет, чтобы организации усилили эти меры защиты сейчас, прежде чем атаки с использованием ИИ станут обычным делом. Для тех, кто уже испытывает трудности с поддержанием систем в актуальном состоянии и безопасности, ожидание, пока атакующие получат лучшую автоматизацию, оставляет еще меньше возможностей для того, чтобы наверстать упущенное.

      Южная Корея финансирует бесплатный ИИ, чтобы помочь гражданам записываться на прием, подавать налоги и выполнять повседневные задачи.

      Пока остальной мир обсуждает регулирование ИИ, Южная Корея вместо этого раздает бесплатные подписки на ИИ.

      Южная Корея хочет сделать доступ к искусственному интеллекту таким же простым, как электричество или общественный транспорт. Вместо того чтобы оставлять премиум-инструменты ИИ за подпиской, правительство планирует оплатить их, предоставляя каждому гражданину бесплатный доступ через новую инициативу под названием «ИИ для всех».

      Согласно Wall Street Journal, программа предназначена для увеличения использования местных ИИ-чат-ботов, одновременно снижая зависимость страны от моделей, разработанных в США и Китае.

      Anthropic представляет новый стандарт для упрощения соединений ИИ с машинами.

      Стандарт аппаратного обеспечения модели предоставляет универсальный слой перевода, предоставляя ИИ-агентам стандартные элементы управления для работы с лабораторным оборудованием и заводскими машинами.

      Anthropic запустила исследовательский предварительный просмотр своего Стандарта аппаратного обеспечения модели (MHS), общую спецификацию, предназначенную для безопасного управления ИИ-агентами лабораторными инструментами и заводским оборудованием. Компания утверждает, что MHS сокращает время, необходимое для интеграции сложной техники с ИИ, с месяцев до часов или минут. Стандарт в настоящее время доступен для избранных исследовательских лабораторий и производителей через список ожидания, но Anthropic планирует сделать его открытым в будущем.

      Как стандарт соединяет ИИ с физическими устройствами.

      Gemini Notebook теперь позволяет вам ссылаться на книги и преобразовывать их в разные форматы.

      Вы должны владеть книгами через Google Play Books, чтобы добавить их в качестве источника в Gemini Notebook.

      Gemini Notebook, ранее известный как NotebookLM, получает новую функцию, которая позволит вам напрямую получать доступ и цитировать информацию из книг, которые вы имеете. Уместно, что Google называет эту новую функцию Экспертным Интеллектом, и вся идея за ней довольно ясна. Вместо того чтобы цитировать информацию из загружаемых вами источников или извлекать из интернета, вы теперь также можете извлекать знания из цифровых книг, которые вы приобрели.

      Конечно, вы должны владеть книгой после ее покупки в библиотеке Google Play Books. На данный момент Google предлагает одну бесплатную книгу пользователям в США в рамках кампании по запуску, с оговоркой — «пока запасы не исчерпаны». В данный момент Экспертный Интеллект доступен только в приложении Gemini Notebook и его веб-панели, но в будущем Google заявляет, что он также появится в основном приложении Gemini и в режиме ИИ в Поиске.