ИИ уже попал в чужие руки, и они используют его для создания бомб.

      Создано ChatGPT

      Искусственный интеллект быстро стал основным инструментом для всего, от написания электронных писем и подведения итогов встреч до помощи студентам в учебе или разработчикам в отладке кода. Но та же технология, которая экономит время людям, также может быть использована неправильно, и новый отчет предполагает, что террористические организации находят способы сделать именно это.

      Согласно исследовательской работе, опубликованной в The New York Times перед ее публикацией, исследователи нашли доказательства того, что члены Boko Haram использовали популярные AI-чат-боты для поддержки как повседневной деятельности, так и задач, связанных с боевыми действиями. Интервью с 27 бывшими членами, проведенные в Нигерии за последние два года, предполагают, что такие инструменты, как ChatGPT, Gemini, Claude, Grok, Meta AI и DeepSeek, использовались для сбора технической информации, устранения неполадок в оружии и даже помощи в планировании атак.

      Это были не просто несколько плохих актеров, которые баловались

      Что делает эти выводы особенно тревожными, так это то, что это не описывалось как работа нескольких отдельных лиц, экспериментирующих с ИИ. В отчете утверждается, что использование ИИ группой стало организованным, с выделенными командами, внутренним обучением и обменом знаниями между членами. Исследователи также говорят, что некоторые пользователи смогли обойти встроенные меры безопасности, предназначенные для предотвращения ответов ИИ на запросы, связанные с насилием.

      Чат-бот разговорный ИИ Технология Искусственного Интеллекта онлайн обслуживание клиентов. Цифровой чат-бот, робот-приложение, OpenAI генерирует. Футуристическая технология. Виртуальный помощник в интернете. AI чат-бот

      Это не обязательно означает, что сегодняшние AI-чат-боты выдают опасные инструкции по запросу. Большая часть исследований сосредоточена на деятельности до конца 2024 года, и компании ИИ утверждают, что новые версии их моделей включают более сильные меры защиты. Они также указывают на то, что многие запросы попадают в серую зону. Например, спрашивать ИИ, как отремонтировать мотоцикл или понять основы химии, не является вредным само по себе, хотя аналогичная информация может быть использована неправильно.

      Теперь задача состоит в том, чтобы оставаться на шаг впереди

      OpenAI сообщила The New York Times, что использование ChatGPT для поддержки терроризма или насилия нарушает ее политику и заявила, что продолжает улучшать свои защитные меры против злоупотреблений. Meta аналогично отметила, что исследование в основном касалось старых версий ее моделей ИИ и заявила, что с тех пор усилила меры безопасности. Тем временем, xAI и DeepSeek не ответили на запросы о комментариях, согласно отчету.

      Рачит Агарвал / Digital Trends

      Эксперты по безопасности также предостерегают от предположения, что ИИ внезапно дает террористическим группам сверхчеловеческие способности. Планирование и осуществление атак по-прежнему зависит от реальной логистики, финансирования, коммуникации и человеческой координации — вещей, которые чат-бот не может заменить. Вместо этого исследователи считают, что ИИ скорее сделает менее опытных членов несколько более способными, чем кардинально изменит ландшафт угроз. Тем не менее, отчет является еще одним напоминанием о том, что разговор о безопасности ИИ касается не только студентов, жульничающих с домашними заданиями, или людей, создающих поддельные изображения. Поскольку модели ИИ становятся более способными и доступными, компании будут продолжать сталкиваться с давлением, чтобы обеспечить, чтобы мощные инструменты оставались полезными для законных пользователей, в то время как становились все более трудными для эксплуатации плохими актерами.

      Шимул является автором Digital Trends, с более чем пятилетним опытом в области технологий.

      Исследователи скрыли инъекцию запроса внутри PNG, и ИИ попался на это

      AI-кодировщики, такие как Claude, становятся любимыми коллегами каждого разработчика. Они могут проверять код, объяснять запутанные функции и даже писать целые функции с помощью одного запроса. Но новые исследования предполагают, что это растущее доверие также может стать их самой большой слабостью. Команда исследователей в области безопасности (профессор Судipta Чаттопадхйай и исследователь Мурали Эдига) продемонстрировала необычную атаку, которая не нацелена непосредственно на модель ИИ. Вместо этого она нацелена на то, на что ИИ не обращает достаточного внимания во время проверки кода. Вместо того чтобы скрывать вредоносные инструкции в строках кода, исследователи спрятали их внутри файла изображения. Поскольку многие инструменты проверки ИИ рассматривают изображения как декоративные элементы, а не как что-то, что стоит проверять, запрос на изменение может выглядеть совершенно безобидным и пройти проверку.

      Читать далее

      Код Claude теперь может просматривать веб без открытия Chrome

      Десктопное приложение теперь включает встроенный браузер, который может читать веб-сайты, нажимать на ссылки и взаимодействовать с веб-приложениями. Разработчики тратят удивительное количество времени, переключаясь между своим редактором кода, вкладками браузера, документацией API, проблемами GitHub и дизайнерскими файлами. Anthropic считает, что Claude Code должен просто делать все это, не заставляя пользователей постоянно переключаться между окнами. Компания объявила о новом встроенном браузере для Claude Code на десктопе, позволяя своему AI-кодировщику открывать веб-сайты, читать документацию, проверять дизайны и взаимодействовать с веб-страницами непосредственно из приложения.

      Браузер, встроенный в Claude Code

      Читать далее

      Apple подает в суд на OpenAI за кражу коммерческих тайн в громком иске

      Иск утверждает, что OpenAI вербовала сотрудников Apple и получала конфиденциальную информацию о неанонсированных продуктах. На протяжении последних двух лет Apple и OpenAI представлялись как близкие партнеры в области ИИ. ChatGPT обеспечивает ключевые функции Apple Intelligence, Siri может передавать сложные запросы OpenAI, и вместе две компании помогли принести генеративный ИИ миллионам устройств Apple. Теперь это партнерство приняло драматический поворот. В чем Apple обвиняет OpenAI?

      Читать далее