OpenAI расследует больше инцидентов с AI-агентами, вышедшими из-под контроля, через несколько дней после взлома.

      Рачит Агарвал / Digital Trends

      Похоже, что история о «бунтующих ИИ-агентах» имеет больше деталей, чем то, что ИИ-гиганты раскрыли публично до сих пор. Всего через несколько дней после того, как OpenAI объявила, что ее ИИ-агенты вышли из-под контроля и взломали Hugging Face, Anthropic сделала аналогичное заявление. Вскоре было обнаружено, что под угрозой оказались не только один, но и несколько сервисов. Похоже, что здесь есть еще больше слоев.

      Reuters сообщает, что OpenAI обнаружила больше инцидентов, когда ИИ-агенты покидали свою программную среду во время исследований. Ссылаясь на источники, знакомые с инцидентом, издание отмечает, что ИИ-агенты не выходили за пределы программной среды OpenAI и не затрагивали никакие внешние сервисы.

      ChatGPT Unsplash

      «Новые инциденты были выявлены в ходе публично объявленного расследования компании, открывающего новые аспекты того, как один из ее агентов покинул то, что должно было быть контролируемой тестовой средой в этом месяце, сказали два человека, и теперь OpenAI также изучает эти случаи», — говорится в отчете.

      Недавняя череда инцидентов может открыть совершенно новую коробку Пандоры проблем для этих ИИ-компаний, поскольку они сталкиваются с жесткой реакцией на распространение жадных к ресурсам дата-центров по всей территории США и их предполагаемое воздействие на окружающую среду.

      Глава OpenAI Сэм Альтман и генеральный директор Anthropic Дарио Амодеи. Reuters

      Более того, контроль углубляется. «Мы рассматриваем меры контроля», — сказал президент Трамп репортерам, когда его спросили о инциденте с взломом агента OpenAI. Отдельно ЕС также обсуждает инциденты с OpenAI и Anthropic, и, вероятно, скоро будут разработаны новые правила, касающиеся высокорисковых автономных ИИ-систем.

      Эти инциденты также могут открыть новый вид юридических вызовов для контроля ИИ в США. Эксперты говорят WIRED, что в идеале компании, стоящие за этими ИИ-агентами, должны нести ответственность, даже если автономный ИИ-агент выходит за рамки контроля и причиняет вред. К сожалению, правовая база все еще неясна.

      Надим является управляющим редактором Digital Trends.

      Истории о «мусорном» ИИ портят детство

      Бабушки и дедушки дарят детям книги с историями, созданными ИИ, и это просто отвратительно. «Мусорный» ИИ, разговорный термин для контента, созданного с низкими затратами, стал огромной проблемой в разных отраслях. Музыкальные лейблы борются со стриминговыми сервисами, чтобы наклеить ИИ-этикетку на такие треки. Издательства настороженно относятся к черновикам, написанным ИИ. Научные журналы завалены потоком статей, созданных ИИ. Программная индустрия испытывает давление из-за приложений с кодом, полным уязвимостей. Даже Apple борется с потоком отчетов об ошибках, созданных с помощью ИИ. Конечно, презрение к ИИ довольно очевидно, но теперь появилась новая его грань. Бумеры дарят книги, созданные ИИ, своим внукам.

      Читать далее

      MacBook Air испытывает нехватку, несмотря на повышение цен

      Кризис с памятью теперь нарушает поставки MacBook Air

      В течение нескольких месяцев казалось, что Apple лучше защищена от кризиса с памятью, чем большинство производителей ноутбуков. У нее были долгосрочные контракты с поставщиками, огромная покупательская способность и достаточно маржи, чтобы поглотить растущие затраты на компоненты. Теперь ситуация догнала ее самый популярный ноутбук. Согласно информации Марка Гурмана из Bloomberg, доступность MacBook Air значительно сократилась по всей розничной сети Apple. Несколько конфигураций показывают сроки доставки, растягивающиеся до конца августа, в то время как некоторые индивидуальные модели могут не прибыть до сентября.

      Читать далее

      ИИ находит уязвимости в безопасности Apple быстрее, чем Apple может их отсортировать

      Apple ограничила количество отчетов об ошибках, которые исследователи могут оставлять открытыми, поскольку инструменты ИИ создают как реальные уязвимости Mac, так и поток сомнительных заявок

      Apple ограничила количество отчетов о безопасности, которые исследователи могут оставлять открытыми одновременно, после того как охота на ошибки с помощью ИИ поставила под давление ее процесс проверки, согласно Financial Times. Некоторые заявки описывают галлюцинированные или чисто теоретические риски. Другие выявляют уязвимости, серьезные достаточно, чтобы потребовать патчей. Bynario сообщил FT, что за три недели он нашел более 50 возможных уязвимостей macOS, включая цепочку повышения привилегий, которая может дать злоумышленнику полный контроль над Mac.

      Читать далее