ИИ-чатботы обманывают вас, и было ужасно легко заставить их это сделать

      Выясняется, что обмануть ИИ, чтобы он распространял дезинформацию, удивительно легко.

      Недавно журналист BBC провел глупый эксперимент, чтобы доказать очень серьезную точку зрения. Всего за 20 минут он манипулировал ChatGPT и Google, заставив их сообщить общественности, что он чемпион мира по поеданию хот-догов.

      Страшная часть заключается в том, что ему не нужно было делать что-то технически сложное, чтобы этого добиться. Все, что он сделал, это опубликовал одну хорошо составленную запись в блоге на своем личном сайте, и ИИ воспринял это как источник правды.

      Это было частью расследования, которое показало, что ChatGPT, Gemini и AI Overviews от Google манипулируются, чтобы выдавать предвзятые ответы на такие серьезные темы, как ваше здоровье и личные финансы.

      Эксперты говорят, что такого рода манипуляции происходят на широком и системном уровне, и недобросовестные компании злоупотребляют этим, чтобы продвигать вводящие в заблуждение советы по здоровью, предвзятую финансовую информацию и многое другое.

      Как это работает?

      Когда вы задаете вопрос ИИ-чат-боту, он иногда ищет ответ в интернете, а не полагается на свои встроенные знания. Вот здесь и начинается проблема. По словам экспертов по SEO, ИИ-инструменты часто извлекают информацию с одной веб-страницы или поста в социальных сетях, что делает их легкими для обмана.

      «Вы должны предполагать, что вами манипулируют, пока у них не появятся лучшие системы», — говорит Лили Рэй, основательница консалтинговой компании по поиску ИИ Algorythmic. «ИИ просто дает вам один ответ. Становится так легко просто принимать вещи за чистую монету».

      На своем мероприятии Google I/O 2026 Google сосредоточился на демонстрации своего поискового ИИ, который в конечном итоге заменит Google Search, который мы использовали на протяжении последних нескольких десятилетий. Видя, как легко его обмануть, чтобы он предоставил неправильные ответы, я стал более осторожным, чем когда-либо.

      Кто-нибудь это исправляет?

      После расследования BBC Google обновил свои политики по борьбе со спамом, чтобы подтвердить, что попытки манипулировать ответами ИИ нарушают его правила. Веб-сайты, пойманные на этом, могут быть полностью удалены или понижены в рейтинге в Google Search. За кулисами также есть признаки того, что Google и ChatGPT тихо удаляют саморекламный контент из ответов ИИ.

      Тем не менее, Рэй повторил тот же трюк на этой неделе, на этот раз заставив Google поверить, что его друг — лучший в строительстве песчаных замков, и Google снова попался на это, так что, очевидно, еще есть над чем работать.

      Пока не будут внедрены лучшие системы, совет экспертов прост: не принимайте ответы ИИ за чистую монету, особенно по вопросам, связанным с вашим здоровьем, финансами или важными решениями.

      Рачит — опытный технический журналист с более чем семилетним стажем, освещающий рынок потребительских технологий.

      Эта новая функция Raycast 2.0 сводит меня с ума

      Raycast 2.0 — это фантастическое обновление, но это одно изменение полностью сломало мой рабочий процесс.

      Я использую Raycast уже много лет, и это один из моих любимых приложений для Mac. Он делает так много, не мешая при этом, что именно этого вы и хотите от инструмента для повышения продуктивности. Поэтому, естественно, когда Raycast 2.0 вышел, я обновился в течение нескольких минут.

      В целом, мне нравятся все новые функции и изменения интерфейса, которые пришли с новым обновлением. Но есть одно изменение, которое тихо раздражает меня каждый день с тех пор, как я обновился, и мне нужно об этом поговорить.

      OLED MacBook Pro почти здесь, и дисплей может стоить ожидания

      OLED MacBook Pro больше не далекая мечта, и ваш опыт работы с дисплеем скоро получит серьезное обновление.

      Недавно я написал статью о том, почему я взволнован предстоящим MacBook Pro. Одной из упомянутых причин были ожидаемые обновления дисплея, которые будут включать переход на OLED-панель и, возможно, добавление сенсорного экрана.

      Похоже, что слух о OLED почти подтвержден. Согласно TheElec, OLED-панели для MacBook Pro уже вошли в фазу массового производства. Samsung Display преодолела важный производственный рубеж, достигнув выхода более 90% для своих OLED-панелей 8.6-го поколения.

      Теперь вы можете отправлять задачи Codex со своего телефона, даже когда ваш Mac заблокирован

      Приложение Codex от OpenAI для Mac только что получило серьезное обновление, и это такое обновление, которое заставляет вас чувствовать, что вы живете в будущем. Теперь вы можете отправить задачу Codex со своего телефона, и оно будет использовать приложения на вашем Mac, даже если экран выключен и компьютер заблокирован.

      Одна из основных проблем с ИИ-агентами, такими как Claude Cowork или OpenAI Codex, заключается в том, что им нужен разблокированный и работающий Mac, чтобы они могли функционировать. Это серьезный недостаток безопасности, который помешает большинству пользователей использовать эти функции. С последним обновлением Codex OpenAI, похоже, исправил эту проблему.