ИИ может учиться на миллиардах изображений, не копируя ни одно из них.
Исследователи MIT выявили то, что они называют «распадом атрибуции» в крупных генеративных моделях.
Исследователи сгенерировали изображение, используя произведения 744 художников, а затем сравнили его с результатами, полученными при индивидуальном удалении каждого художника из обучающих данных.
Вот неудобный вопрос для эпохи генеративного ИИ: если ИИ создает изображение, может ли кто-то указать на конкретные изображения, которые на него повлияли? Новое исследование Лаборатории компьютерных наук и искусственного интеллекта MIT предполагает, что для достаточно крупных моделей ответ часто может быть отрицательным. Исследователи Дай и Гиффорд описывают это явление как «распад атрибуции» в своей открытой статье, опубликованной сегодня в Nature Communications. Это относится к тому, как влияние любого отдельного элемента обучающих данных становится все труднее обнаружить по мере увеличения размера набора данных.
Чем больше набор данных, тем менее четкой становится атрибуция.
Исследователи хотели протестировать что-то более точное, чем просто спросить, был ли обучен ИИ на конкретном изображении. Их подход был по сути контрфактическим: что происходит, если удалить конкретный элемент обучающих данных?
Удаление работы одного художника значительно изменило результаты из меньшего набора данных, но оказало незначительное влияние на набор данных из 50 000 изображений, показывая, как атрибуция исчезает по мере роста наборов данных.
Они обнаружили, что по мере масштабирования моделей и наборов данных удаление отдельного изображения может не оказать заметного влияния на сгенерированный результат. То же самое может применяться при удалении всей работы художника или изображений конкретного человека. Другими словами, модель могла изучить широкие визуальные паттерны из огромного пула данных, не имея при этом какого-либо единственного изображения, явно ответственного за конкретный результат. Исследователи MIT Чжэн Дай и профессор Дэвид Гиффорд утверждают, что если удаление конкретного элемента данных не изменяет результат, становится трудно значимо приписать этот результат удаленному примеру.
Это не решает дебаты о авторских правах на ИИ.
Чтобы быть справедливым, исследование не означает, что обучающие данные не имеют значения, и оно не решает более широкую дискуссию о том, могут ли компании ИИ использовать защищенный авторским правом материал без разрешения. Вместо этого его фокус более узкий: можно ли показать, что конкретное обучающее изображение непосредственно повлияло на конкретный результат, сгенерированный ИИ. Модель может не воспроизводить работу какого-либо конкретного художника, при этом полагаясь на миллионы изображений для изучения таких вещей, как композиция, освещение, текстуры и художественные стили.
Midjourney — это универсальный, высококачественный генератор искусственного искусства, как видно в демонстрации сообщества.
Более интересный вывод заключается в том, что эта связь становится все труднее проследить по мере роста наборов данных. Сгенерированное ИИ изображение может опираться на паттерны, изученные из огромного пула материалов, не имея при этом четкого, идентифицируемого исходного изображения. Модель могла учиться у всех, оставляя при этом ни одно единственное изображение с очевидным отпечатком на конечном результате.
Варун — опытный технологический журналист и редактор с более чем восьмилетним стажем в потребительских технологиях. Его работа охватывает...
Ассистент ИИ Meta наконец-то появился на Mac, но ему нужно догонять.
Новый настольный ассистент может анализировать то, что видно на экране, и принимать голосовые команды на macOS. Meta наконец-то представила своего ассистента Meta AI для Mac с помощью специального настольного приложения, предоставляя пользователям еще одного чат-бота ИИ, которого можно держать открытым наряду со всеми другими вкладками. Приложение может анализировать общее окно, отвечать на вопросы о том, что на экране, генерировать контент и принимать голосовую диктовку на macOS.
Meta AI действительно может видеть, что на экране.
Чем скучнее плитка, тем лучше она хочет решить худшую проблему ультрабыстрых соединений mmWave 5G для вас.
Исследователи используют простые 3D-печатные отражающие поверхности, чтобы перенаправить сигналы mmWave в сложных внутренних условиях. Технология миллиметровых волн 5G может обеспечивать невероятно быстрые беспроводные скорости, но у нее есть неприятная слабость: эти сигналы не любят обходить препятствия. Стены, мебель, люди и даже перемещение на несколько футов могут значительно ослабить соединения mmWave. Теперь исследователи из Университета Калифорнии в Сан-Диего предлагают удивительно скучное решение: дешевые отражающие плитки, которые просто отбрасывают сигнал туда, куда он должен идти.
Проблема с действительно быстрым 5G.
ChatGPT получает подростковую версию, и у меня много вопросов.
Нравится вам это или нет, ChatGPT уже повсюду. Люди используют его для исследования сложных тем, улучшения своего письма, изучения новых навыков, планирования своей жизни и, в моем случае, задавания смущающего количества вопросов, на которые я мог бы сам найти ответы. Подростки не исключение. На самом деле, OpenAI утверждает, что почти девять из десяти подростков, использующих ChatGPT, обращаются к нему, чтобы учиться, находить информацию, развивать навыки или выполнять дела в течение типичной недели. Поэтому, вместо того чтобы притворяться, что студенты не будут использовать ИИ, OpenAI принимает другой подход: предоставить им версию, созданную специально для них. Компания объявила о ChatGPT для подростков, новом опыте для пользователей в возрасте от 13 до 17 лет, который разработан с учетом обучения, более здоровых привычек использования и значительно более сильной защиты безопасности.
ChatGPT хочет учить, а не просто выдавать ответ.
Другие статьи
ИИ может учиться на миллиардах изображений, не копируя ни одно из них.
Исследование MIT показывает, что изображения, созданные ИИ, часто не могут быть прослежены до отдельных обучающих изображений, поскольку более крупные наборы данных приводят к тому, что влияние конкретных примеров ослабевает.
