Nvidia объединяется с конкурентом по производству чипов d-Matrix для инференса

Nvidia объединяется с конкурентом по производству чипов d-Matrix для инференса

      Nvidia нашла новый способ справляться с конкурентами по производству чипов: работать с ними. Гигант GPU объединяет свое оборудование с чипами для вывода данных от стартапа d-Matrix, сообщает The Information. Оба компании выпустят совместную систему для запуска моделей ИИ. Первым клиентом станет облачная компания Parasail, система должна начать работу позже в этом году. Это соответствует более широкой привычке Nvidia сотрудничать с теми компаниями, которые пытаются ее сместить.

      Логика соответствует структуре работы ИИ. Ответ на запрос делится на два этапа. Тяжелый этап "предварительной загрузки" подходит для GPU Nvidia. Более легкий, повторяющийся этап "декодирования" работает дешевле на специализированных чипах. Сочетание обоих позволяет каждому делать то, что он делает лучше всего.

      Что приносит d-Matrix

      d-Matrix построила свой ускоритель Corsair на основе "вычислений в памяти", которые хранят данные рядом с логикой, обрабатывающей их. Основанная в 2019 году, она привлекла 275 миллионов долларов при оценке в 2 миллиарда долларов в ноябре и снова собирает средства. Генеральный директор Сид Шет говорит, что ее преимущество заключается в том, чтобы объединить вычисления и память на одном чипе. Она также избегает дорогой и дефицитной памяти с высокой пропускной способностью, на которую полагаются чипы Nvidia. Стартап утверждает, что сочетание Corsair с GPU позволяет обрабатывать токены примерно в 10 раз быстрее, при этом стоимость составляет примерно треть и до пяти раз меньше энергии на некоторых задачах.

      Это собственные цифры компании, а не независимые результаты. Но они указывают на настоящую награду в области ИИ прямо сейчас. Обучение создало модели. Вывод, работа с ними для миллионов пользователей, — это то, где находятся текущие расходы и деньги.

      Игровая книга Nvidia

      💜 технологий ЕС Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Сделка выделяется, потому что Nvidia редко нуждается в помощи. Она доминирует на рынке ИИ-чипов, и такие стартапы, как d-Matrix, существуют, чтобы уменьшить это преимущество. Вместо того чтобы бороться с каждым из них, Nvidia продолжает включать конкурентов в свою экосистему. Она сделала то же самое с другими компаниями по производству чипов и сетевого оборудования.

      Этот подход хеджирует ее ставки. Если специализированные чипы для вывода данных начнут развиваться, как кастомные кремниевые чипы, которые сейчас распространяются среди крупных технологий, тогда Nvidia получит прибыль от этого сдвига, а не потеряет от него. Если они остановятся, она потеряет немного. В любом случае клиенты остаются в орбите Nvidia.

      Почему это важно

      Сотрудничество сигнализирует о том, что рынок ИИ-чипов созревает, выходя за рамки одного победителя. Покупатели больше не хотят одного гигантского GPU для всего. Им нужен самый дешевый чип для каждой задачи, сшитый вместе. Ответ Nvidia заключается в том, чтобы убедиться, что она продает или находится рядом с тем, что побеждает.

Другие статьи

Рилла платит 1,7 миллиона долларов в год за аренду для сотрудников, работающих по 72 часа в неделю. Рилла платит 1,7 миллиона долларов в год за аренду для сотрудников, работающих по 72 часа в неделю. AI-стартап Rilla тратит 1,7 миллиона долларов в год на жилищные пособия, чтобы сотрудники жили рядом с офисом в Нью-Йорке и работали по 72 часа в неделю. Генеральный директор говорит, что дело не в комфорте, а в потоке. Fiat Topolino — это самая милая вещь за 14 000 долларов, которую вы не можете легально водить на большинстве дорог. Fiat Topolino — это самая милая вещь за 14 000 долларов, которую вы не можете легально водить на большинстве дорог. По цене 13 995 долларов Fiat Topolino безусловно является самым стильным медленноходным транспортным средством в Америке на данный момент. Ирландский стартап по доставке дронов Manna строит завод в Талсе на 1,000 человек, чтобы конкурировать с Zipline и Wing. Manna привлекла 50 миллионов долларов и создает производственный центр в США в Талсе, где будет работать 1,000 человек. Она покинула Ирландию из-за неудач в регулировании. Оценены шесть городов США. Venus Aerospace привлекла 91 миллион долларов для своего двигателя детонации Venus Aerospace привлекла 91 миллион долларов для своего двигателя детонации Venus Aerospace привлекла 91 миллион долларов в рамках раунда финансирования Series B, чтобы превратить свой ротационный детонационный ракетный двигатель в аппаратное обеспечение для ракет и высокоскоростных космических транспортных средств. Fi помещает спутники Starlink в ошейник для собак Новый Fi Ultra от Fi — это первый ошейник для собак, который работает на спутниках Starlink, обеспечивая возможность отслеживания домашних животных за пределами зон действия сотовых вышек, сообщает Fortune. План на сумму 35 миллиардов фунтов стерлингов по строительству 14 мини-ядерных реакторов в Великобритании План на сумму 35 миллиардов фунтов стерлингов по строительству 14 мини-ядерных реакторов в Великобритании Планы SGE Михаła Sołowowa включают 14 малых модульных реакторов GE Vernova Hitachi BWRX-300 на трех площадках в Великобритании, ставка в 35 миллиардов фунтов стерлингов на энергетику эпохи ИИ к 2034 году.

Nvidia объединяется с конкурентом по производству чипов d-Matrix для инференса

Nvidia объединяет свои графические процессоры с чипами вывода d-Matrix в совместной системе, что является последним признаком того, что компания предпочитает дружить с конкурентами в области чипов, а не сражаться с ними.