Nvidia представила Jetson Orin Nano 2 — новую edge-платформу ИИ, предназначенную для создания роботов, дронов и систем визуального ИИ, работающих в реальном времени, продолжая продвигать физический ИИ — машины, которые воспринимают физический мир и действуют в нем, а не только генерируют текст или изображения — в реальную среду.

Платформа, представленная во вторник и, как ожидается, доступная в первой половине 2027 года, основана на новой версии кремния Nvidia с архитектурой Ampere. Nvidia назвала компанию по машинному зрению Cognex, производителя строительной техники Doosan Bobcat и стартап Matic, создающий робот-пылесос, среди первых клиентов, что охватывает промышленные, коммерческие и потребительские применения.

По данным Nvidia, Nano 2 обеспечивает вдвое более высокую производительность, чем предыдущее поколение, либо до 40% более низкое энергопотребление при том же уровне производительности. Поскольку edge-системы запускают ИИ непосредственно на устройстве, а не в дата-центре, оба показателя важны для работающих от батареи роботов и дронов, которым нужно реагировать в реальном времени без серверных затрат на питание и охлаждение.

Выступая на медиабрифинге, Дипу Талла, вице-президент Nvidia по робототехнике и edge ИИ, заявил, что выпуск связан с достижением моделями точности «поворотной точки».

«То, для чего раньше требовались большой дата-центр и множество GPU, теперь можно запускать на Nvidia Jetson», — сказал он. «Теперь мы можем достигать той же передовой точности, что и крупнейшие модели прошлого года».

Повышение доступности высокопроизводительных моделей ИИ благоприятно для робототехнической отрасли и, по словам Таллы, наконец делает сложный физический ИИ практичным на edge.

«Робототехника — это задача трех компьютеров», — сказал он. «Первый компьютер — это то место, где мы выполняем все обучение интеллекта, второй компьютер в середине — где мы проводим все тестирование и оценку политики. Последний компьютер, третий компьютер, — это runtime, или мозг робота, и это Nvidia Jetson».

Модели в реальном времени на edge

Nvidia утверждает, что Orin Nano 2 может в реальном времени запускать новейшие малые и средние языковые модели и модели «язык-зрение». Талла привел в пример собственные модели Nvidia Nemotron, отметив, что последняя Nemotron 3.5 Lightning может работать примерно со скоростью 115 токенов в секунду на Jetson.

Такая производительность обеспечивается не только улучшениями аппаратной части, но и прогрессом в обучении моделей. Талла связал этот прогресс с более качественными обучающими данными, улучшениями архитектуры моделей и возможностью использовать более крупные модели для обучения или дистилляции меньших. По его словам, результатом становится более быстрый и простой, чем прежде, фреймворк обучения для робототехники.

Снижение затрат на робототехнику

«В прошлом программирование робототехники было чрезвычайно трудоемким и дорогим», — сказал Талла. «Но теперь, с автономными возможностями, программирование роботов станет чрезвычайно простым, и мы уже видим взрывной рост ИИ-приложений на начальном уровне».

Этот сдвиг может сделать робототехнику экономически оправданной за пределами высокообъемных промышленных применений, поскольку ИИ-модели автоматизируют все больше задач программирования.

Бен Ли, профессор Школы инженерии и прикладных наук Университета Пенсильвании, сказал, что уже существующие позиции Nvidia в edge ИИ дают компании сильную стартовую точку, поскольку роботам требуются все более способные модели для локальной работы.

«У Nvidia была значительная доля рынка чипов для edge ИИ с платформой Jetson», — сказал Ли. «Интеграция более мощных ИИ-процессоров и дополнительная программная поддержка для инференса могут позволить использовать более новые ИИ-модели в робототехнике и других автономных системах».

Ли также отметил экономику внедрения роботов за пределами традиционных промышленных сред. По его словам, более зрелый программный стек может снизить инженерную нагрузку, которая исторически делала робототехнику трудно оправдываемой для менее ценных сценариев использования.

«В робототехнике проблема в том, что инженерные затраты трудно оправдать для общих, низкостоимостных сценариев», — сказал он. «Зрелый программный стек, который делает этих роботов и процессоры более простыми в программировании, сократит инженерные усилия и снизит затраты».

Малые модели, больший масштаб

По словам Александра Харроуэлла, аналитика Omdia, подразделения Informa TechTarget, предложение Nvidia для рынка робототехники выходит на фоне более широкого сдвига в том, что вообще считается малой моделью.

«Безусловно, в роботы все больше внедряется ИИ, а небольшие мультимодальные трансформеры становятся там все более распространенными», — сказал Харроуэлл.

По его словам, это различие важно для того, как отрасль должна интерпретировать спецификации Nvidia.

«Хотя малые ИИ-модели становятся намного лучше и важнее, то, что мы считаем малой моделью, меняется», — сказал он, отметив, что типичная модель на Hugging Face выросла примерно с 10–100 миллионов параметров до 3–8 миллиардов. Hugging Face — это широко используемый публичный репозиторий, где публикуются ИИ-модели.

Харроуэлл был более скептичен относительно того, что аппаратная часть Orin Nano 2 действительно сможет поддерживать.

«Если смотреть на спецификации Nano 2, ограничивающим фактором является объем памяти», — сказал он.

С учетом того, что доступность ожидается не раньше первой половины 2027 года, одним из ключевых параметров, которые разработчики будут учитывать при построении систем на базе платформы, станет объем памяти финального оборудования — и то, какие модели поместятся в этот объем.

Источник: AI Business