NVIDIA показала, как запускать локальное «мышление» ИИ прямо на Jetson — компактных компьютерах для роботов и умных устройств — без зависимости от дата-центра.
NVIDIA ускорила ИИ на Jetson до 6,28 раза за счёт более лёгких вычислений и «предугадывания» следующих частей ответа. При этом модель работает прямо на устройстве, поэтому данные не нужно постоянно отправлять в облако.
Такой подход особенно полезен для роботов, промышленного оборудования и автономных систем, которым важно реагировать быстро и без стабильного интернета.
ИИ всё увереннее переезжает из облака прямо в железо.
А еще больше интересных новостей смотрите в нашем федеральном тг-канале и МАХ, там новости выходят намного раньше других соцсетей, а ещё есть много уникального контента.
