5 октября 2020 года NVIDIA объявила о широком внедрении платформы искусственного интеллекта NVIDIA EGX ™ ведущими технологическими компаниями, что станет импульсом для появления безопасных серверов с GPU-ускорением для корпоративных и edge дата-центров.
Системы на базе ИИ-платформы NVIDIA EGX доступны от ведущих производителей серверов, включая Dell Technologies, Inspur, Lenovo и Supermicro, при поддержке таких поставщиков программной инфраструктуры, как Canonical, Cloudera, Red Hat, SUSE и VMware, а также сотен стартапов.
Крупнейшие мировые отрасли промышленности – производство, здравоохранение, розничная торговля, логистика, сельское хозяйство, телекоммуникации, общественная безопасность и вещательные СМИ – получат выигрыш от ИИ-платформы EGX, которая позволит организациям любого размера быстро и эффективно развертывать ИИ в любом масштабе.
NVIDIA также объявила о расширении платформы EGX, которая теперь объединяет возможности GPU NVIDIA Ampere and DPU BlueField-2Ⓡ на одной плате PCIe и предлагает предприятиям единую платформу для создания безопасных ускоренных ЦОД. DPU BlueField-2 оснащен мощными ядрами CPU Arm, которые можно использовать для создания надежного анклава для моделей инференса, работающих на GPU.
«Компании по всему миру будут использовать ИИ для улучшения практически всех аспектов своего бизнеса, – сказал Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA, в своем выступлении на конференции GTC. – Чтобы поддержать этот масштабный шаг, NVIDIA создала платформу ускоренных вычислений, которая помогает компаниям модернизировать свои ЦОДы и разворачивать ИИ в любом месте».
Оптимизированное программное обеспечение с искусственным интеллектом для Edge-систем и ЦОД
В основе платформы EGX лежит оптимизированный стек программного обеспечения с ИИ, доступный в каталоге NVIDIA NGC™, который включает отраслевые наборы инструментов ИИ и предварительно обученные модели для упрощения создания и развертывания приложений ИИ на сертифицированных системах NVIDIA™.
Фреймворки ИИ-приложений NVIDIA используются ведущими разработчиками программного обеспечения, такими как Deep North, Everseen и Whiteboard Coordinator, для создания и развертывания решений для здравоохранения, розничной торговли, логистики и умных городов.
Программные продукты NVIDIA vGPU и технологии GPUDirect® RDMA дают графическим процессорам NVIDIA возможность отправлять и получать данные на полной полосе пропускания для достижения максимальной производительности.
Чтобы помочь предприятиям развернуть ИИ в больших масштабах, NVIDIA работает с ведущими производителями платформ, включая Canonical, Cloudera, Red Hat, SUSE и VMware, чтобы обеспечить оптимизацию систем виртуализации, операционных систем, Kubernetes и платформ анализа данных для программного обеспечения ИИ NVIDIA при работе в «голом железе» или в виртуализированных средах.
Развертывание EGX-серверов и управление ими в любом месте
Вместо 10 000 серверов в одном месте будущие корпоративные ЦОД будут иметь один или несколько серверов в 10 000 различных локациях, включая офисные здания, фабрики, склады, вышки сотовой связи, школы, магазины и банки.
Чтобы упростить и обезопасить развертывание и управление приложениями и моделями ИИ на этих серверах в большом масштабе, NVIDIA анонсировала программу раннего доступа для новой службы NVIDIA Fleet Command™. Эта гибридная облачная платформа сочетает в себе безопасность и возможности обработки в реальном времени edge-вычислений с удаленным управлением и простотой использования программного обеспечения как услуги.
С помощью единой панели управления Fleet Command централизует управление серверами, расположенными на больших территориях, включая фабрики, больницы, розничные магазины и даже городские улицы. Позиционирование в одно касание, программные обновления по воздуху, удаленное управление и подробные панели мониторинга Fleet Command позволяют снизить нагрузку на ИТ-отделы, чтобы получить максимальную отдачу от своих ИИ-приложений и обеспечить максимальную операционную эффективность.
Одной из первых компаний, предоставивших ранний доступ к Fleet Command, стала KION Group, лидер в области решений для глобальных систем снабжения, которая использует платформу NVIDIA EGX для разработки приложений ИИ для своих интеллектуальных складских систем, чтобы увеличить пропускную способность и эффективность в розничных распределительных центрах.
Кроме того, Северо-западная мемориальная больница, № 1 в Иллинойсе и входящая в первую десятку в стране, работает с Whiteboard Coordinator над использованием Fleet Command для своей сенсорной платформы интернета вещей, которая включает в себя возможности компьютерного зрения, распознавания голоса и отслеживания по Bluetooth в своих клиниках и медицинских центрах.
«Whiteboard Coordinator работает с ведущими медицинскими учреждениями, чтобы организовать развертывание их приложений, серверов и программного обеспечения из любого места в любое время из облака, – сказал Эндрю Гостин (Andrew Gostine), доктор медицинских наук, генеральный директор Whiteboard Coordinator. – Мы используем NVIDIA Fleet Command для удаленного развертывания и безопасного управления набором медицинских приложений искусственного интеллекта в нескольких больницах несколькими щелчками мыши. Это позволяет нам уделять больше внимания пациентам, а не управлению инфраструктурой».
Доступность
Системы NVIDIA EGX можно приобрести через каталог сертифицированных серверов NVIDIA. Серверы с поддержкой программного обеспечения с ИИ NVIDIA доступны от ASUS, Atos, Dell Technologies, Fujitsu, GIGABYTE, H3C, Inspur, Lenovo, Quanta/QCT и Supermicro.
Программа раннего доступа NVIDIA Fleet Command уже открыта для клиентов.
Источник
