Nvidia представила первую ИИ-платформу для периферийных вычислений

27 мая 2019 года Nvidia представила свою первую ИИ-платформу для периферийных вычисленийNvidia EGX. Она способна различать, понимать и обрабатывать данные в режиме реального времени без предварительной их отправки в облако или дата-центр.

Как пишет SiliconANGLE, использование искусственного интеллекта в периферийных устройствах, таких как смартфоны, всевозможные датчики и производственное оборудование, стало новым этапом технологической эволюции. Первые ИИ-алгоритмы были настолько сложными, что запускать их можно было запускать только на мощных компьютерах в облачных ЦОДах, и приходилось передавать большие массивы информации по сетям. Последние должны иметь высокую пропускную способность, но избежать существенных задержек в обработке всё равно тяжело, поэтому работа искусственного интеллекта в реальном времени затрудняется.

Компании хотят, чтобы ИИ-приложения запускались там, где создаются данные, например, на производственных объектах, складах или в магазинах. Для этих целей и была создана платформа Nvidia EGX.

Она может масштабироваться — от небольшого сервера на процессоре Jetson Nano, обрабатывающего 0,5 триллиона операций в секунду с потреблением нескольких ватт энергии, до микро-ЦОДа, включающего множество серверов с ИИ-ускорителями Nvidia T4, способных выполнять 10 000 триллионов операций в секунду.

Энергосберегающие возможности чипов важны для искусственного интеллекта, поскольку при выполнении таких задач традиционное оборудование является огромным источником потребления энергии.


Для продвижения платформы EGX компания Nvidia начала сотрудничать с 13 производителями серверов, среди которых — Cisco, Dell EMC, HPE и Lenovo. Также заключено соглашение с Red Hat, в рамках которого платформа интегрируется с решением для оркестрации контейнеров OpenShift Kubernetes.[1]