Компания Mellanox Technologies, которую Nvidia покупает за 6,9 млрд долларов, объявила, что ее коммутаторы InfiniBand HDR 200G с технологией «масштабируемого протокола иерархического агрегирования и сокращения» (Scalable Hierarchical Aggregation and Reduction Protoco или SHARP) позволили удвоить скорость выполнения операций глубокого обучения. Как сказано в посвященном этому пресс-релизе, сочетание технологии Mellanox SHARP, ускорителей Nvidia 100 Tensor Core GPU и библиотеки Nvidia Collective Communications Library (NCCL) обеспечивает «высочайшую эффективность и масштабируемость для приложений глубокого обучения и искусственного интеллекта».
Комбинация современных графических процессоров Nvidia и соединений InfiniBand Mellanox уже стала стандартом де-факто при масштабировании сред глубокого обучения, таких как Caffe, Caffe2, Chainer, MXNet, TensorFlow и PyTorch. Благодаря технологии Mellanox SHARP операции агрегации данных для глубокого обучения могут быть ускорены сетью InfiniBand, увеличивая производительность системы по сравнению той же конфигурацией без Mellanox SHARP. Это подтверждено тестированием, проведенным в лабораториях Mellanox с использованием коммутатора Mellanox InfiniBand HDR, соединяющего четыре хоста, каждый из которых включает восемь графических ускорителей NVIDIA V100 и один адаптер InfiniBand HDR ConnectX-6. За счет интеграции встроенной функции потоковой агрегации SHARP с новейшей библиотекой NVIDIA NCCL 2.4, которая использует двунаправленную передачу, было достигнуто удвоение пропускной способности по сравнению с текущей реализацией Nvidia на основе древовидной топологии, использующей ту же аппаратную конфигурацию.
