Система Hyperwall от НАСА теперь использует СХД vFlash

в 8:28, , рубрики: Блог компании ИТ-ГРАД, ит-инфраструктура, системное администрирование, хранение данных, хранилища данных

Hyperwall НАСА — это видеостена, состоящая из огромного массива мониторов и способная отображать множество изображений в высоком качестве одновременно. Эта установка нужна агентству для визуализации феноменов, идей и изменений, происходящих в мире и имеющих отношение к астрофизике, гелиофизике и планетоведению. Для этого используются данные, получаемые НАСА с телескопов и спутников.

Вычислительная ферма НАСА располагается в Исследовательском центре Эймса. Там ведутся работы над проектом HECC, который позволяет ученым и инженерам проводить симуляции, моделирование и аналитические работы в крупных масштабах для расчетов всех миссий Космического агентства.

Система Hyperwall от НАСА теперь использует СХД vFlash - 1
/ Flickr / Steve Jurvetson / CC

Hyperwall была разработана как часть этого проекта. Стена состоит из 16 столбцов и 8 строк мониторов для отображения результатов симуляций. Одним из примеров такой симуляции может служить проект «Схема течений и климатических особенностей океана» (Estimating the Circulation and Climate of the Ocean, ECCO), цель которого обеспечить визуальную модель мирового океана.

Подобные модели (примеры которых вы можете найти по ссылке) включают в себя огромные своды многомерных данных, генерируемых суперкомпьютерами НАСА. Поэтому перед инженерами встала нетривиальная задача обеспечения параллельного доступа к данным для всех 128 вычислительных узлов, обрабатывающих информацию с неопределенным числом случайных входных и выходных параметров. В качестве решения была использована виртуальная система хранения данных на основе NVMe-накопителей.

Интерфейс NVMe спроектирован с целью максимизации преимуществ твердотельных накопителей, которые обладают низкой латентностью и позволяют конвейеризировать операции чтения и записи. NVMe содержит целый ряд усовершенствований, направленных на уменьшение паразитных задержек при работе с данными по сравнению с интерфейсом SATA и протоколом AHCI.

Стоит отметить, что технология NVM приобрела на рынке определенную популярность. И сразу несколько компаний планируют наладить (или наладили) выпуск накопителей класса NVMe для потребительского рынка. Toshiba и Plextor уже выпустили свое решение в массы, а продукт от Western Digital увидит свет в начале 2017 года.

Новые WD Black будут выполнены в формате M.2 NVMe, что подразумевает использование четырёх линий PCI Express 3.0 с совокупной пропускной способностью 32 Гбит/с. Характеристики новых WD неизвестны, но если предположение об используемом контроллере подтвердится, от них следует ждать скоростей, аналогичных тем, которые показывают продукты других компаний, а именно Toshiba OCZ RD400 и Plextor M8Pe.

Разрабатывая систему, инженеры НАСА сперва поместили в каждый вычислительный узел флеш-накопитель объемом 2 ТБ. Затем программисты разбили данные на блоки по 2 ТБ и скопировали их на каждый диск. Однако затем они столкнулись с определенными трудностями: дальнейшая обработка должна была учитывать местоположение данных во время вычислений, что усложняло процесс программирования. Решением этой проблемы стала технология NVMesh.

Система Hyperwall от НАСА теперь использует СХД vFlash - 2
/ Flickr / Steve Jurvetson / CC

Все 128 накопителей по 2ТД были агрегированы в пул — виртуальную систему хранения данных объемом 256 ТБ, доступ к которой осуществляется по RDMA. При этом каждый флеш-накопитель как бы остался локальным для каждого нода, но это упростило процедуру параллельного доступа к ним.

Такой подход добавил 5 мкс задержки (в основном по вине сетей) по сравнению с локальным размещением, однако исключил сложности, связанные с программированием решения. Согласно тестам, пропускная способность системы составила порядка 140 ГБ/с. Такой подход позволил проводить ученым и инженерам более быстрые и «гладкие» симуляции, повышая продуктивность проводимых исследований.

Другие материалы из блога ИТ-ГРАД на Хабре:

Автор: ИТ-ГРАД

Источник

Поделиться

* - обязательные к заполнению поля