Инфраструктура узла связи от чайника, или очередное строительство серверных — часть 1

в 16:24, , рубрики: ит-инфраструктура, Стандарты связи, узлы связи, электропитание узлов связи, метки: , ,

Здравствуйте! Начитавшись публикаций на тему строительства ЦОД небольшого хостинг провайдера, а так же «как сделать серверную комнату своими руками», от людей, которые, видимо, не знали как сказать, зачем надо заказывать их услуги, я решил изложить свой опыт строительства небольшого узла связи в течение этого года, для размещения, с последующей регистрацией в Роскомнадзоре, таких объектов, как ОТУМС, ТЗУС, СПД.

В этом году приходилось настолько много информации искать и применять, что я почувствовал свой предел в запоминания полезной информации. Поэтому мне сложно сразу вспомнить откуда я брал информацию (я говорю о приказах Минкомсвязи, Мининформсвязи, Роскомнадзора, СНИП, ВСН… ).

Под катом я постараюсь поверхностно пройтись по всем аспектам, по которым надо принять решение и реализовать в вашей аппаратной.

Инфраструктура помещения

Если начинать с выбора помещения, то надо учесть, что инфраструктура этого помещения должна иметь хотя бы такой набор элементов и конструкций:

  • Кабельные трассы: лотки под потолком и/или в полу (как вырезанный жёлоб в бетонном полу, так и под фальшполом.
  • Система энергоснабжения и энергораспределения
  • Шкаф/стеллаж для размещения сборок цепей АКБ.
  • Система газового пожаротушения.
  • СКД.
  • Видеонаблюдение.
  • Отдельно стоящий конструктив с трубчатыми профилями для крепление 10-ти парных плинтов, если у вас есть потребность организации множества медных СЛ (PRI например) между оборудованием или от близко расположенных партнёров/заказчиков.
  • Межстоечные медные и оптические кроссы.
  • Разумеется шкафы/стойки.
  • Система кондиционирования (климата) с резервом
  • Огнестойкость здания (II или III степени).
  • Над помещением автозала (будем называть так нашу серверную) не должно находиться санузлов и других коммуникаций связанных с использованием воды.
  • Полы в автозале должны быть несгораемыми, на которые настилают чистые полы в виде антистатического негорючего линолеума или плитка фальшпола.
  • Если в помещение есть окна, то как минимум их необходимо тонировать плёнкой или закрыть фанерой, так как на трансформаторы и аккумуляторы не допускается попадания солнечных лучей. В прочем солнечные лучи ничего хорошего не сделают и для другого оборудования. В идеале окон быть вообще не должно, но вряд ли это станет решающим фактором, если все остальные условия можно выполнить.
  • Стены автозала не должны быть выполненные из сгораемых материалов. Это не только противопожарная причина, но и необходимость соорудить изолированную камеру на случай отрабатывали системы пожаротушения.
  • Система газо-дымоудаления, на случай срабатывания системы пожаротушения.
  • Освещение должно быть хорошим. В каком то ВСН по освещению я видел цифру в 200лк. Но в принципе я думаю такой проблемы нет, поэтому просто позаботьтесь о хорошем освещение, желательно с пылезащитой.
  • Огнестойкая дверь с уплотнителем по периметру (для герметичности).
  • Все металлические конструкции (шкафы, лотки, стеллажи, дверь) должны быть заземлены.
  • Все пространство в стенах автозала вокруг кабельных и вентиляционных вводов должны быть заделаны асбестом или специальной противопожарной пеной (оранжевая или красная такая).
  • Батареи и другие металлические конструкции, которые могут служить устройством заземления, необходимо отгородить не токопроводящими материалами, что бы исключить возможность замыкание стоек или корпусов оборудования на эти конструкции через тело человека (при одновременном прикосновении).
  • И немного по охране труда и электробезопасности: таблички категории помещение и степени опасности, с фамилией ответственного; обозначения на розетках и заземляющих устройствах, плакаты по электробезопасности, пожаротушению и первой помощи (обычно темы плакатов выбирают приближая описанные ситуации к своей отрасли); углекислотные огнетушители и аптечка; резиновые диэлектрические коврики перед и позади шкафов и стоек

Электроснабжение

В зависимости от того, какие у вас планы на ваш автозал, вы можете выбрать определенный уровень защищённости от отключений электроэнергии.

Вы можете открыть любую из частей «Правил применение оборудования транзитных, оконечно-транзитных и оконечных узлов связи» (там 14 частей под разные типы узлов связи) и во всех будет отсылка на

приказ №59 от 16 мая 2006 г:

П.9.3. Переходы с основных источников на резервные, включая аккумуляторную батарею и обратно, осуществляются без обрыва электропитания.
П.9.4. Минимальный запас емкости аккумуляторной батареи обеспечивает нормальное функционирование узла связи в течение 2 ч.

А также на:

приказ №32 от 13.03.2007

7. Для обеспечения бесперебойности электроснабжения электроприемников I категории надежности, включая электроприемники особой группы I категории надежности, при нарушении электроснабжения на время переключения с одного источника электропитания на другой используются аккумуляторные батареи с емкостью, обеспечивающей электроснабжение электроприемников с расчетным временем разряда в час наибольшей нагрузки не менее 2 часов для электроприемников особой группы I категории надежности и не менее 8 часов для электроприемников I категории надежности.

8. Электроснабжение электроприемников II категории надежности в нормальном режиме осуществляется от двух независимых взаимно резервирующих источников электропитания.

9. В качестве одного из независимых источников электропитания электроприемников II категории надежности допускается использование дизель-электрической станции.

… который в свою очередь утратил силу в связи с кучей изменений… и в общем теперь надо руководствоваться

приказом №97 от 8 августа 2005 г.

6. В целях обеспечения бесперебойного функционирования средств связи, входящих в состав узлов связи, точек присоединения сети связи, базовых станций фиксированного абонентского доступа, а также базовых станций сети подвижной радиотелефонной связи и сети подвижной радиосвязи, используются резервные автономные источники питания, обеспечивающие при нарушении внешнего электроснабжения функционирование указанных средств связи в составе сети связи не менее 4 часов при нагрузке, соответствующей часу наибольшей нагрузки.

Но при этом ссылка на 32 приказ есть, а в 97 не расписано, какой узел связи к какой категории электроприёмников относится. В связи с этим не понятно, какую категорию требуется обеспечить. Если вдруг кто в теме — поделитесь, пожалуйста, информацией.

Но допустим вы определились с тем, какая категория электроприёмника у вас и вы принимаетесь её обеспечивать. Для безопасности вашего бизнеса у вас в любом случае должен быть ввод с городской подстанции, ИБП и генератор на 2-5кВт (примерно столько вам потребуется для небольшой аппаратной с двумя стойками, забитыми различным оборудованием). А значит необходимо в вводно-распределительном устройстве (ВРУ) организовать АВР (автоматический ввод резерва) с функциями запуска генератора (можно вручную, если есть дежурная смена на объекте).

Возможно у кого то встанет вопрос, как всё это реализовывать, в каком виде, как разместить?

  • Во-первых, это вопрос к электрикам. Если у вас в штате таких нет – обратитесь в организацию, которая произведёт монтаж ВРУ с АВР. К изделию должен прилагаться паспорт.
  • Во-вторых, – вы можете сами попробовать собрать, используя пару силовых контакторов с механической и электрической взаимно блокировкой, реле контроля напряжения с НЗ/НО контактами. Мне такое пришлось собрать для целей обеспечения определённой инфраструктуры объекта в целом (видеонаблюдение, система пожаротушения, СКД, вентиляция, аварийный свет). А автозал запитан от ввода, где отдельно организована система АВР с двух фидеров от разных подстанций и запуском дизель-генератора.

Простой АВР для работы с двумя вводами:

image

Итак, вы имеете электроустановку внутри вашего будущего автозала. Дальше вам нужно будет отводить оттуда линии на нагрузку. Ввиду того, что по периметру помещение обычно располагаются стеллажи для оборудования, шкафы для АКБ и прочие металлические конструкции (включая дверь), то хорошо бы сделать по периметру ленту заземления, к которой можно цеплять всё, что вам захочется поставить вдоль стен и будет необходимо заземлить.

Ввиду того, что у ваше оборудование должно быть подключено через ИБП, то первая очевидная линия от вашего ВРУ пойдёт именно к ИБП. В моём случае это 3-х фазный APC Symmetra, которую я бы не советовал покупать, ввиду её текущей стоимости. Можно найти ИБП более скромных производителей. Основными я бы выделил следующие критерии для себя:

  • 3-х фазные, если всё питание через один ИБП или 1 фазные, если ставить ИБП в каждую стойку для обеспечения индивидуального (в масштабах автозала) резерва.
  • качество выходного сигнала
  • наличие байпаса
  • горячая замена аккумуляторного модуля (возможно и силового модуля)
  • мониторинг
  • выдача питания на нагрузку через розетки С19 или клеммные контакты
  • подключение внешней сборки АКБ

И уже от ИБП отводить линии на блоки розеток в стойке(ах), в зависимости от места установки вашего ИБП (общий или индивидуально в каждый шкаф).

Здесь в схеме электропитания есть узкое место — ИБП. Поэтому конструкция ИБП должна быть либо такая, в которой ломаться нечему (APC Symmetra например, без силовых и батарейных модулей представляет из себя просто медные шины (практически)).

Если вы используете ИБП индивидуально на шкаф, то позаботьтесь о том, что бы в шкафы были линии от разных ИБП, а блоки питания оборудования были подключены к разным ИБП.

Или же есть третий вариант: у вас ИБП позволяет забрать от него силовую линию, затащить обратно в ваш АВР, а дальше собрать схему, при которой можно подавать питания на линию либо через ИБП, либо напрямую от городского ввода или генератора. Такая схема позволит снимать ИБП с линии для регламентного обслуживания и ремонта.

С инвертором тока схемы аналогичны схемам с ИБП, если он у вас достаточно серьёзный, что бы на нагрузку линии уходили с более или менее серьёзных клемм. А если у вас небольшие инверторы, то, как правило они и не заточены под то, что бы с ним забирать большим сечением питание на нагрузку. Такие ставятся внутри стойки, где они будут использоваться. А если есть потребность подключить много оборудование (а не одну-две железки), то с клеммной колодки инвертора отводится линия в РЩ в самом шкафу и там через шины или АВ 2P (или через АВ для минуса и шину для плюса) уже отводятся линии на нагрузку.

У меня для целей размещения ИБП и инверторов установленная отдельная каркасная стойка с большой цифрой в значение несущей массы, в которую приходят линии питания от ВРУ с АВР. А затем из которой уходят линии питания на шкафы с оборудованием.

Здесь я бы хотел отметить пару моментов, связанных с выбором материалов и комплектующих:

  • Автоматические выключатели в ВРУ выбирайте с учётом селективности, не только по номиналу, но и по времени срабатывания (для этого надо выбирать линейку продуктов от производителей, и, желательно, использовать продукцию одного бренда).
  • Старайтесь использовать максимально пожаробезопасные материалы внутри вашего автозала, поэтому я выбрал кабель ВВГнг-RFLS + гофрированная ПНД труба (чёрная и оранжевая).
  • По тем же соображениям выбрали блоки розеток — не горючий пластик, испытания на пожаробезопасность, без выключателя и обязательно с клеммной колодкой, для подключения к нему кабеля от ИБП. Может у меня одного такие проблемы, но я потратил несколько дней на поиски нужных мне блоков розеток. Все что предлагается в поиске — это откровенно не качественный «китай» со встроенным кабелем как правило маленького сечения, либо с разъёмом С13, из которого рано или поздно шнур выпадет, не говоря уже о том, что готовый кабель с жилами 2,5мм2 не найти, к тому же хотелось использовать ввгнг-rfls, а заделать его в вилку C14 хорошо не получится. В итоге я нашёл блоки розеток из пожаробезопасного пластика с клеммной колодкой внутри. К слову производят их в Екатеринбурге и продукт в целом отличный, но пришлось дорабатывать — рассверлить отверстие для ввода, искать фиксирующие скобы кабеля… купил 8 штук — использовал пока 4 и ни одного одинакового изделия не попалось :). Сейчас бы я рекомендовал либо такой же способ, либо блоки розеток со встроенным кабелем с промышленным разъёмом. Причём если у вас большой автозал, и стойки вы будете ставить по мере необходимости, то вариант с блоками розеток с промышленными разъёмами выглядит удобнее, так как вы просто подключаете новый шкаф к подведённой линии. И это будет надёжное соединение.
  • Питающие линии для ЩРЗ постоянного тока в каждый шкаф я сделал из ПУВГ кабеля (синий и красный) в гофре. Если вы погуглите ЩРЗ, то увидите что это такое и что там бывает даже функционал мониторинга состояния линии от АВ до оборудования.

Расчёт автономности вашей электроустановки и выбор АКБ

Для того, что бы понять, сколько вам нужно купить аккумуляторов (а именно в этом вопрос, потому как это требует много денег), то нет ничего сложно если вы знаете, на какую нагрузку на вашу энергосистему вы рассчитываете в ЧНН (час наибольшей нагрузки). Для встроенных внутрь батарейных блоков информацию по автономности вы найдёте в материалах для ИБП, а для подсчёта необходимой ёмкости внешней сборки нужно перемножить вольтаж сборки на ёмкость и поделить на нагрузку (t=V*Ah/Wt). Но так как разряд аккумулятора это не линейный процесс, то надо в мануалах к аккумуляторам посмотреть графики разряда и в зависимости от времени, которое у вас получилось, применить коэффициент найденный в паспорте. Тогда вы получите более или менее реальное время автономии от вашей системы АКБ. Исходя из этого вы поймёте, какую ёмкость вашей сборки АКБ надо обеспечить.

В статье про строительство собственного маленького ЦОД для маленького хостинг провайдера использовались автомобильные аккумуляторы, ввиду их дешевизны относительно не обслуживаемых АКБ разработанных для применения на сетях связи (особые режимы эксплуатации — постоянный заряд, редкий разряд, длительная отдача). Если хотите через 1-2 года их менять (в зависимости от разрядки и глубины этой разрядки), то конечно можете пользовать таким вариантом. Только надо учесть, что эти АКБ являются обслуживаемые, а значит в случае чего (перегрев например), они могу потечь или испаряться через крышечки — а значит их нужно в отдельное вентилируемое помещение ставить и всё такое… В случае же использования герметичных не обслуживаемых АКБ вы можете размещать их хоть в стойках с оборудованием (на дне шкафа или на консольных полках), эксплуатировать от 3 до 8 лет (смотря какая гарантия от производителя на жизненный цикл) и проводить тестирование вашей системы питания по регламенту.

Альтернативное мнение

Я выше писал про блоки розеток… но на самом деле я считаю, что правильнее подключать оборудование от АВ в РЩ внутри стойки. Так соединение получается надёжным и защищённым. Но тут есть некоторые неудобства. В основном они связаны с тем, что оборудование имеет совершенно конкретную розетку С14, вилку для которого (С13) не всегда можно найти надлежащего качества. В итоге она может там шататься и слабое место уже будет там. К тому же надо учесть, что не все инженеры хотя бы знают что такое ПУЭ, а им надо иметь возможность безопасно включить оборудование (опустим тот момент, что по технике безопасности любой инженер должен быть как минимум с 3-ей группой в корочке по электробезопасности + сопровождение ответственного с 4-ой группой — все мы понимаем реальность бытия).

Инфраструктура кабельных трасс

Для того, что бы прокладывать кабель из разных уголков вашего автозала (от вводов в саму аппаратную или от шкафа с аккумуляторами) вам потребуются кабельные лотки. Это может быть система кабельных лотков под фальшполом, или лотки под потолком, проходящие по периметру помещения и над стойками… В моём случае было принято оптимальное решение: под потолком идут кабельные локти, а в полу был вырезан жёлоб проходящий под телекоммуникационными шкафами, шкафа с АКБ и ответвление к ВРУ на стене. Жёлоб оббит железом (и заземлён), а сверху накрыт 4мм стальными листами, которые так же как и весь остальной пол, покрыты антистатическим не горючим линолеумом. Нужно поставить новые стойки – убрать с нужных мест лючки, поставили стойки, подтащили по жёлобу линии питания постоянного и переменного тока и всё. При этом жёлоб в полу используется только для силовой проводки, а сетчатые локти под потолком используются для медных СЛ и оптического кабеля.

Несмотря на то, что оборудование ещё не инсталлировалось в этот автозал, кабельные локти уже занимаются жгутами медных линий и оптическими кабелями. А именно были сдельны перекидные кроссы между стойками. У меня есть две кроссовые конструкции: стойка однорамная и конструктив с трубчатыми монтажными профилями для 10-ти парных плинтов. Из телекоммуникационных стоек в однорамную стойку приходят жгуты UTP из каждой стойки, которые с обеих сторон расшиты на патч панели. Аналогично организован оптический перекидной кросс.Таким образом любые кроссировки между оборудование в разных стойках выполняется короткими патч-кордами внутри своей стойки. А входящие единичные медные линии в автозал (СКС из офиса на 8 линий и медные соединения с партнёрами тоже приходят на раму с кроссами, после чего перекидываются уже на нужное оборудование.

А здоровенная рама для плинтов мне нужна ввиду необходимости организовать большой объём соединений PRI портов между станционной и транспортной стороной. Плата транспорта SDH или медиа шлюза расшивается сразу на нужную сторону конструктива, затем кроссируется при необходимости обычным кроссировочным шнуром.

Благодаря тому, что силовые кабели у меня идут по жёлобу в полу, а слаботочка заходит в шкафы сверху, они практически не пересекаются друг с другом (у меня есть оборудование, питание которого включается спереди), даже с учётом того, что кроссы расположены на задних монтажных профилях.

Телекоммуникационные шкафы и стойки

По моему мнению, если вы строите узел связи или серверную, где будет ваше основное, или одно из основных мест дислокации, то минимальные размеры шкафа должны быть 800х1000 (ШхГ), стандартной высотой 42U, с цоколем или на 10см приподнятые над полом, а так же отверстиями для ввода кабельной инфраструктуры, как через цоколь, так и через потолок. Хотя я предпочитаю 47U, потому что когда в шкаф всякого набивается, юниты становятся дефицитом и сделать с этим ничего нельзя будет.

И я не просто так написал «размеры шкафа». Я считаю, что стойки (просто двойная каркасная рама) использовать можно только для стендов тестирования и кроссов. Спустя некоторое время эксплуатации ряда стоек, вы обнаружите, что патч-корды были прокинуты лианами между стойками со всех сторон, даже если вы сами любите порядок, то кто-то другой обязательно для ускорения процесса кинет такую соплю, а потом забудет переделать до того, как там пустят клиентский сервис. Именно поэтому должны быть шкафы и у них обязательно должны быть закрытые боковые панели и закрывающиеся двери.

Для того, что бы двери закрывались всегда, необходимо монтажные профили устанавливать хотя бы на 10см вглубь, как спереди, так и сзади. Если их ставить близко к двери — могут возникнуть неудобства с оборудованием, которое выступает вперёд своей передней панелью за монтажные профили, + SFP модуль торчит + оптический патч-корд в нём. Как результат — дверь будет гнуть патч-корды, если вообще сможет закрыться. Буквально недавно из-за такой не продуманности пришлось несколько раз ездить на узел, где у нас был установлен cwdm в арендуемой стойке (к слову сам он даже не выпирал за пределы плоскости монтажных профилей). Дверь могли закрыть по-разному и она по-разному прижимала патч-корды, роняя линки. Хорошо, что поняли в чём дело ещё на этапе тестирования и наколхозили по-быстрому решение. А для того, что бы иметь возможность утопить монтажные профили, и нужна глубина шкафа от 1000мм — в случае приобретения довольного сервера (на 800 например), вы не сможете закрепить салазки на профилях расставленных ближе чем 800мм, а сам сервер не сможет до конца заехать в стойку. (по крайней мере у платформ Intel такая конструкция салазок).

Сами двери бывают стеклянные или перфорированные (кто-то покупает целиком стальные без перфорации). Здесь выбор под задачи и способы обеспечивания климата. Если холодный воздух у вас подаётся в коридор, то смысла брать стеклянную дверь (или дверь без перфорации) никакого нет. Берите перфорированные двери и всё ваше оборудование будет охлаждаться забирая воздух с фронтальной части (сервера особенно), выгоняя нагретый назад. Если же вы подводите рукава с холодом под стойку, то нужно брать стойки с глухими дверями.

В шкафу обязательно должны быть вертикальные органайзеры на переднем монтажном профиле и, по необходимости, на задних. У меня вертикальные органайзеры с обеих сторон, потому как спереди организуется подъём и спуск меди и оптики, а сзади подвод питания к оборудованию и UTP от серверов (опять же медь с данными идёт по одной стороне, а силовые шнуры по другой). Причём при подводе питающих кабелей в стойку, прикиньте, с какой стороны у вас будут блоки питания — с той и подводите линию. Тогда другая у вас будет для укладки меди от серверов и каталистов (для примера) с платами в задних слотах…

Климат

Считается вроде бы не сложно. Если вы сейчас не знаете, какие у вас будут потребности потом, то можно быстро прикинуть и выйти на 2 варианта:

  • сразу промышленные или полупромышленные кондиционеры мощностью, достаточной для покрытия максимального тепловыделения (считается на основе максимально возможного потребления электроэнергии на стойку, с коэффициентом 0,9 для уверенности; а для точности — надо смотреть паспорт на оборудование).
  • поставить бытовой сплит… потом ещё один… потом ещё… Только позаботьтесь о том, что бы к этим сплитам можно было в будущем подключить какой-нибудь модуль управления с датчиками, что бы всё это было немного умным.

В любом случае должен быть резерв системы поддержания температуру от 18 до 24°С и влажность в районе 50-60% у вас в автозале. У нас например большой кондиционер питается от другой электросети, нежели автозал. И вот если кто-то сможет его погасить, то автоматически запустится сплит система, которые так же без проблем справятся с этой задачей, но питание они возьмут из электросети с дизелем, но без драгоценного автономного ресурса ИБП.

Ещё можно заниматься автоматизацией и мониторингом, в зависимости от того, на что способны кондиционеры… У нас например есть блок управления сплит системой, который мониторит температуры в нескольких точках автозала и задаёт режим работы нескольких кондиционеров.

Но в общем для меня эта тема довольно далека и всё, что нам необходимо было делать по этому вопросу — делала подрядная организация. В планах только прикрутить к этой системе сигнализацию от систем типа netping или чего-то подобного, что бы запускались дополнительные кондиционеры не только, когда большой отключится.

Системы безопасности

  • Система пожаротушения. Для тушения пожара должен применять газ. Это опасно для людей, но безопасно для вашей инфраструктуры. Разумеется при срабатывании система будет орать заданное количество секунд и только после этого вскроет баллон с газом. Поэтому персонал должен быть проинструктирован, не глухим и не слепым, что бы видеть светосигнальную информацию о состояние пожарной системы. Как правило, у систем пожаротушения есть панели индикации и управления — персонал заранее должен быть научен понимать и пользоваться этими устройствами.
  • Охранная сигнализация. Здесь лучше пользоваться регламентом эксплуатации системы, который выдаст охранная организация. Здесь сказать нечего. Если у вас на объекте постоянно кто-то присутствует, а помещение находится на территории охраняемой службой безопасности владельцев здания, то возможно она вам и не нужна.
  • СКД. Согласно нормативно-правовой документации от Мининформсвязи (Приказ от 9 января 2008г №1), в помещение узлов связи должны иметь доступ только лица производящие монтаж, эксплуатацию и техническое обслуживание оборудования. Здесь вопрос не только безопасности доступа к оборудованию (а ведь электронные метки или пароли могут украсть у менее подготовленных лиц — например бухгалтерии или менеджера), но и по технике безопасности. Вряд ли у того же менеджера есть удостоверение по электробезопасности и он проходил инструктаж. А с того момента, как вы растащили электропитание по шкафам — всё ваше помещение — это одна электроустановка.
  • Видеонаблюдение. Как и любая другая система безопасности, её питание должно быть зарезервировано и доступ к её элементам управления должен быть ограничен. Камеры следует выбирать с PoE питанием, что б ни от какой розетки на стене не было зависимости. В автозале камеры следует размещать не только для фиксации инцидентов безопасности, но и для разбора полётов с техническим персоналом. Дело в том, что инженер может сделать что-то случайно, а потом не сознаваться, опасаясь расправы. Например, если всё-таки использовать блоки розеток с подключаемым кабелем в разъём С14, то рано или поздно оттуда выпадет вилка С13, особенно если там кто-то решит полазить и расшатает кабель. Аналогично и со стороны оборудования — если шнур плохо сидит в разъёме блока питания оборудования — найдите способ, как улучшить его посадку. Иногда это бывает просто плохой дешёвый провод — я таки сразу выбрасываю. А иногда разъём в оборудование уже деформировался (высох пластик со временем, например). Или же инженер может случайно не тот патч-корд вынуть. У меня самого был случай на первом году работы в телекоме, когда SFP модуль застрял в плате, а очень нужно было срочно его заменить. Как я только не пытался его оттуда вынуть. А это был Juniper MX5-T… именно тогда я узнал, что интерфейсные платы у него не прикручиваются к корпусу — вылетела вся 20х1Gb плата забитая рабочими линками… Камер у нас правда не было, но я и не стал скрывать обстоятельства произошедшего.

Готовясь к вводу в эксплуатацию

В связи с тем, что небольшие операторы связи имеют право регистрировать узлы по упрощённой схеме, с недавних пор отпала необходимость готовить проекты на все инженерные системы узла (электропитание, кондиционирование, освещение, пожаротушение, и кажется был раньше проект кабельных трасс). Это значит, что при подаче документов в Роскомнадзор на регистрацию узла связи, вы имеете право не предоставлять этот пакет документов. Но сделано у вас всё должно быть, потому как проверочные комиссии технадзора никто не отменял и они вполне себе могут прийти и провести инспекцию вашего опасного (или особо опасного) объекта. Поэтому не стоит отступать от реализации всего этого только потому, что ваше руководство выяснило, что ничего этого не надо для регистрации узла. Рано или поздно эти системы отработают и спасут от убытков или смерти.

После того, как вы решили, что закончили с обустройством своей аппаратной и теперь дело только за инсталляцией и включением оборудования, убедитесь, что у вас есть некий набор документации и регламентов, который хранится в непосредственной близости к обслуживаемому оборудованию:

  • схемы распределения электропитания
  • схемы освещения
  • схемы прокладки трасс кондиционирования
  • регламенты и даты ввода в эксплуатацию АКБ, кондиционеров, генератора, АВР, устройств заземления.
  • схемы на перекидные кроссы
  • регламент и пылесос для уборки помещения: т.к. у вас должно получиться довольно герметичное помещение, то пыли там со временем браться практически не от куда, а мусор оставленный инженерами будет регулярно появляться — колпачки от патч-кордов оптики и SFP модулей, обрубки жил витой пары, укатившиеся гайки и болты — со всем этим прекрасно справляется строительный недорогой пылесос (kercher например)
  • схемы на приходящую на объект ВОЛС с рефлектограммами
  • подписано и обозначено должно быть буквально всё — любой элемент дистрибуции электроптитания, шкафы и двери с табличками по назначению и классу опасности, ответственные, схемы эвакуации на светящейся в темноте основе; если у вас по периметру идёт шина заземления, то она не должна быть закрашена и отмечена как заземляющее устройство. На одном предприятие у знакомого технадзор потребовал раскрасить кромку шины в красно-зелёные полосы.

Почему я ничего не написал борьбе с шумом?

Бессмысленно бороться с шумом невиданными стойками с шумоизолирующими панелями… Тишуну можно сделать только тремя способами:

  • выключить из розетки всё, что шумит
  • придерживаться правил выбора помещения для автозала описанной в этой статье и проблема шума отпадёт, при условии, что рабочие места находят за пределами этого помещения
  • в какой-то мере поможет включить тихий режим в BIOS серверов.


Конечно же этот материал сложно назвать полезным на 146%. Я не проектировщик, а поэтому не могу вам дать исчерпывающие ссылки на материалы, по которым надо себя готовить к исполнению задач, описанных в статье. Подозреваю, что даже проектировщики не держат в голове все СНИП, ВСН, НТП на здание и помещение, ПУЭ, и нормативно-правовую документацию от Минком/информсвязи, Роскомнадзора, Рос/технадзора. Практически ничего не знаю про охрану труда — это вообще отдельная тема. Но я старался рассказать о том, на чём надо останавливаться и начинать вчитываться, что бы не ошибиться.

Можно начать с этим документов и постараться понять чего нужно придерживаться. НТП 112-2000 РД 45.120-2000 — документы с кучей ссылок на всё то, на что надо опираться при строительстве узла связи. Из него правда пригодится всем, наверное, только несколько пунктов:

  • ВСН 45.122-77 — проектирование искуственного освещения предприятия связи
  • ВСН 116-93 — может быть пригодится, но довольно старая инструкция по проектирования линейно-кабельных сооружений связи
  • ВСН 332-93 — Инструкция по проектированию электроустановок предприятий и сооружений электросвязи

И посыл, который я просто не нашёл куда воткнуть:

покупая любой кабель, электротехническое изделие, шкафы, кроссовок оборудование – выбирайте с сертификатами серии ССС или декларация соответствия в области связи — чем ближе к связи, тем лучше. На многое конечно сертификатов/деклараций в области связи нет и не требуется, но тогда хотя бы соответствие ГОСТ. На электрический кабель например есть ГОСТ, есть ТУ и продукт экономии на производстве… Ничего кроме ГОСТ брать не стоит — вы попадёте на заниженные характеристики и составы материала.

просто качественные материалы. Например на плинты не требуется сертификация или соответствие в области связи. Но взять плинт от krone и другой китай, через пару лет вы увидите, что krone всё так же держится на монтажных трубках, а «китай» подсох и трения не достаточно, что бы он оставался видеть там, где его воткнули. Немного небрежного отношения, и вы познаете разницу в прочности и эластичности пластика. Сам я на всё это натолкнулся только в этом году, когда пришлось разбирать старый кросс и с noname производителем и с krone.

Наверное многие скажут, что не нужно им это всё в серверных, тем более в малом бизнесе. Вы правы, но стремиться к чему-то ведь надо? Выбирайте пределы, которые вы готовы достичь и достигайте. В любом случае норматива из области связи мне кажется самой адекватной и обоснованной.

В следующей части я постараюсь изложить принципы выбора и размещения оборудования, а так же способы подключения к слаботочным сетям и электропитанию.

Все замечания по орфографии, правописанию и опечаткам пожалуйста в личные сообщения.

Так же я буду рад, если вы поделитесь тем, какие решения вы применяли при обустройстве инфраструктура.

PS: простите меня пожалуйста за отсутствие табуляции — в редакторе она есть, но в пост парсером не переносится. Решить этот вопрос никак не смог.

Автор: bravo-ej

Источник

Поделиться новостью

* - обязательные к заполнению поля