В плену системы или под защитой?

В плену системы или под защитой?

Александр Воробьев

Данная статья посвящена так называемым корпоративным системам бесперебойного электроснабжения (СБЭ). Но это понятие нуждается в пояснении. В большинстве случаев корпоративными СБЭ называют крупные централизованные системы, выполненные на основе мощных источников бесперебойного питания (ИБП). Такие системы обычно создаются в масштабах здания (или его значительной части) и предназначены для электроснабжения рабочих станций нескольких десятков и более сотрудников. Кроме того, в понятие корпоративных СБЭ уместно включить СБЭ штаб-квартиры и филиалов крупного предприятия (организации), территориально удаленных друг от друга, но объединяемых общим построением СБЭ, системой мониторинга и управления, ведомственными нормами и правилами.

Принципы построения

Применение централизованных схем СБЭ предполагает, что пользователи заняты в единообразном производственном процессе на основе информационных технологий, и возможные издержки и риски из-за нарушений электроснабжения отразятся на всех сотрудниках. Типичными объектами централизованных СБЭ являются издательские центры, банки, проектные организации. Для отдельных рабочих станций, занятых приложениями, которые имеют особо критичный характер, предусматривается резервирование второго уровня с применением ИБП малой мощности.

Корпоративные системы бесперебойного электроснабжения включают в себя СБЭ вычислительных центров, центров обработки данных (ЦОД), телекоммуникационных центров и прочих зон так называемого интенсивного оснащения, где осуществляются централизованная обработка, сбор, хранение и передача информации. СБЭ таких объектов выделяются из централизованных СБЭ здания, однако их следует рассматривать как один из видов корпоративных СБЭ.

Отказоустойчивая схема СБЭ с двусторонним питанием потребителей чаще применяется именно на таких объектах, хотя централизованные схемы СБЭ на основе модульных ИБП для решения подобных задач являются, с учетом сокращения затрат на приобретение СБЭ, удачной альтернативой. Возможность замены модуля в «горячем режиме» (hot-swap) позволяет производить ремонт и обслуживание ИБП без отключения нагрузки. Важным показателем, характеризующим это свойство модульных ИБП, является эксплуатационная готовность, которая для модульных отказоустойчивых ИБП класса «энергетический массив» составляет не менее 0,99999.

Традиционные схемы СБЭ, в частности, распределенная система с резервированием на втором уровне, также остается актуальной. Обычно эта схема выполняется как локальный (индивидуальный) ИБП для каждого сервера или стойки с оборудованием, подключаемым на питание от централизованной СБЭ здания. Режим «горячей замены» в данном случае также обеспечивается за счет реализации схемотехнических и конструктивных решений локальных ИБП, включения через STS, применения инфокоммуникационного оборудования с двумя и более блоками питания. Тем не менее применение модульных ИБП предпочтительно и для распределенной системы. Здесь речь идет о резервировании оборудования в масштабах монтажного шкафа, куда устанавливается модульный ИБП.

В настоящее время для таких объектов, как ЦОД, предлагаются комплексные решения, образующие инженерную инфраструктуру. Они включают в себя монтажные телекоммуникационные шкафы 19- и 21-дюймового форм-фактора со всеми необходимыми аксессуарами, панели распределения и переключения питания, кабельные конструкции для информационных и силовых кабелей, системы охлаждения и вентиляции и сами ИБП, которые уже выступают в качестве компонентов решения защиты ЦОД. Предлагаемые в данных решениях схемы СБЭ могут быть различными: распределенные, централизованные, отказоустойчивые (как с двусторонним питанием, так и на основе «энергетических массивов» и с двусторонним питанием от «энергетических массивов»).

Решения по созданию СБЭ ЦОД содержат аспекты отказоустойчивости. Решения по централизованным СБЭ в масштабах здания требуют интеграции на уровне системы электроснабжения, так как для сетей БЭ существуют некоторые особенности.

В части надежности функционирования самой централизованной СБЭ, ее ремонтопригодности и упрощения процедуры сервисного обслуживания следует разделить решения, в основе которых лежит применение одиночного ИБП, и решения с применением нескольких взаиморезерви-рующих ИБП. В первом случае СБЭ выполняется без резервирования, и при поломке или выводе ИБП на обслуживание потребители остаются без защиты электроснабжения.

Во втором случае можно выделить последовательное резервирование, параллельное резервирование и резервирование с применением модульных ИБП класса «энергетический массив». Естественно, что стоимость подобных технологий выше, чем решений на одиночном ИБП, однако с позиций защиты информации и самого бизнес-процесса альтернативу можно искать только в самих схемах резервирования СБЭ.

Принцип создания резервированной СБЭ сомнениям не подвергается. Существуют весьма дорогие решения, позволяющие квалифицировать их как отказоустойчивые СБЭ. В их основе лежит принцип обеспечения двустороннего питания потребителей от двух независимых групп ИБП, резервирования питающей сети по двум независимым вводам (минимум) с применением устройств автоматического включения резерва (АВР) и аварийных дизель-генераторов, а также использования статических тиристорных переключателей - STS. Подобные решения относятся к эксклюзивным, предназначенным для крупных компаний, правительственных учреждений и т. д. К отказоустойчивым СБЭ можно также отнести системы, выполненные с применением модульных ИБП класса «энергетический массив». Их схемотехника задумана именно как отказоустойчивое устройство. Эту черту можно перенести и на систему, если ее питающая часть выполнена по принципам I группы надежности электроснабжения по классификации Правил устройства электроустановок.

Типичная современная корпоративная СБЭ - это централизованная система на основе группы параллельно включенных ИБП или модульных ИБП. Если такая схема выполнена по принципу избыточности N+1, то при выходе одного ИБП (модуля ИБП) мощности оставшихся в работе ИБП (модулей) достаточно для обеспечения потребителей без возникновения перегрузки.

ИБП являются наиболее значимой составляющей корпоративной СБЭ. Вместе с тем функционирование СБЭ немыслимо без кабельной сети, распределительных щитов, заземляющего устройства, систем мониторинга и управления, вспомогательного оборудования и систем, в первую очередь системы кондиционирования электромашинных помещений. Объем статьи не позволяет коснуться этих компонентов СБЭ*.

Тем не менее следует обратить внимание по крайней мере на две особенности сетей СБЭ. Первое - сети БЭ нагружены на импульсные блоки питания. Это наиболее массовые потребители - компьютеры, принтеры, активное сетевое оборудование и т. д. Режим работы электрических сетей бесперебойного электроснабжения характеризуется преобладающим характером нелинейной нагрузки. В нейтральном проводнике (нулевой рабочий проводник) даже симметрично загруженной трехфазной сети протекают токи, приблизительно в 1,7 раза превышающие ток в линейном проводнике. Ток имеет частоту 150 Гц, т. е. состоит преимущественно из третьей гармоники, следовательно, нейтральный проводник должен быть рассчитан на его протекание. При применении ИБП, построенного по принципу двойного преобразования в режиме работы on-line, токи в нейтральном проводнике будут протекать только в сети бесперебойного электроснабжения на участке после ИБП. Но при работе ИБП в режиме «байпас» такие токи протекают, кроме того, в линиях, питающих ИБП от сети общего назначения. Таким образом, здесь тоже требуется увеличение сечения нейтрального проводника. Это приводит к необходимости еще на этапе проектирования выполнять проверку пропускной способности существующих проводок зданий, по которым могут протекать данные токи.

Например, обязательной проверке подлежит сечение нулевого рабочего проводника от трансформаторной подстанции (ТП) до вводно-распределительного устройства (ВРУ), от которого питается СБЭ. Как правило, замена существующих линий не требуется, так как мощность СБЭ меньше мощности, на которую рассчитаны ТП и ВРУ, а нейтральный проводник, при симметричной нагрузке обычными потребителями (освещение, электродвигатели и т. д.), практически не загружен.

Отключение токов короткого замыкания в цепи ИБП также имеет свои особенности. Дело в том, что они соизмеримы с рабочими, а управляемый инвертор ИБП в первый момент ограничивает ток КЗ, что затрудняет селективное** срабатывание защиты. При несогласованном выборе автоматов защиты короткое замыкание будет отключаться не селективно.

* См. также: Воробьев А. Электроснабжение компьютерных и телекоммуникационных систем. - М.: Эко-Трендз, 2003. 

** Под селективностью срабатывания устройств защиты электрической сети понимается отключение короткого замыкания на поврежденном участке сети без отключения неповрежденных участков.

Еще одной особенностью режимов работы сетей СБЭ является наличие технологических токов утечки. Импульсный блок питания имеет симметричный L-C фильтр для подавления помех, средняя точка которого соединена с корпусом устройства.

По требованиям безопасности корпус устройства заземлен. Возникает цепь через емкость фильтра на землю, что и приводит к технологической (не от повреждения изоляции) утечке. Требованиями Правил устройства электроустановок (ПУЭ) определена необходимость применения устройств защитного отключения (УЗО) в групповых розеточных сетях. Соблюдение этого требования без учета токов утечки в цепях с импульсными блоками питания может приводить к ложным срабатываниям УЗО и отключениям нагрузки.

В некоторых публикациях приводится значение тока утечки 2-3 тА на одно устройство. Удельная величина тока утечки по специально произведенным замерам составляет около 2 mА на 1 А тока нагрузки. Это значение удельной величины тока утечки характерно для рабочих станций, принтеров и других офисных средств информатизации. Согласно ГОСТ Р 50807-94, отключающее значение тока УЗО находится в диапазоне 0,5-1 номинального тока, а суммарное значение тока с учетом присоединяемых электроприемников не должно превышать 1/3 номинального тока УЗО.

Выйти из этой ситуации можно вообще не применяя УЗО. Необходимо обеспечить время отключения сверхтока в сети бесперебойного питания не более чем за 0,4 секунды и выполнить защитное зануление в соответствии с требованиями главы 1.7 ПУЭ и ГОСТ 50571.21 и ГОСТ 50571.22.

***

Существуют пять вариантов отключения короткого замыкания в цепи ИБП:

- короткое замыкание отключается селективно - защитным аппаратом поврежденного участка сети. Это наиболее благоприятный вариант;

- короткое замыкание отключается не селективно-вводным защитно-коммутационным аппаратом электрического щита, от которого отходит поврежденная линия. При этом обесточиваются потребители, питающиеся от данного щита. ИБП остается в работе и питает потребителей от других, оставшихся включенными щитов;

- короткое замыкание не успевает отключиться в цепи ИБП. Это вызывает перегрузку инвертора и срабатывание его защиты. Обесточиваются все потребители данного ИБП;

- короткое замыкание не успевает отключиться в цепи ИБП. Перегрузка инвертора вызывает переход на байпас. Ток короткого замыкания в цепи байпаса отключается селективно, так как он уже не ограничивается инвертором, и возникают предпосылки для селективного отключения. ИБП на короткое время теряет функцию бесперебойного электроснабжения, по сети возможно прохождение помех от короткого замыкания. Оставшиеся потребители остаются в работе;

- короткое замыкание не успевает отключиться в цепи ИБП. Перегрузка инвертора вызывает переход на байпас. Ток короткого замыкания в цепи байпаса не удается отключить селективно. Все потребители обесточиваются.

Общие принципы расчета селективности не отличаются от расчетов в сетях общего назначения, но проектировщикам необходимо учитывать сделанные замечания.

Требования к техническим средствам, нормативная документация

Среди корпоративных СБЭ нельзя обойти вниманием такие, казалось бы, тривиальные системы, как СБЭ отделений или филиалов, которые обычно строятся как централизованные (в ряде случаев с применением одиночных ИБП, при наличии телекоммуникационного центра, файл-серверов и средств связи - по двухуровневой схеме). Основная особенность создания СБЭ в филиалах состоит в необходимости соблюдения требований корпоративного стандарта на выполнение СБЭ. Это обусловлено тем, что производство на основе ин-фокоммуникационных технологий не должно зависеть от местных условий электроснабжения конкретного отделения или филиала. Требования корпоративных стандартов на СБЭ должны включать в себя:

- унификацию парка оборудования;

- корпоративные скидки от поставщика или производителя;

- мониторинг состояния ИБП из единого центра;

- централизованное сервисное обслуживание;

- обучение персонала. Кроме того, следует создать типовое техническое задание и на его основе типовой проект СБЭ отделения (филиала). Это позволит избежать всякого рода ошибок проектирования, так как в ряде случаев приходится прибегать к услугам проектировщиков, не имеющих достаточного опыта в технологиях СБЭ, но выполняющих проектирование объекта в целом. В данном случае производится так называемая привязка типового проекта к конкретному объекту, при этом сохраняются основные технические решения, предусматриваемые в корпоративном стандарте. Полностью полагаться только на техническое задание СБЭ для отделения и филиала не следует по вышеупомянутым причинам.

Корпоративная система бесперебойного электроснабжения в общем случае состоит из СБЭ: здания головного офиса; центра обработки данных головного офиса; отделений (филиалов).

СБЭ здания головного офиса является централизованной системой на основе параллельно включенных ИБП или ИБП класса «энергетический массив».

СБЭ центра обработки данных головного офиса предпочтительно строить на основе комплексных решений по инженерной инфраструктуре ЦОД.

СБЭ отделений (филиалов) строится в соответствии с требованиями корпоративного стандарта и с привязкой типового проекта к конкретному объекту.

Известен ряд корпоративных стандартов и норм проектирования, содержащих в той или иной степени требования к СБЭ:

- «Концепция электроснабжения информационно-вычислительных, телекоммуникационных и слаботочных систем учреждений центрального аппарата Банка России», Москва, 1998;

- ВНП-001-01. Банк России. Здания учреждений Центрального банка Российской Федерации;

- РМ-01-93. Российская государственная телерадиокомпания «Останкино». Генеральная техническая дирекция. Объединение по проектированию и строительству объектов телевидения и радиовещания. Рекомендации по проектированию новых, реконструкции и расширению действующих аппаратно-студийных комплексов (АСК) телевидения и радиовещания;

- СН 512-78 (с изменениями 2000 г.). Инструкция по проектированию зданий и помещений для электронно-вычислительных машин;

- Единые требования по обеспечению Головной организации ОАО Внешторгбанк бесперебойным электроснабжением средств связи и вычислительной техники. Москва, 2005;

- TIA-942. Telecommunications Infrastructure Standart for Data Centers. 2005.

Системы мониторинга и управления

Говоря о корпоративных СБЭ, невозможно обойти вниманием системы мониторинга и управления. СБЭ филиалов, дополнительных офисов, территориально удаленных объектов крупного предприятия, организации обусловливают реализацию производственного процесса на основе информационных технологий в едином ритме с соблюдением требований по защите и сохранению информации и поддержанием непрерывности бизнеса. В решении этой непростой задачи существенную помощь оказывают системы мониторинга и управления СБЭ.

В заключение важное замечание: корпоративные СБЭ головного офиса, как правило, создаются в крупных зданиях, имеющих большое количество инфоком-муникационных и инженерных систем. Иногда такие здания относят к разряду «интеллектуальных» зданий. Одно из определений ИЗ можно кратко сформулировать так: здание, которое обеспечивает продуктивную и экономически эффективную среду путем оптимизации четырех элементов: структуры, систем, обслуживания, управления и их взаимосвязей. Из взаимосвязи элементов ИЗ вытекает весьма важное требование к условиям создания корпоративных СБЭ - проектирование СБЭ в составе комплексного проекта на оснащение ИЗ инженерной инфраструктурой, технологическими (инфокоммуникацион-ными) системами и системами безопасности.

Важнейшей частью инженерной инфраструктуры является система электроснабжения, включающая системы общего назначения, гарантированного и бесперебойного электроснабжения.

В любом случае - строится ли новое здание из разряда «интеллектуальных», здание «традиционной идеологии», осуществляется ли реконструкция или создается СБЭ в существующем здании - системы бесперебойного электроснабжения следует проектировать и строить с увязкой с системами общего и гарантированного электроснабжения (в отношении мощностей, электромагнитной совместимости, размещения оборудования и т. д.). Залогом эффективного и надежного функционирования корпоративной СБЭ всегда является проект. 

Список литературы

Журнал «Connect!», №11.2005