Основной фактор, требующий непрерывного обновления дата-центров, – гонка технологий. Не следует сбрасывать со счетов и ряд других обстоятельств, к которым эксперты относят физический износ и устаревание оборудования, инвестиции в развитие инфраструктуры, изменение стандартов эксплуатации и сервисного обслуживания таких объектов. Срок эксплуатации основного оборудования ЦОД составляет в среднем около десяти лет. Период расцвета корпоративных ЦОД в нашей стране пришелся на 2000-е гг. В настоящее время на всех уровнях инфраструктуры этих объектов представлено оборудование, требующее замены. Как определить, что ЦОД требует модернизации, как обеспечить сохранение инвестиций при модернизации объекта, какие технологии предлагают разработчики для продления жизненного цикла систем и оборудования? На эти и другие вопросы отвечают участники круглого стола.
Насколько, по вашим оценкам, парк российских ЦОД требует модернизации? По каким причинам?
Ольга Баранова
Те коммерческие ЦОД, которые были построены с нуля и сертифицированы по классу Tier III, III+, не требуют модернизации. А дата-центры, находящиеся, к примеру, в старых АТС или промышленных помещениях, не соответствуют современным стандартам по размещению оборудования (в частности, по нагрузке на пол, организации охлаждения и электропитания) и т. д. Такие здания требуют регулярного мониторинга их технического состояния и планирования модернизации. Впрочем, отметим, что ресурс старых помещений серьезно ограничен, поэтому в подобных случаях разговор идет скорее не о модернизации имеющегося, а о создании нового дата-центра.
Дмитрий Хороших
В общем случае серверные решения устаревают за три-четыре года, сетевые, как правило, за пять-шесть. Сегодня мы находимся в уникальной ситуации, когда у многих компаний эти две волны пересекаются, последняя серьезная модернизация прошла в 2013–2014 гг. на пике роста. И в настоящее время на всех уровнях инфраструктуры есть оборудование, которое нуждается в замене. Это очень хороший шанс для качественного скачка вперед к более продвинутым технологиям.
Илья Царев
Инфраструктура российских ЦОД развивается под влиянием ряда факторов, влияющих, в частности, на потребность в ее модернизации. Назовем некоторые из них.
Первый – естественное устаревание оборудования. Срок эксплуатации основного оборудования инфраструктуры ЦОД составляет около десяти лет. Конец 2000-х в России можно назвать периодом расцвета корпоративных ЦОД и началом бума строительства коммерческих площадок. Парк оборудования возрастом старше восьми-десяти лет неуклонно растет.
Второй – ассигнования заказчиков на обновление инфраструктуры. Вслед за общей экономической ситуацией в стране и мире периоды активного обновления инфраструктуры сменяются стагнацией в связи с экономией расходов на модернизацию. Период активного обновления начала 2010-х гг. сменился кризисом 2014 г., когда многие программы развития были отложены, а возраст эксплуатируемого оборудования увеличивался.
Третий фактор – моральное устаревание инфраструктуры ЦОД вследствие изменения требований со стороны вычислительных систем. Предсказания 10–12-летней давности о быстром росте удельной мощности нагрузки ЦОД до 15, 20 и более кВт на стойку оказались неверными, так как не были учтены факторы виртуализации, наступления эпохи облачных вычислении, конвергенции ИТ-устройств. Централизация ЦОД и переезд в облака сменяются эпохой Edge-computing и усложнения физической структуры хранения данных вследствие развития национальных и международных требований информационной безопасности и обращения с персональными данными. В свою очередь, это продлило жизнь многим корпоративным и коммерческим площадкам, рассчитанным когда-то на 3–7 кВт на стойку, которые по старым прогнозам давным-давно должны были уступить место гипермасштабным централизованным ЦОД с высоким потреблением на стойку. Однако фактор виртуализации давно отыгран, а рост потребностей в вычислениях продолжается. Требования по мощности на стойку снова идут вверх.
Четвертый фактор – изменение стандартов эксплуатации и сервисного обслуживания инфраструктуры ЦОД. Если десять лет назад на многих, особенно малых и средних ЦОД, эксплуатация шла по «неписаным» правилам, а фиксация событий и планирование все еще велись на бумаге, то теперь активно развиваются DCIM-решения, интеграция процессов эксплуатации и сервисного обслуживания ЦОД с автоматизированными системами управления предприятием. Начинается активное внедрение BIM-технологий, на подходе технологии AR/VR.
Евгений Юмагулов
В сегменте коммерческих ЦОД есть довольно большой парк уже устаревших дата-центров, все еще пригодных для эксплуатации с небольшой нагрузкой. В то же время строительство не прекращается, каждый год появляются новые современные центры обработки данных. Это дает свободу маневра и возможность выбора. В корпоративных ЦОД ситуация иная. Там играют роль такие факторы, как наличие резервного дата-центра (который будет «тянуть» все ИТ-сервисы на время модернизации основного ЦОД), наличие свободного места для строительства нового центра обработки данных, возможность временного (или постоянного) переезда в коммерческий ЦОД, возможность организации «окон» в непрерывном производственном процессе. В некоторых случаях потребность в модернизации есть, а возможности нет – тогда приходится использовать то, что имеется. Каждый случай надо рассматривать отдельно.
Как определить, что ЦОД требует модернизации? Какова «скорость устаревания» различных компонентов дата-центра?
Ольга Баранова
В первую очередь надо смотреть на загрузку мощностей, например, на параметр энергоэффективности PUE (соотношение энергопотребления ИТ-инфраструктуры к инженерной) или СКС (излишнее количество кабельных соединений, требующих внедрения современных коммутационных средств). По мере увеличения мощностей ЦОД либо уплотнения установки оборудования могут потребоваться дополнительное охлаждение и энергорезервирование. При этом обычно модернизация выполняется в случае физического износа оборудования либо когда дата-центр перестает отвечать задачам бизнес-модели его оператора.
Дмитрий Хороших
У любого действия должна быть цель, от нее и нужно отталкиваться при планировании модернизации. Если цель – просто снизить затраты на эксплуатацию, то даже замена серверного парка оборудованием, работающим по более современным технологиям, может быть выгодной. Если цель – обеспечить развитие компании за счет построения гибкой и надежной инфраструктуры, то тут требуется более детальный анализ.
Илья Царев
Сигналами к модернизации могут служить:
– исчерпание резервов того или иного ресурса в ЦОД (свободного места, мощностей оборудования, пропускной способности коммуникаций);
– истечение назначенного срока службы основного оборудования;
– снятие того или иного оборудования с производства и в конечном счете с поддержки вендором;
– появление претензий со стороны ИТ-службы предприятия, службы качества, службы безопасности труда о неадекватности конфигурации ЦОД текущим потребностям и стандартам предприятия;
– рост операционных расходов или невозможность их оптимизации в связи с ухудшением доступности запасных частей к устаревшему оборудованию; снижение показателей энергоэффективности, обусловленное увеличением потерь в системах; отсутствие возможности по подключению устаревших устройств к современным системам мониторинга и управления;
– увеличение времени простоя, количества отказов и аварий на площадке.
Чтобы перечисленное не оказалось неожиданностью для пользователей и владельцев ЦОД, хорошей практикой является периодическое проведение аудита инфраструктуры ЦОД с помощью специализированной организации. Такой аудит обеспечит понимание состояния объекта, выявит его «узкие места» и исходные данные к программе модернизации.
Что касается устаревания компонентов инфраструктуры ЦОД, то скорость их износа разная, как в физическом, так и в моральном плане.
Капитальное здание вычислительного центра при заложенных в нем резервах может служить многие десятилетия (наглядный пример – здания ММТС-9, ММТС-10 в Москве, пусть изначально это были и не ВЦ, а телефонные станции). ИБП, чиллеры, кондиционеры рассчитаны на десять лет работы. Однако в зависимости от качества обслуживания и продолжения производства запасных частей такое оборудование может функционировать значительно дольше. Аккумуляторные батареи требуют замены через пять-семь лет работы. Серверные шкафы могли бы служить десятилетиями, но на практике требуют замены после смены поколений вычислительного оборудования. Программно-аппаратные комплексы мониторинга, DCIM с учетом их бурного развития требуют фактически перманентной модернизации.
Евгений Юмагулов
Причин для модернизации, по моему мнению, может быть три: физический износ оборудования, недостаточная мощность ЦОД, высокие накладные расходы, связанные с моральным устареванием систем. Причем в корпоративных и коммерческих ЦОД могут по-разному подходить к решению этих проблем. Например, в корпоративных дата-центрах зачастую могут игнорировать возросшие накладные расходы, если работа ЦОД в целом удовлетворяет технические требования. В качестве примера отмечу, что один из наших первых ЦОД, которому уже более 12 лет и который мы с удовольствием бы уже модернизировали, эксплуатируется без изменений: оборудование и решения были настолько удачными, что заказчик всем доволен. Поэтому, несмотря на некоторые проблемы с запчастями, он не планирует модернизацию данного объекта.
В общем, расчетный срок жизни оборудования инженерной инфраструктуры обычно составляет десять лет. Но это именно расчетный срок, а реальный может быть меньше или больше (как в предыдущем примере) даже применительно к оборудованию одного производителя и одного наименования. Дело не только в качестве изготовления оборудования, но и в условиях его эксплуатации (в первую очередь – в организации планового технического обслуживания и общем уровне культуры эксплуатации).
Без каких компонент ЦОД нельзя назвать современным? Можно ли их добавить в уже существующее решение?
Ольга Баранова
Современным нельзя назвать ЦОД, построенный без учета актуальных стандартов. Модернизировать можно практически любой объект. Вопрос в коммерческой целесообразности и спроса на рынке.
Дмитрий Хороших
В общем случае ответ дать затруднительно. Можно только обозначить векторы развития, которые мы четко видим сегодня. Первый – переход на гиперконвергентные решения, которые позволяют значительно снизить стоимость владения платформами виртуализации. Второй – применение аналитических продуктов для управления нагрузкой в ЦОД. Сегодня сложно, а часто и невозможно держать в голове или «на бумаге» взаимосвязи различных информационных систем в ЦОД. Все меняется слишком быстро. Использование инструментов аналитики позволяет автоматизировать выявление таких взаимосвязей и отслеживание всех изменений. Формируется новая роль – «аналитик ЦОД», который по факту может наконец-то составить в динамике единую и законченную картину того, что происходит в дата-центре. И третий вектор – это решения, без которых невозможна нормальная работа, т. е. различные инструменты автоматизации рутинных операций на всех уровнях: от ИТ-инфраструктуры до миграции приложений между различными облаками.
Илья Царев
Есть ряд моделей «осовременивания» ЦОД. Например, Maturity Model, DCMM от Green Grid, а также некоторые положения европейского Code of Conduct в области ЦОД. Современный дата-центр должен осуществлять автоматизированный учет своих ресурсов, быть оснащен развитыми автоматизированными системами мониторинга и управления инфраструктурой, комплексом DCIM. Должны быть развернуты современные противопожарные системы (например, система раннего предупреждения о возгорании). Должны быть приняты меры по энергоэффективности. В последнем случае следует обратить внимание на систему холодоснабжения. До сих пор нередко встречаются объекты, чиллерная система которых рассчитана и настроена на работу на «допотопных» температурных уставках, основанных на нормах комфортного кондиционирования, а не на требованиях стандартов по ЦОД.
Системы автоматизированного мониторинга и управления, как правило, без особых проблем можно внедрить (либо расширить их функционал) на работающем объекте. Также в некоторых случаях относительно легко улучшить показатели энергоэффективности объекта.
Евгений Юмагулов
Когда у меня спрашивают, чем отличается корпоративный ЦОД от серверной, я отвечаю шуткой, в которой есть большая доля истины. Если сделано все в комплексе и взаимоувязано (т. е. реализованы все необходимые системы, и дата-центр построен так, что его можно правильно эксплуатировать и обслуживать), то это ЦОД (даже если в нем всего одна стойка). А если хотя бы одной необходимой системы нет или объект построен с нарушением основных правил, то это уже серверная. Хорошо, когда серверная может вырасти до дата-центра, но зачастую их инфраструктура создается по принципу «так исторически сложилось», ее развитие не планируется, как и проведение работ по обслуживанию, и в результате внести в нее новую инженерную систему просто нереально.
На мой взгляд, если ЦОД реализован правильно и удовлетворяет потребности заказчика, то он современен для него, а всех прочих данный вопрос не должен волновать.
Как обеспечить сохранение инвестиций при модернизации ЦОД? Какие технологии предлагают разработчики для продления жизни своих продуктов?
Ольга Баранова
Для сохранения инвестиций строить и модернизировать ЦОД надо с учетом востребованности услуг дата-центра на рынке. Многие вендоры инженерной и ИТ-инфраструктуры для центров обработки данных предлагают модульные решения, которые позволяют нарастить мощность оборудования, не меняя его целиком. Например, количество оптических портов можно увеличить, просто заменив кассеты с портами. Такие же решения есть и для многих других инфраструктурных компонентов: систем охлаждения, ИБП, серверов. По мере развития инновационных технологий мониторинга инфраструктуры и внедрения предиктивной аналитики можно будет заранее предугадывать поломки оборудования, планируя его техническое обслуживание без ущерба для работы ЦОД.
Илья Царев
Проводимая модернизация инфраструктуры ЦОД в итоге должны обеспечивать рост его функциональных возможностей, уменьшение времени простоя, а также оптимизацию операционных расходов и полноценное использование его ресурсов. Автоматизация либо оптимизация процессов управления инфраструктурой позволяет повысить качество эксплуатации, уменьшить потери времени на проводимые операции, сократить время реакции на инциденты, улучшить учет и использование существующих ресурсов. Модернизация в части энергоэффективности в некоторых случаях окупается очень быстро на прямой экономии на покупке энергии.
Что касается продления жизненного цикла оборудования инфраструктуры ЦОД, стоит обратить внимание на следующее:
– дальнейшее внедрение самодиагностики оборудования для предотвращения аварий и своевременное оповещение эксплуатации и сервисной службы о состоянии устройств (системы контроля аккумуляторных массивов, самодиагностика ИБП и др.);
– внедрение новых технологий, направленных на значительное увеличение срока службы даже в сложных условиях (переход со свинцово-кислотных АКБ на литий-ионные обеспечивает увеличение ожидаемого срока службы минимум в два раза даже в условиях повышенных температур и большого количества циклов заряда-разряда);
– появление систем предикции аварий и превентивного сервисного обслуживания по косвенным признакам состояния оборудования на основе сбора массовой статистики с устройств, подключаемых к облачным сервисам вендоров, и последних достижений в области технологий Big Data;
– программы ретрофита с частичной заменой и обновлением компонентов устройств;
– совершенствование служб сервиса и расширение услуг по аудиту существующих площадок.
Евгений Юмагулов
Под лозунгом «сохранение инвестиций» было продано немало дорогостоящих решений, но, как показывает практика, этот лозунг был скомпрометирован самими производителями оборудования. Очень редко, когда спустя десять лет после строительства ЦОД уже нельзя приобрести запчасти или модули для оборудования, или оборудование для параллельной работы существующих систем. У меня были проекты, когда запроектированные очереди на развитие не «выстреливали» именно по этой причине. Есть определенные возможности и программы у ряда вендоров, например, программа по техническому перевооружению модульных ИБП, когда от исходного устройства остаются только корпус и силовые шины. Но это скорее исключение из правил.
С ИТ-оборудованием ситуация еще хуже. В одном из крупных и длительных проектов мы попали в ситуацию, когда после нескольких смен продуктовой линейки не могли подключить новое оборудование к старой системе мониторинга, а если ее обновить, то не будет поддерживаться то оборудование, которое уже было установлено на объектах первой очереди.
Насколько требования государства подталкивают к проведению модернизации ЦОД? Предусмотрены ли для российских операторов ЦОД возможности по субсидированию модернизации?
Илья Царев
Модернизацию могло бы стимулировать появление долгожданных национальных стандартов в области дата-центров. В частности, стандарта на классификацию ЦОД, который бы ограничил размещение ответственных государственных, региональных и муниципальных автоматизированных систем на неадекватных устаревших площадках.
Что касается возможностей по субсидированию модернизации, то здесь можно говорить лишь о косвенных методах, связанных с налогообложением и взаимодействием оператора ЦОД и поставщиков энергоресурсов. При модернизации в ЦОД системы управления энергетическим комплексом объекта, внедрении современных систем бесперебойного питания с функцией peak shaving такой объект теоретически мог бы участвовать в субсидируемых программах энергосетевых компаний по гарантированному отбору мощности на сутки вперед, а также в программе снижения потребления от сети в часы пик по команде диспетчера сетевого оператора.