Новый технологический комплекс для интеллектуальной системной настройки Gen10 серверов.
Александр Головченко
Менеджер по серверным продуктам HPE
Компания Hewlett Packard Enterprise
В сегодняшних условиях динамически изменяемой бизнес-ситуации, появления новых возможностей и рынков, когда необходимо успевать отвечать на внезапно возникающие вызовы, вопрос гибкости ИТ становится все более актуальным для руководителей отделов информационных технологий. Необходимо использовать самые эффективные технологии и решения, однако обычно это означает, что новые системы оказываются достаточно сложными и до получения от них отдачи проходит больше времени, чем планировалось.
Заметной проблемой при запуске вновь приобретенной серверной инфраструктуры у многих заказчиков являются накладные расходы — немало ручной работы, которая может иногда требовать наличия специальных навыков. Компания HPE прилагает большие усилия к тому, чтобы максимально автоматизировать это процесс, позволяя обычным ИТ-специалистам теперь выполнять задачи, которые ранее могли выполнять только эксперты, тем самым освобождая человеческие ресурсы и ускоряя ввод решения в эксплуатацию.
Серверы HPE десятого поколения содержат множество технологических новинок, причем некоторые из них являются уникальными, и не имеют аналогов в индустрии. Вы, наверное, уже что-то читали про HPE Silicon Root of Trust, HPE Scalable Persistent Memory, HPE Intelligent System Tuning, HPE SmartMemory Fast Fault Tolerance, и о других технологиях и решениях.
В этой статье мы хотели бы подробнее рассказать о целом технологическом комплексе, разработанном Hewlett Packard Enterprise для Gen10 серверов в тесном сотрудничестве с компанией Intel. Он обеспечивает интеллектуальную настройку сервера под исполняемые им задачи, помогает добиться значительного повышения производительности, реальной экономии, а также создает более эффективную серверную среду. HPE Intelligent System Tuning (IST) — это новый набор революционных возможностей, которые обеспечивают более высокий уровень продуктивности, гибкости и управляемости для вычислительных ресурсов вашего сервера HPE.
Данный комплекс базируется на многолетнем опыте, накопленном HPE, и включает в себя три инновационные технологии, которые вместе обеспечивают многократное повышение производительности:
– Workload Matching (профили нагрузки) автоматически подбирает наилучшие настройки внутренних компонентов сервера в соответствии с конкретными требованиями рабочей задачи;
– Jitter Smoothing (сглаживание дрожания) выравнивает и компенсирует колебания частоты в режиме Turbo Boost, сокращая время задержки и делая показатели производительности более определенными и прогнозируемыми;
– Core Boosting (ускорение ядер) максимально повышает производительность всех процессорных ядер, идеальна для виртуализированных сред, высокопроизводительных вычислительных систем и больших баз данных.
Поддержка IST реализована в наиболее популярных серверах HPE десятого поколения - ProLiant, Synergy, Apollo, а также в конвергентной системе HPE ConvergedSystem 500 для SAP HANA, построенной на базе серверов DL560 Gen10.
Нередко подготовительные процессы ИТ-проекта затягиваются настольно, что купленный новый сервер вводится в эксплуатацию с недопустимой поспешностью. После проверки корректной работоспособности аппаратной части (и в лучшем случае – после обновления firmware), сразу устанавливается гипервизор и/или операционная система, приложения, и сервер отдается под продуктивную нагрузку.
В то же время многим серверным экспертам известно, что, проведя дополнительно некоторое время за выполнением тонких настроек параметров работы процессора, памяти, питания, контроллеров, дисковой и других подсистем, можно получить достаточно заметный прирост производительности сервера, для некоторых нагрузок он может быть весьма существенным.
Мы предлагаем всем потребителям серверов HPE при первичной инсталляции (и в дальнейшем при смене роли сервера) бесплатно воспользоваться интегрированным в систему управления удобным интерфейсом для выбора предварительно настроенного профиля нагрузки сервера, что обеспечит автоматическое применение настроек BIOS и получения максимальной эффективности использования ресурсов серверной системы.
Сегодня в рамках технологии HPE Workload Matching в серверах HPE предлагаются 15 предварительно настроенных профилей, среди которых есть серверы виртуализации, баз данных, Web, бизнес-аналитики, а также профили, оптимизированные под приложения, требующих наибольшей пропускной способности или наименьшей латентности, наивысшей вычислительной производительности или энергоэффективности, максимального ввода-вывода или для бизнес-критических задач, под VDI или HPC, а также конфигурируемый вручную профиль.
В соответствии с выбранным профилем автоматически устанавливаются более 30 параметров, таких как включение/выключение и конфигурирование Intel Turbo Boost, Hyper Threading, SR-IOV, VT-x, VT-D, Channel Interleaving, Power Regulator, Memory Patrol Scrubbing и многие другие.
Не обладая экспертными знаниями самостоятельно выполнить такую оптимизацию за короткое время было бы затруднительно. Кроме того, при отсутствии достаточного опыта можно внести дисбаланс в настройки и наоборот, понизить производительность.
Благодаря использованию Workload Matching можно не только увеличить производительность сервера до 9% (по результатам внутреннего тестирования HPE, в зависимости от типа используемой нагрузки и приложения), но и сохранить многие часы работы администратора, которые надо было бы ему потратить на выявления зависимости изменения производительности сервера от установленных им параметров, а также избежать ошибок, чреватых снижением продуктивности.
Возможность использовать технологии Workload Matching для предварительной настройки сервера под используемое приложение является интегрированной частью базовой системы управления iLO Standard и не требует приобретения расширенной лицензии.
Одним из способов увеличения производительности сервера (с уже имеющимися установленными компонентами, т.е. без апгрейда и/или приобретения каких-либо “ускорителей”) является поднятие рабочей тактовой частоты процессора. Поскольку мы говорим о сервере, а не о домашнем игровом ПК, то нештатный разгон (aka overclocking) мы, конечно, не рассматриваем. Речь идет о технологии, реализованной почти в каждом процессоре Xeon (кроме самых младших моделей) — Intel Turbo Boost. Она позволяет автоматически увеличивать тактовую частоту процессора свыше номинальной в соответствии с требованиями приложения, не превышая при этом допустимую расчетную мощность процессора.
При этом почему-то многие считают, что процессор в этом режиме всегда работает на “турбо” частоте. Однако это не так — Intel особо подчеркивает, что эта технология предназначена для динамического повышения производительности процессора при пиковых нагрузках, и ее использование (а, следовательно, и показатели рабочей частоты процессора) и время, проводимое процессором под управлением этой технологии, зависят от рабочей нагрузки и операционной среды.
И что же происходит в моменты, когда максимальной отдачи от процессора не требуется? Частота падает. И снова поднимается, когда у приложений возникает необходимость в дополнительных процессорных ресурсах. И снова падает, когда приложение ресурсы освобождает. Подобная “тряска”, или “дрожание” (Jitter), возникающая при резком изменении частоты, вызывает большой рост задержек обращения к разным уровням памяти.
Получается, что в отдельных случаях, связанных с чувствительными к задержкам приложениям, Intel Turbo Boost не улучшает ситуацию, а наоборот. Однако у HPE есть решение, которое поможет использовать на наших серверах Turbo Boost и получать и прирост производительности без увеличения латентности. Эта технология называется HPE Jitter Smoothing. Она настолько эффективна, что компания HPE подала заявку на регистрацию патента.
Эффективность работы технологии Jitter Smoothing от HPE можно сравнить с ездой по городу на автомобиле с интеллектуальным управлением и опытным водителем. Вы, наверное, обращали внимание на то, что часто в потоке транспорта кто-то из водителей, выжимая все лошадиные силы из машины, пытается от перекрестка к перекрестку проскочить с максимально допустимой (а иногда и более) скоростью, но все равно упирается в запрещающий сигнал светофора и очередь машин перед ним, и вынужден резко тормозить, чтобы потом снова резко разгоняться. Примечательно, что нередко такой водитель добирается к пункту назначения фактически за то же время, что и водитель, который заранее увидев впереди запрещающий сигнал светофора, двигался оставшееся до перекрестка расстояние не используя торможение - “накатом”, и достигал точки, в которой надо было бы тормозить, как раз в момент включения разрешающего сигнала, поэтому начинал разгон не рывком с места, а плавно, без задержек, имея достаточную начальную скорость.
Так и алгоритм Jitter Smoothing находит ту оптимальную рабочую частоту процессора, на которой уже есть существенный рост производительности, но пока еще не начинается “дрожание”, и удерживает эту частоту постоянной, не допуская внесения задержек в работе процессора из-за колебаний частоты. Вы можете назвать это “адаптивным круиз-контролем” от HPE.
С технологией Jitter Smoothing сервер HPE получает предсказуемо высокую производительность — более высокую чем при номинальной частоте процессора, а иногда, например, на Java-приложениях, даже выше, чем в турборежиме. Рост частоты может достигать от 5% до 12%, при низкой латентности и детерминированной производительности.
Конфигурирование данной технологии может быть динамическим, выполняться мажет локально или удаленно. Также для конфигурирования может использоваться RESTful API.
Для того, чтобы воспользоваться Jitter Smoothing на сервере HPE должна быть активирована лицензия на расширенную систему управления – iLO Advanced или более высокого уровня. Эта лицензия также может входить в состав ПО HPE Insight Control или HPE OneView Advanced.
Третья технология, входящая в состав IST — это HPE Core Boosting. Она уже сегодня доступна в некоторых серверах HPE десятого поколения — в стоечном ProLiant DL380 Gen10 и ProLiant XL230k Gen10 из состава системы Apollo 6000. В ближайшее время (зимой 2017-2018 г.г.) список поддерживающих эту технологию серверов и процессоров будет расширен.
Эта технология, разработанная совместно HPE и Intel, обеспечивает повышение рабочей частоты активных ядер процессоров Intel Xeon семейства Scalable выше обычной для режима Turbo Boost.
И чем большее количество ядер будет задействовано, тем выше будет разница в производительности процессора в режиме только Turbo Boost и при использовании Core Boosting.
На первой диаграмме видно, что 16-ядерный процессор Intel Xeon Gold 6143 со всеми активными ядрами в режиме Core Boosting будет работать быстрее на 18%, чем просто в турборежиме, и на 39% быстрее, чем на обычной рабочей частоте. Конечно, рост производительности всего сервера в целом будет немного скромнее, поскольку все остальные компоненты сервера и характеристики их производительности останутся неизменными.
Вторая диаграмма демонстрирует, что в режиме Core Boosting этот всего лишь 16-ядерный процессор может производить почти столько же операций, как и топовые процессоры Intel Xeon Platinum 8180 (28 ядер и 2.5GHz) и Platinum 8168 (24 ядра и 2.7GHz) на обычной рабочей частоте, опережая все остальные модели процессоров, и это при несопоставимо низкой по сравнению с ними цене.
Стоит сразу отметить, что HPE Core Boosting — ЭТО НЕ РАЗГОН! Это — использование штатных возможностей специально разработанных эксклюзивных 8-, 16- и 24-ядерных моделей процессоров Intel. Режимы их работы не будут выходить за рамки допустимого для конкретной модели процессора, и, следовательно, все гарантийные обязательства, как Intel, так и HPE, будут неукоснительно соблюдаться. Это стало возможным благодаря глубокой проработке компанией Hewlett Packard Enterprise своих систем в плане электропитания, охлаждения, термального мониторинга компонентов и внутреннего пространства сервера, а также его встроенного программного обеспечения.
В результате производительность сервера весьма заметно возрастает, и полученным результатом можно воспользоваться как просто для увеличения нагрузки на сервер, так и для значительной экономии на стоимости программного обеспечения, которое лицензируется по-ядерно.
С одной стороны, сервер HPE ProLiant DL380 Gen10 с двумя процессорами Intel Xeon Gold 6143 (16 ядер и 2.8GHz) в режиме Core Boosting обеспечивает работу на 10% больше виртуальных машин, чем такой же точно сервер в идентичной конфигурации, с обычными процессорами Gold 6142, имеющими практически такие же характеристики – 16 ядер и 2.6GHz. Это подтверждено тестированием с использованием бенчмарка VMmark V2.5.2. Оба результата опубликованы на сайте VMware.
Также Core Boosting при правильном планировании конфигурации обеспечивает и снижение первоначальных расходов. Например, такой сервер обеспечивает вдвое меньшую стоимость решения в расчете на виртуальную машину по сравнению с таким же сервером, но оснащенным топовыми процессорами Intel Xeon Platinum 8180.
С другой стороны, в результате применения Core Boosting можно добиться от сервера такого же уровня производительности, как и у оснащенного процессорами со значительно большим количеством ядер. В результате можно получить огромную экономию на, например, стоимости ПО БД, выполняя тот же объем работы за то же время, но на намного меньшем числе ядер. А это прямая экономия денег, которая может достигать десятков и даже сотен тысяч долларов на один сервер.
По соглашению с компанией Intel, технология Core Boosting доступна эксклюзивно только в серверах HPE (на некоторых моделях) со специальными моделями процессоров Intel и активированной лицензией iLO Advanced, или выше. Также требуется установка в корпус сервера или серверное шасси дополнительных вентиляторов или опциональной высокопроизводительной системы охлаждения.
Технологии Jitter Smoothing и Core Boosting можно использовать одновременно. Перед их применением на сервере с приложениями, использующими AVX и не-AVX наборы инструкций, следует дополнительно изучить техническое описание по Intelligent System Tuning, которое можно найти на сайте HPE. В этом же документе имеются инструкции по взаимодействию с ОС, если она управляет С-состояниями процессора.
Как видите, возможности, предоставляемые технологическим комплексом HPE Intelligent System Tuning, сразу интегрированы в iLO5, систему управления серверами HPE десятого поколения, и ими очень просто воспользоваться. Поскольку расширенные лицензии iLO Advanced с серверами HPE покупаются очень часто, а в корпоративной IT-среде – почти всегда, то на многих из них уже сегодня можно задействовать не только Workload Matching, но и Jitter Smoothing, а на серверах с процессорами, поддерживающими Core Boosting – также и эту технологию. Не воспользоваться ими – это значит сознательно затормозить сервер HPE до средних по индустрии показателей, что точно не является правильным решением.
Кроме того, даже те из вас, кто по каким-то причинам не купил iLO Advanced с сервером HPE сразу, могут на протяжении двух месяцев протестировать возможности Jitter Smoothing в составе интеллектуального тюнинга системы, в том числе под продуктивной нагрузкой. Для этого необходимо на сайте HPE бесплатную получить и активировать 60-дневную ознакомительную (Trial) лицензию. Она, кроме данных возможностей, также продемонстрирует как в корпоративной среде надо полностью раскрывать потенциал всех функций управления, необходимых для простой и удобной настройки, оптимизации и поддержки серверов. Благодаря удобству полного набора функций для удаленной работы с компьютера или с мобильного устройства, HPE iLO Advanced позволяет серверным администраторам выполнять большее число задач за меньшее время и с меньшими усилиями.
Подробнее ознакомиться с HPE Intelligent System Tuning можно на сайте hpe.com/info/ist. Обратитесь в ваше локальное представительство компании Hewlett Packard Enterprise или к ее официальным партнерам, чтобы узнать о том, как можно использовать это решение для настройки ваших серверов HPE Gen10. Кроме того, наши тюнинг-эксперты могут предложить вам широкий спектр дополнительных услуг HPE Performance Services (консалтинг, мониторинг, устранение “узких мест” и тюнинг) как для отдельных серверов, так и для комплексных решений, включающих системы хранения данных, LAN и SAN, программные продукты и т.п.
