12 Replies Latest reply on Apr 27, 2020 7:58 AM by overself

    Медленная работа дисков ESXI 6.5 HP Smartarray P212

    overself Novice

      Всем доброе время.

       

      Несколько суток бьюсь как рыба об лед, не могу победить работу дисков. Скорость записи около 10Мб/сек.

       

      Сервер ProLiant DL180 G6

      RAID HP Smartarray P212

      4 SATA диска по 2Тб в 10 RAID

       

      Vmware 6.5.0 Update 1 (Build 5969303)

       

      На виртуалку ставлю Windows Server 2016.

      Скорость записи в ней 10Мб/с.

       

      В bios включен режим AHCI, но я переключал разные - разницы не заметил, может потому, что работают диски через RAID. Однако же когда я 1 раз включил Drive Write Cache Enable - тест диска показал в Windows Server аж 86Мб/c. После перезагрузки этой же виртуалки, все вернулось на круги своя.

       

      На ESXI только одна виртуальная машина.

       

      71.JPG

      Хотел протестировать скорость запись с помощью hdparm, но этой комманды у меня в ESXI нет. Можно как-то добавить?

       

      Драйвер контроллера я обновил, но это тоже не помогло.

       

      Было:

      [root@esxi5:~] vmkload_mod -s nhpsa | grep Version

      Version: 2.0.16-1OEM.650.0.0.4598673

       

       

      Стало:

      [root@esxi5:~] vmkload_mod -s nhpsa | grep Version

      Version: 2.0.44-1OEM.650.0.0.4598673

       

      Что можно посоветовать тут? Куда копать? В настройках RAID контроллера ничего особенного нет.

       

      atto 3.jpg

       

      К примеру, когда я пытаюсь с этой виртуальной машины слить бэкап другой виртуалки, происходит завтык. Сначала скорость нормальная, потом падает до 5-10Мб/с, сжатие в Veeam отключено при этом.

       

      1234.JPG

        • 1. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
          Finikiez Master
          vExpert

          Сервер ProLiant DL180 G6

          Этот сервер не сертифицирован с ESXi 6.0

           

          У вашего рейда кэш и батарейка к нему есть? Без них все в целом крайне грустно может быть к тому же с SATA дисками.

           

          К тому же для p212 судя по HCL сертифицирован только vmklnux драйвер (hpsa), рекомендую попробовать тесты с ним вместо native драйвера (nhpsa)

          Как отключить native драйвер VMware Knowledge Base

          • 2. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
            overself Novice

            Доброе время.

             

            hpsa драйвера в системе нет. Отключив nhpsa, понятное дело отвалился RAID.

             

            345.JPG

             

            Батарейка дейтвительно севшая на контроллере, но у меня есть точно такой-же сервер с рабочей батарейкой, скорость там тоже такая же. :/

             

            [root@esxi5:/var/log/vmware] esxcli software vib list | grep hp

            hponcfg                        6.0.0.5.0-1.5.2494585                HPE              PartnerSupported  2002-01-01

            scsi-hpdsa                     5.5.0.54-1OEM.550.0.0.1331820        HPE              PartnerSupported  2002-01-01

            scsi-hpvsa                     5.5.0-88OEM.550.0.0.1331820          Hewlett-Packard  PartnerSupported  2020-04-13

            nhpsa                          2.0.44-1OEM.650.0.0.4598673          Microsemi        VMwareCertified   2020-04-13

            ata-pata-hpt3x2n               0.3.4-3vmw.650.1.26.5969303          VMW              VMwareCertified   2002-01-01

            lsu-hp-hpsa-plugin             2.0.0-5vmw.650.1.26.5969303          VMware           VMwareCertified   2002-01-01

             

            Нашел scsi-hpsa, пытаюсь установить:

             

            esxcli software vib install -v file:scsi-hpsa_6.0.0.120-1OEM.600.0.0.2494585.vib --force --no-sig-check --maintenance-mode

            [StatelessError]

            The transaction is not supported: VIB HPE_bootbank_scsi-hpsa_6.0.0.120-1OEM.600.0.0.2494585 cannot be live installed.

            Please refer to the log file for more details.

            • 3. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
              overself Novice

              Ура! В настройках HP Smart Array P212 контроллера отключил батарейку, ввел серийный номер лицензии(по ходу она просто дает возможность создавать 6RAID), не знаю за что отвечающей, найденной на просторах в интернете, и о чудо, полетело как самолет...

              Не знаю правда, что конкретно сработало, может кому-то поможет.

               

              ex.JPGex2.JPG

              • 4. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                Finikiez Master
                vExpert

                А вы точно батарейку отключили?

                Какие сейчас настройки кэширования?

                 

                Включенная и работающая батарейкка дает кэш на запись. Возможно вы его просто включили?

                • 5. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                  overself Novice

                  У меня 2 сервера, я сделал все тоже самое на втором, а он точно такой же, и там скорость не увеличилась.

                  Я уже с ума схожу, с чем это может быть связано.

                   

                  a1.JPG

                  a2.JPG

                  Это включит запись в кэш независимо от состояния заряда батареи (не рекомендуется).

                  Включение этой опции приведет к потере данных в случае непредвиденного отключения электричества.

                  Т.е. я получается его включил.

                   

                  А почему не реккомендуется?

                  a3.JPGa4.JPG

                   

                  Итак на этом сервере севшая батарейка, я включаю запись в кэш вне зависимости от того заряжена ли она, и скорость растет в разы.

                  Делаю тоже самое на сервере с рабочей батарейкой, и ничего не меняется от слова совсем.

                   

                  Потому я вернул пока эту опцию назад на втором сервере. Кэш будет работать только когда батарейка заряжена. Батарейка заряжена, но скорости не прибавилось. Значит дело не в кэше raid?

                   

                  a5.JPG

                  Тут я начал думать, что я такого еще делал. Я отключал драйвер esxcli system module set --enabled=true --module="nhpsa"

                  После этой процедуры отвалился диск, я попытался включить - уже не включалось. Ошибка была похожа как на переполнение корневого раздела, я плюнул и переустановил vmware поверх существующей, подтянул виртуалки и после этого все полетело.

                   

                  Я думаю ну хорошо, может и там что-то такое, поверх переустановил vmware и на втором сервере, но ничего не поменялось, как была медленная там запись, так и осталась. Чтение при этом в порядке.

                   

                  Так что я пока сижу в растерянности и продолжаю думать, что это за паранормальное явление.

                  • 6. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                    overself Novice

                    Конфигурация RAID где батарейка села, и все летает. И там и там RAID 1+0.

                    without battary.JPG

                     

                    Второй - в конфигурации, видно, что все ок, но скорость меньше.

                     

                    with battary.JPG

                     

                    Может проблема в самих дисках?

                     

                    serv2.JPG

                    • 7. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                      Finikiez Master
                      vExpert

                      Включать кэш на запись без работающей батарейки черевато потерей\повреждением данных при внезапном выключении оборудования, о чем говорят в предупреждении.

                       

                      В тему драйверов: вы из кастомизированного образа HPE проводите установку или из ванильного ESXi?

                      После отключения нативного драйвера диск отвалился, потому что по каким-то причинам у вас не установлен обычный hpsa драйвер. Найти и скачать его можно через hcl vmware. Если нужно, могу помочь со ссылкой.

                       

                      Рекомендую проверить логи работы оборудования через iLO, а также проверить и принеобходимости произвести обновление всех прошивок, включая диски.

                      • 8. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                        overself Novice

                        Да, я уже заказал батарейку и отключил эту опцию, скорость на этом сервере приемлемая стала. Скорость упала снова до 5-8Мб/с. Жду батарейку.

                        Ставлю из VMware-ESXi-6.5.0-Update1-5969303-HPE-650.U1.10.1.0.14-Jul2017. Остальные которые ставил, какие то танцы с граблями нужно было проводить, то одну дырку закройте, то статистика не выводится, устал уже танцевать.

                         

                        Не знаю, почему на втором сервере при прочих равных условиях скорость медленнее при включенном кэшэ и нормальной батарейке. Думаю все же дело не в драйверах, версии драйвера и там и там одинаковые, там полетело, а там средние показатели.

                         

                        Грешу наверное на диски.

                        • 9. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                          overself Novice

                          Итак батарейку поставил. Скорость на втором сервере осталась на должном уровне до 300Мб/c на запись.

                          Смигрировал машины на него и взялся за старый. Снес vmware, установил windows 2016 Server, протестировал скорость, вот что она показала.

                           

                          windows server clear.jpg

                          На vmware скорость была в разы хуже. Что я сделал сначала - поставил последнюю прошивку P212 контроллера 6.64, после установки vmware она ложилась, зависала, помогал только hard reset, после перезагрузки raid ругался.

                           

                          Откатился на версию ниже 6.4 - таже история. Так как процедура для меня длинная, я через ILO это делал, плюнул и поставил прошивку 5.14, которая наверняка работает на втором сервере. И... кстати... прошивка на нем была 2.5! Может потому и работала так криво и скорость запсиси была низкая.

                           

                          Поставил vmware на уже 5.14 версию RAID и все полетело. Теперь оба сервера живут хорошо. Можно конечно попробовать еще обновиться, но я устал уже от этих аргрейдов, работает не трогай - вот этот выбор я пока сделал для себя, тем более, что скорость записи возросла в десятки раз в сравнении с тем, что было.

                           

                          atto p212 after update 5.14.JPG

                          • 10. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                            overself Novice

                            Миграция между серверами теперь ограничена только Гигабитной сетью.

                            migration.JPG

                            • 11. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                              Finikiez Master
                              vExpert

                              Про прошивки вам уже советовал полторы недели назад

                               

                              "Рекомендую проверить логи работы оборудования через iLO, а также проверить и при необходимости произвести обновление всех прошивок, включая диски."

                               

                              Очень частая проблема в сочетании драйвер\прошивка.

                              • 12. Re: Медленная работа дисков ESXI 6.5 HP Smartarray P212
                                overself Novice

                                Да,не было  возможности проверять, так как ждал батарейку. С прошивкой намучался, у HP для P212 туговатая система, прошивку можно ставить из под Windows или Linux и приходилось постоянно ставить Windows Server. (другого под рукой ничего не было - впустую потраченное время).

                                 

                                Грустно то, что с более новой прошивкой ESXI виснет, т.е. получается тот софт заточен под то железо. Можно было бы попробовать подняться на версию выше 5.14 но испытывать судьбу больше не хочется. :-)