Резервное копирование и восстановление конфигурации сервера VMWare ESXi | Windows для системных администраторов

: vsphere data protection: новое встроенное средство резервного копирования

1.1 Установка клиента Bacula Client в каждой гостевой ОС

Первая стратегия не предполагает использования плагина Bacula Enterprise Edition для vSphere. Вместо этого на каждую ВМ устанавливается Bacula Enterprise File Daemon, как если бы эти ВМ были обычными физическими серверами. С целью оптимизации потоков ввода/вывода на серверах VMware ESX/ESXi используются задачи Schedule, Priority и Maximum Concurrent Jobs для распределения задач резервного копирования в окне резервного копирования.

Установка Bacula Enterprise File Daemon на каждую ВМ позволяет управлять виртуальными серверами, как если бы они были физическими серверами, а также использовать все функции ПО Bacula Enterprise, такие как:

• Быстрое восстановление отдельных файлов
• Вычисление контрольной суммы для отдельных файлов с целью обнаружения вирусов и программ-шпионов
• Проверка задачи
• Исключение файла/каталогов (например файлов подкачки и временных файлов)
• Сжатие на уровне файлов и т.д.

1.2 Резервное копирование VMware с помощью плагина Bacula Enterprise Edition для vSphere

В случае стратегии создания бэкапа образа виртуальной машины VMware, плагин Bacula Enterprise Edition для vSphere сохраняет диски Клиента в качестве «сырых» образов в контексте VMware/vSphere. Для того чтобы реализовать данную стратегию не нужно устанавливать Bacula File daemon на каждой гостевой машине.

Плагин Bacula для vSphere свяжется с хостом VMware ESXi для считывания и сохранения содержимого дисков ВМ через NBD или SAN. При непосредственном доступе к образу vmdk, сохраненному в хранилище данных, ПО Bacula не придется прогонять через файловую систему Клиента для открытия/чтения/закрытия файлов.

Соответственно ПО будет потреблять меньше ресурсов ESXi инфраструктуры, чем если бы создание бэкапа VMware происходило на каждой гостевой машине. В то же время ПО Bacula также прочитает и сохранит бесполезные данные, например, файлы подкачки и временные интернет-файлы.

Если плагин vSphere для создания бэкапа использует метод транспортировки данных через NBD, данные передаются поточно на сервер для хранения резервных копий через порт VMkernel системы ESXi.

Плагин Bacula Enterprise для vSphere также может использовать инфраструктуру сети SAN в целях снижения нагрузки на сервера ESXi. Однако, несмотря на потребление меньшего объема ресурсов на сервере ESXi, данные по-прежнему должны будут считываться с ваших дисков, что может привести к конфликту при попытке одновременной передачи/приема данных.

При использовании блочных дифференциальных методов, таких, которые используются плагином vSphere, необходимо обеспечить доступность всех инкрементальных бэкапов для восстановления. Если в момент восстановления не будет хватать хотя бы одной задачи по созданию бэкапа, плагин Bacula не сможет воссоздать корректный образ.

Использование дифференциальных бэкапов позволяет сократить число задач, необходимых для восстановления, тем самым, снижая риски возможных потерь данных. Чтобы не допустить потери важных задач по созданию инкрементальных бэкапов, периоды хранения Volume retention должны быть достаточно большими, чтобы восстановить все данные.

1.3 Сравнение стратегий резервного копирования VMware

Таблица 1. Сравнение стратегий создания резервных копий

Процедура восстановления отдельных файлов из бэкапа машин VMware, созданного с помощью плагина для vSphere, описана в разделе 2 на странице 27.

2 Установка

Документация с детальным описанием процесса установки доступна по запросу.

2.1 Конфигурирование

Параметр Plugin Directory утилиты File Daemon, хранящийся в /opt/bacula/etc/bacula-fd.conf, должен указывать на то, где установлен плагин vsphere-fd.so. Как правило, по умолчанию плагин Bacula устанавливается в каталог: /opt/bacula/plugins

Утилита File daemon должна иметь прямой доступ к сети vSphere или доступ через SAN. Проверить подключение можно с помощью программы telnet.
Сетевой доступ vSphere к ESX или серверу vCenter необходимо сконфигурировать в /opt/bacula/etc/vsphere_global.conf.

3.2 Восстановление

ПО Bacula Enterprise позволяет восстанавливать любой файл (bvmdk, ovf, …) на локальных дисках. После этого вы можете локально смонтировать образ с помощью инструмента VMWare vmware-mount tool или qemu-nbd и выполнить восстановление на уровне файлов.

Также возможно скопировать «сырой» образ на любое устройство или смонтировать его и восстановить файлы напрямую.

Восстановление на новой гостевой ВМ

Если вы запускаете процедуру восстановления вашей ВМ с помощью параметра where=/, и выбираете все файлы в каталоге vm, плагин для vSphere постарается восстановить ваши диски на новой ВМ, созданной во время восстановления с имеющимися атрибутами (диски, контроллер, тип CPU, …).

В настоящее время режим расширенной передачи данных через сеть SAN не поддерживается для выполнения восстановления. Плагин для vSphere использует передачу данных через NBD.

ESX хост и хранилище данных, которые будут использоваться для восстановления гостевой ВМ, будут определены автоматически. Однако вы можете изменить местоназначение, выбранное по умолчанию, изменив параметры восстановления плагина через меню bconsole:

Либо вы можете воспользоваться интерфейсом BWeb (смотрите рисунок 6)

Примите во внимание тот факт, что вам необходимо сконфигурировать по меньшей мере одну ВМ на вашем ESX сервере, чтобы автоматически восстановить ВМ с помощью Bacula. В дальнейшем мы планируем устранить данное ограничение.

Начиная с версии Bacula Enterprise 6.2.4, плагин для vSphere поддерживает создание автоматической топологии сети. Таким образом, если ваш ESX хост не предоставляет правильной конфигурации vSwitch для ВМ, плагин Bacula должен будет повторно создать все настройки сети во время восстановления.

Начиная с версии Bacula Enterprise 8.2.1, плагин для vSphere может проверять наличие доступного объема памяти в хранилище Datastore во время восстановления. Пользователь может запретить увеличение резервной области и зарезервировать минимальный объем памяти в хранилище. Эти два параметра можно настроить в файле vsphere_global.conf и можно перезаписать из меню восстановления.

[vsphere]

password = xxxx

server = 192.168.0.68

4 Приостановка гостевой ВМ

Чтобы правильно приостановить работу гостевой ВМ, необходимо установить и обновить на ВМ Linux/Windows Virtual Machine инструменты VMware Tools.

Команда плагина quiesce_host=Try/yes/no позволяет контролировать процедуру остановки гостевых ВМ с помощью vSphere перед захватом снапшота. По умолчанию используется значение try. В данном режиме плагин попытается остановить гостевую ВМ при создании снапшота, и, если создание снапшота закончится неудачно, плагин попытается повторно создать снапшот, не останавливая гостевую ВМ. Первая попытка будет занесена в журнал задач в качестве ошибки.

Более подробную информацию о конкретном сообщении об ошибке вы найдете в журнале консоли vSphere.

Warning message from ESXi: the guest OS has reported an error during quescing. Error code was: 2 the error message was: custom quiesce script failed. (Сообщение об ошибке от ESXi: гостевая ОС сообщила об ошибке в момент остановки. Код ошибки 2: ошибка скрипта остановки)

Или

An error occurred while saving the snapshot: Failed to quiesce the virtual Machine (Во время сохранения снапшота возникла ошибка: Невозможно остановить ВМ)

4.1 Linux

Путем создания специального скрипта в /usr/sbin/pre-freeze-script, вы сможете остановить свою систему автоматически при создании снапшота с помощью vSphere. vSphere будет пытаться исполнить скрипт /usr/sbin/post-thaw-script в случае, если он будет присутствовать в гостевой ОС.

4.2 Windows VSS

Плагин усиливает защиту Windows , создавая перед резервным копированием снапшоты на базе VSS для остановки приложений, активируемых VSS.

Скрипты pre-freeze и post-thaw для VSS. Начиная с версий ESX/ESXi 3.5 U2 и выше, программа VMware Tools сначала ищет скрипты по алфавиту в C:/Program Files/VMware/VMware Tools/backupScripts.d, вызывая их с аргументом freeze, а после в обратном алфавитном порядке вызывает с аргументом thaw (или freezeFail в случае неудачной остановки).

5 Поддерживаемые платформы

Плагин для VSphere поддерживает следующие продукты на VMware платформе:

• ESX/ESXi версий: 6.0, 5.5, 5.1, 5.0, 4.1

В настоящее время мы тестируем корректную работу плагина для VSphere со следующими продуктами VMware платформе:

• vCenter Server версий 6.0, 5.5, 5.1, 5.0, 4.1 управляющие ESX/ESXi 4.1 и более поздними версиями
• VirtualCenter версий 2.5, управляющий ESX/ESXi 4.1

Для осуществления манипуляций с файлами и снапшотами плагин для VSphere использует vStorage API. Это расширение требует наличия валидной несвободной лицензии VMWare.

• Плагин VSphere был протестирован (и поддерживается) следующими платформами на базе Linux: RHEL 6, 7 (Red Hat Enterprise Linux) 64bit
SLES 11 (SUSE Linux Enterprise Server) 64bit

6 Ограничения

Плагины могут быть несовместимы с задачами VirtualFull по умолчанию. Пожалуйста, свяжитесь со службой поддержки Bacula Systems, чтобы убедиться в том, что вы используете оптимальные настройки.

2 обзор процедуры восстановления единичного файла vmware

В данном разделе представлена информация о том, как использовать функцию восстановления одного файла VMware с помощью Bacula Enterprise Edition и плагина для vSphere.

Краткое описание функций


Инструмент восстановления одного файла Bacula Enterprise Edition позволяет использовать следующие функции:

• Консольный интерфейс
• Интерфейс Bweb Management Suite
• Поддержка создания полного/дифференциального/инкрементального бэкапов
• Поддержка Windows 2003 по 2021
• Поддержка Linux (ext3, ext4, btrfs, lvm, xfs)
• Поддержка ESX 5.x и 6

1 Установка

Документация, подробно описывающая процедуру установки, доступна по запросу.

2 Скрипты восстановления

Эта функция позволяет быстро находить и восстанавливать конкретные файлы из каталога в среде VMware.

2.1 Через интерфейс текстовой консоли

Плагин для восстановления одного файла (VMware single file restore) позволяет использовать простую программную консоль, обеспечивающую доступ к файлам внутри ВМ. Процесс восстановления одного файла начинается с монтажа бэкапов ВМ:

Сначала правильно выберите клиент

Затем, выберите задачу, которую хотите восстановить.

Затем выберите нужную ВМ.

Теперь выберите местоположение гостевой файловой системы (локально или через SMB)

На данном этапе, файловая система ВМ монтируется локально (в примере выше файлы доступны по адресу /opt/bacula/working/vmware/5. Как в случае со стандартной файловой системой, можно найти каталоги и скопировать файлы (через cp, scp, ftp) из другого сеанса работы с терминалом, используя “root” Unix и аккаунты “bacula”.

Чтобы очистить сессию, просто нажмите “Enter” в сеансе работы с терминалом, в котором был запущен скрипт mount-vmware.

Начиная с Bacula Enterprise 8.4.8 можно ограничивать список задач Job list с помощью следующих командных строк:

• -s=<days> ограничить список задач последними ХХХ днями
• -l=<number> ограничить список задач последними введёнными числами
• -f=<filter> указать расширенный фильтр исходя из имени задачи и/или имени FileSet

2.2 Восстановление VMware из интерфейса Bweb Management Suite

Функция восстановления одного файла VMware single file restore может быть реализована с помощью Bweb Management Suite. Данная утилита является мастером восстановления, позволяющим легко и просто восстанавливать файлы из гостевой ВМ.

После того, как будет выбран Клиент, администратор должен выбрать задачу Job (Restore Point- точку восстановления) для восстановления. (смотрите рисунок 8 на другой странице).
Если выбранная задача Job является корректной задачей vSphere, т.е. может быть исполнена, на третьем этапе отобразится список виртуальных машин, включенных в FileSet (смотрите рисунок 9 на следующей странице).

На данном этапе ПО Bacula должно создать виртуальный образ выбранной ВМ. Необходимо восстановить пару небольших файлов из каждой задачи Job, которые составляют выбранную точку восстановления Restore Point. После завершения процедуры ПО Bacula необходимо смонтировать диск выбранной ВМ в системе.

3.1 Каталог кэша

Чтобы ускорить последующие процедуры восстановления единичных файлов, некоторые файлы, созданные во время сессии восстановления, сохраняются в каталоге кэша.

Через некоторое время можно удалять файлы кэша. При необходимости они будут созданы повторно.

4 Ограничения

• Функция восстановления единичны файлов VMware использует интерфейс Bacula BVFS для отображения списка файлов и каталогов. В случае MySQL; несмотря на ограничения MySQL, связанные с индексами в столбцах TEXT, процедура не оказывает существенного влияния на производительность MySQL. Тем не менее, в целях получения лучшего результата мы рекомендуем использовать PostgreSQL.
• Производительность функции по восстановление единичного файла может варьироваться в зависимости от различных файлов. Например, ПО Bacula придется считывать больше данных, если том Volume создавался при выполнении большого количества параллельных задач.
• Storage Daemon,в котором установлена утилита для восстановления единичного файла, должна иметь CPU с расширениями VT-x/EPT. Если эти расширения недоступны, производительность снизится ( с 20 с до 10 мин в случае нашего эксперимента).

[1] Доступно начиная с версии 8.2.9

[2] Необходимо для vSphere 6.0

[3] Доступно начиная с версии 6.2.3-2

[4] Доступно начиная с версии 8.4.8

[5] Доступно начиная с версии 8.2.5

[6] Доступно начиная с версии 6.2.3-2

Troubleshooting.

Для того, чтобы создать резервную копию с отладочной информацией необходимо вызвать ghettoVCB с ключем: -d debug

# /vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB.sh -g /vmfs/volumes/datastore1/ghettoVCB-master/my.conf -f /vmfs/volumes/datastore1/ghettoVCB-master/my.list -d debug > /var/log/ghettoVCB-testlog00.log

Для отладки процесса восстановления:

# /vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB-restore.sh -c /vmfs/volumes/datastore1/ghettoVCB-master/vms_to_restore.list -l /var/log/vms-restore00.log -d 1

где: -d — уровень детализации при отладке (debug level) (1–2). При включении отладочной информации восстановление не произойдет.

Могут возникнуть ситуации, когда потребуется прервать выполнение ghettoVCB.sh, запущенного в ручном (интерактивном) режиме. Нажмите cntrl C для остановки родительского процесса и далее:

# ps -c | grep ghettoVCB | grep -v grep
35598 35598 tail tail -f /tmp/ghettoVCB.work/ghettovcb.Cs1M1x
# kill -9 35598

Для остановки ghettoVCB, запущенного в неинтерактивном режиме:

# ps -c | grep ghettoVCB | grep -v grep
39577 39577 busybox ash ./ghettoVCB.sh -f list -d debug
43478 43478 tail tail -f /tmp/ghettoVCB.work/ghettovcb.ohhyZb

и завершить оба дочерних процесса по их PID:

# kill -9 39577 43478

Если виртуальная машина находилась в процессе резервного копирования, то открыт дополнительный процесс — vmkfstools:

# ps -c | grep vmkfstools | grep -v grep
39579 39579 vmkfstools /sbin/vmkfstools -i /vmfs/volumes/56b74f4f-85fc58fa-87fe-94de8066eda2/WIN7TEST.vmdk -a lsilogic -d thin /vmfs/volumes/9108f6f9–353aeed8/esxi/WIN7TEST/WIN7TEST-2021-01-26_16-45-35/WIN7TEST.vmdk
# kill -9 39579

В ESXi6.5 могут так же не монтироваться NFS средствами самого скрипта GhettoVCB. При использовании ESXi версии 6.5 и выше возможно придется монтировать NFS-хранилище вручную, при чем только через веб-клиент vSphere, выставив в /vmfs/volumes/datastore1/ghettoVCB-master/my.conf:

UNMOUNT_NFS=0

чтобы по окончании резервного копирования NFS-хранилище не размонтировалось и исправить start.sh. Было:

/vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB.sh -g /vmfs/volumes/datastore1/ghettoVCB-master/my.conf -f /vmfs/volumes/datastore1/ghettoVCB-master/my.list > /var/log/ghettoVCB-weekly.logesxcli storage nfs add -H 192.168.5.221 -s /nfs_server/esxi -v backup

Стало:

esxcli storage nfs add -H 192.168.5.221 -s /nfs_server -v backup/vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB.sh -g /vmfs/volumes/datastore1/ghettoVCB-master/my.conf -f /vmfs/volumes/datastore1/ghettoVCB-master/my.list > /var/log/ghettoVCB-weekly.log

Бэкап/восстановление esxi с помощью vsphere cli

Для резервного копирования/восстановления конфигурации ESXi можно воспользоваться возможностями vCLI, например, с помощью клиента vCLI для Windows или Linux, или же через vMA Appliance.

Для управления резервными копиями в vCLI существует специальная команда: vicfg-cfgbackup

Примечание. Команда vicfg-cfgbackup доступна только на сервера ESXi, использовать ее при подключении к серверу vCenter Server не удастся.

Создать бэкап конфигурации хоста ESXi можно так:

vicfg-cfgbackup -s -server 192.168.0.11 /tmp/esx05-backup

Восстановление вм из резервных копий.

Следует понимать, что если бэкап ВМ производился во включенном состоянии, то после восстановления ВМ будет в абслютно том же состоянии, в каком была бы после крэша — не исключена потеря данных.

Подключаемся к серверу ESXi по SSH, монтируем NFS с бэкапами и проверяем результат. Формат команды для монтирования NFS следующий:

# esxcli storage nfs add -H NFS_IP|NFS_HOSTNAME -s Share_mount_point_on_the_NFS -v NFS_Datastore_Name

Посмотреть список:

# esxcli storage nfs list

Размонтировать:

# esxcli storage nfs remove -v NFS_Datastore_Name

Для ESXi 3.x/4.x подробно расписано здесь. В моем примере NFS монтируется следующей строчкой:

# esxcli storage nfs add -H 192.168.3.200 -s /nfs/backups -v backup

Для указания путей при восстановлении ВМ нельзя использовать симлинки. Если в конфигурации использовать пути вида: /vmfs/volumes/datastore1/esxi/ … /VM_name/ , то при попытке восстановить ВМ получим ошибку:

Support for .tgz not supported - "/volumes/backup/esxi/VM_name" will not be backed up!

Фактически, такое сообщение появляется тогда, когда скрипт не находит бэкап ВМ.

Для того, чтобы задать путь без использования симлинков необходимо узнать UUID устройств. Следующая команда выводит список каждого LUN, подключенного к серверу ESXi и его сопоставление vmfs (Volume Name) к UUID:

# esxcli storage filesystem list

Таким образом вместо “backup” и “datastore1” можно использовать соответствующий UUID:

backup: 9108f6f9–353aeed8;datastore1: 56b74f4f-85fc58fa-87fe-94de8066eda2.

Подробную информацию про идентификацию дисков и файловых систем в ESX(i) можно получить здесь.

Создаем конфигурацию:

# vi /vmfs/volumes/datastore1/ghettoVCB-master/vms_to_restore.list# Помещаем сюда список восстанавливаемых машин в формате:
#
# "<DIRECTORY or .TGZ>;<DATASTORE_TO_RESTORE_TO>;<DISK_FORMAT_TO_RESTORE>;
# <NEW_VM_NAME>"
#
# DIRECTORY or .TGZ - путь, где лежит восстанавливаемая машина;
# DATASTORE_TO_RESTORE_TO - путь, куда восстановить машину (директория
# будет создана)
# DISK_FORMAT_TO_RESTORE - тип диска ВМ:
# 1 = zeroedthick,
# 2 = 2gbsparse,
# 3 = thin,
# 4 = eagerzeroedthick;
# NEW_VM_NAME - новое имя ВМ (не обязательно)
#
# Например:"/vmfs/volumes/9108f6f9–353aeed8/esxi/WIN7TEST/WIN7TEST-2021–04–04_02–04–18/;/vmfs/volumes/56b74f4f-85fc58fa-87fe-94de8066eda2/;3;WIN7TEST"

и восстанавливаем ВМ:

# /vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB-restore.sh -c /vmfs/volumes/datastore1/ghettoVCB-master/vms_to_restore.list -l /var/log/vms-restore00.log

где:-c — путь к списку восстанавливаемых машин.-l — путь расположения логов.

Поскольку резервная копия ВМ представляет из себя набор образов .vdmk и файл-конфигурации .vmx, то можно просто скопировать данные и исправить .vmx:

displayName = WIN7TEST
extendedConfigFile = "WIN7TEST"
scsi0:0.fileName = "WIN7TEST-0.vmdk"
sched.swap.derivedName = "WIN7TEST.vswp"

Через vSphere клиент открываем, как на скриншоте ниже:

host -> Configuration -> Storage -> Browse Datastore

на файле .vmx жмем правую кнопку мыши и выбираем “Add to inventory”.

Настройка резервного копирования.

Итак, первое, что нужно сделать — это включить доступ по SSH к консоли гипервизора: открываем VMware vSphere Client, выбираем хост, открываем вкладку ‘Configuration’ и, как показано на скриншоте:

Security Profile -> Services -> Properties -> SSH -> Options -> Start

Во-вторых, убедимся, что на вашем сервере NFS включена опция ‘async’, существенно ускоряющая процесс копирования. Правда, за скорость приходится платить: есть риск потерять данные в случае крэша NFS-сервера. Если такая вероятность, все же, есть — используйте ‘sync’. В остальных случаях:

# vi /etc/exports/nfs *(rw,all_squash,async,no_subtree_check,insecure,anonuid=500,anongid=1000)# /etc/init.d/nfs-kernel-server reload

В третьих, скачиваем скрипт ghettoVCB с github по клику на ZIP-архив и заргужаем его на ESX/ESXi хост, используя scp, или WinSCP. Советую расположить подальше от корневой директории: на ваш datastore, в папку с виртуальными машинами — будет идеально. У меня это: /vmfs/volumes/datastore1.

Резервное копирование/восстановление esxi с помощью powercli

На наш взгляд, самый простой способ создания резервной копии хостовой системы VMware ESXi и восстановления из нее – воспользоваться специальными командлетами PowerCLI:

• Get-VMHostFirmware – позволяет создать резервную копию конфигурации ESXi
• Set-VMHostFirmware – позволяет восстановить конфиг гипервизора из бэкапа

Примечание. Естественно, что на машине администратора должен быть установлен Powershell и расширение vSphere PowerCLI.

Создание резервных копий вм.

Проверить настройки и запустить тестовое создание бэкапа в ручную можно командой:

# /vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB.sh -g /vmfs/volumes/datastore1/ghettoVCB-master/my.conf -f /vmfs/volumes/datastore1/ghettoVCB-master/my.list > /var/log/ghettoVCB-testlog00.log

Для отдельной ВМ с именем ‘MyVirtualMachine’:

# /vmfs/volumes/datastore1/ghettoVCB-master/ghettoVCB.sh -g /vmfs/volumes/datastore1/ghettoVCB-master/my.conf -m MyVirtualMachine

Ключи задания параметров:

-a — создание бэкапа все ВМ хоста;-f — укзать список ВМ; -m — имя ВМ для бэкапа;-c — конфигурация директории бэкапа;-g — путь к файлу конфигурации;-l — создание файла лога;-w — рабочая директория скрипта;-d — уровень детализации логов (debug level): info, debug, или dryrun (по умолчанию: info).

Бэкап виртуальной машины представляет из себя подкаталог <имя_ВМ>-<дата>_<время>, содержащий .vmx (файл конфигурации ВМ), непосредственно сами .vmdk и status.ok, содержащий в себе сообщение об успешном завершении создания резервной копии.