УДК 005:004VMware vSphere 5
ББК 65.290с515
М69
Михеев М. О.
М69 Администрирование VMware vSphere 5. – М.: ДМК Пресс, 2014. – 504 с.: ил.
ISBN 978-5-97060-104-4
Книга посвящена вопросу работы с семейством продуктов VMware
vSphere 5 . В книге я постарался рассмотреть самые разнообразные моменты,
с которыми можно столкнуться при работе с продуктом: здесь вы встретите
описание требований и возможностей продуктов VMware, варианты
настроек, необходимую для работы с продуктом информацию, в том числе
из смежных областей знаний.
Начинается книга с описания того, что из себя представляет семейство
продуктов vSphere, все компоненты этого набора продуктов и их возможности.
Далее приводится информация о том, как этими возможностями
воспользоваться: с точки зрения требований к инфраструктуре и необходимых
настроек. Кроме того, приводятся глубокие технические подробности
о принципах работы, способах мониторинга и диагностики неполадок. Наконец,
дается информация по дополняющим сторонним продуктам, которые
могут помочь в работе или решении проблем. Материал книги подается
в виде пошаговых инструкций с достаточно подробной детализацией.
Издание будет полезно как начинающим, так и опытным системным
администраторам. Последние могут использовать книгу как справочное
пособие, позволяющее оперативно уточнить нюансы работы тех или иных
механизмов, найти необходимые параметры и команды командной строки.
УДК 005:004VMware vSphere 5
ББК 65.290с515
Все права защищены. Любая часть этой книги не может быть воспроизведена в какой
бы то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев
авторских прав.
Материал, изложенный в данной книге, многократно проверен. Но поскольку вероятность
технических ошибок все равно существует, издательство не может гарантировать абсолютную
точность и правильность приводимых сведений. В связи с этим издательство не несет ответственности
за возможные ошибки, связанные с использованием книги.
© Михеев М. О.
ISBN 978-5-97060-104-4
© Оформление, ДМК Пресс, 2014
Стр.3
Содержание
Введение .............................................................................................. 12
Для кого? ..................................................................................... 12
О какой версии продукта? ............................................................ 12
Как книга организована? ............................................................. 12
Обратная связь ............................................................................ 14
Предисловие ...................................................................................... 15
Глава 1
Установка vSphere ............................................................................ 16
1.1. Обзор ............................................................................................. 16
1.2. Установка и начало работы с ESXi................................................... 17
1.2.1. До установки .......................................................................... 18
Варианты дистрибутивов ............................................................. 20
1.2.2. Установка ESXi ........................................................................ 21
1.2.3. Автоматическая установка ESXi .............................................. 25
1.2.4. Особенности установки ESXi ................................................... 27
1.2.5. Auto Deploy ............................................................................. 28
Установка Windows-версии Auto Deploy ....................................... 29
Настройка vCenter ....................................................................... 30
Настройка TFTP и DHCP сервера ................................................. 30
Настройка Auto Deploy для первого сервера ................................ 31
Настройка Auto Deploy для последующих серверов ..................... 34
Обновление образа, загружаемого при помощи Auto Deploy ....... 35
1.3. Вспомогательные компоненты vSphere .......................................... 36
1.3.1. Image Builder ........................................................................... 36
1.3.2. VMware Syslog Collector .......................................................... 39
1.3.3. VMware Core Dump Collector.................................................... 41
1.4. Начало работы ............................................................................... 44
1.4.1. Начало работы без vCenter ..................................................... 44
1.4.2. Установка Windows-версии vCenter Server.............................. 46
Системные требования vCenter ................................................... 46
БД для vCenter Server .................................................................. 48
Совместимость vCenter Server 5 и vSphere Client
с предыдущими версиями ESX(i) и vCenter .................................. 49
Установка vCenter Server ............................................................. 49
Стр.4
4
Содержание
Linked Mode ................................................................................. 51
1.4.3. vCenter Virtual Appliance .......................................................... 54
Различия между Windows- и Linux-версиями vCenter ................... 54
Установка и настройка vCSA ........................................................ 55
1.5. Интерфейс клиента vSphere, vCenter, ESXi. Веб-интерфейс ........... 56
1.5.1. Элементы интерфейса клиента vSphere при подключении
к vCenter ........................................................................................... 56
Базовые шаги для решения проблем с клиентом vSphere ............ 64
1.5.2. Первоначальная настройка vCenter и ESXi .............................. 65
Добавление серверов в консоль vCenter ...................................... 65
Настройка лицензирования ......................................................... 66
Рекомендуемые начальные настройки ESXi ................................. 67
1.5.3. Работа через веб-интерфейс vSphere Web Client .................... 69
Установка Web Client Server ......................................................... 70
1.5.4. vCenter Mobile Appliance, клиент для iPad, веб-интерфейс
администратора ............................................................................... 71
1.6. Основы работы из командной строки ............................................. 71
1.6.1. Локальная командная строка ESXi и доступ по SSH ................. 72
1.6.2. Microsoft PowerShell + VMware PowerCLI .................................. 76
Настройка PowerCLI ..................................................................... 77
1.6.3. vSphere CLI, работа с vMA ....................................................... 78
1.6.4. Полезные команды ................................................................. 80
1.6.5. Полезные сторонние утилиты ................................................. 81
Командная строка, SSH ............................................................... 81
Файловый менеджер ................................................................... 83
Вспомогательные утилиты ........................................................... 84
1.7. Сайзинг и планирование ................................................................ 85
1.7.1. Процессор .............................................................................. 86
Выбор процессоров с точки зрения функционала ........................ 86
Что такое и зачем надо Intel-VT / AMD-V. Аппаратная
поддержка виртуализации ........................................................... 88
1.7.2. Память .................................................................................... 89
1.7.3. Дисковая подсистема ............................................................. 90
Расчет требуемого места на системе хранения ........................... 91
Производительность дисковой подсистемы ................................ 93
Выбор количества LUN ................................................................ 95
1.7.4. Сетевая подсистема ............................................................... 96
1.7.5. Масштабируемость: мало мощных серверов или много
небольших? ...................................................................................... 98
Глава 2
Настройка сети виртуальной инфраструктуры ................... 101
2.1. Основы сети ESXi, объекты виртуальной сети ............................... 101
2.1.1. Физические сетевые контроллеры, vmnic ............................. 104
Стр.5
Содержание
5
2.1.2. Виртуальные контроллеры VMkernel ..................................... 106
2.2. Стандартные виртуальные коммутаторы VMware – vNetwork
Switch ................................................................................................. 110
2.3. Распределенные коммутаторы – vNetwork Distributed Switch,
dvSwitch. Настройки ........................................................................... 113
2.3.1. Основа понятия «распределенный виртуальный
коммутатор VMware» ...................................................................... 113
Сравнение стандартных и распределенных виртуальных
коммутаторов ............................................................................ 114
2.3.2. Добавление сервера в dvSwitch, настройки
подключения vmnic ......................................................................... 118
Нюансы задействования внешних подключений (Uplinks)
dvSwitch ..................................................................................... 118
2.3.3. Группы портов на dvSwitch, добавление интерфейсов
VMkernel......................................................................................... 122
Добавление интерфейса VMkernel на dvSwitch .......................... 123
2.3.4. Уникальные настройки распределенных виртуальных
коммутаторов ................................................................................ 124
NetFlow ...................................................................................... 125
Port Mirroring ............................................................................. 126
2.3.5. Уникальные настройки портов dvSwitch: Miscellaneous
и Advanced ..................................................................................... 128
2.3.6. Миграция со стандартных виртуальных коммутаторов
на распределенные ........................................................................ 130
2.3.7. Технические особенности распределенных виртуальных
коммутаторов VMware .................................................................... 134
2.3.8. Основы решения проблем dvSwitch ...................................... 135
2.4. Настройки Security, VLAN, Traffic shaping и NIC Teaming ............... 136
2.4.1. VLAN, виртуальные локальные сети. Настройка VLAN
для стандартных виртуальных коммутаторов ................................. 136
EST, external switch tagging ........................................................ 139
VST, virtual switch tagging ........................................................... 139
VGT, virtual guest tagging ............................................................ 140
2.4.2. Настройка VLAN для dvSwitch. Private VLAN ........................... 141
Private VLAN, PVLAN ................................................................... 143
2.4.3. Security ................................................................................. 145
2.4.4. Ограничение пропускной способности (Traffic Shaping) ........ 147
2.4.5. NIC Teaming. Группировка сетевых контроллеров ................. 148
2.4.6. Cisco Discovery Protocol,
CDP и Link Layer Discovery Protocol (LLDP) ...................................... 154
Настройка CDP для стандартных виртуальных коммутаторов .... 154
Настройка CDP и LLDP для распределенных виртуальных
коммутаторов ............................................................................ 155
2.5. Разное ......................................................................................... 156
Стр.6
6
Содержание
2.5.1. Jumbo Frames ....................................................................... 156
Настройка Jumbo Frames для виртуальных машин ..................... 156
Настройка Jumbo Frames для VMkernel ..................................... 157
2.5.2. TSO – TCP Segmentation Offload, или TOE – TCP offload
engine ............................................................................................ 158
2.5.3. VMDirectPath ......................................................................... 159
2.5.4. Standalone (отдельные) порты .............................................. 159
2.6. Рекомендации для сети ................................................................ 160
Глава 3
Системы хранения данных и vSphere ...................................... 162
3.1. Обзор типов СХД .......................................................................... 164
3.2. DAS .............................................................................................. 166
3.3. NAS (NFS) ..................................................................................... 167
3.3.1. Настройка и подключение ресурса NFS к ESXi ...................... 169
3.4. SAN, Fibre Channel ........................................................................ 172
3.4.1. Адресация и multipathing ....................................................... 175
3.4.2. Про модули multipathing. PSA, NMP, MMP, SATP, PSP............ 177
3.4.3. Про зонирование (Zoning) и маскировку (LUN masking,
LUN presentation) ............................................................................ 183
3.5. SAN, iSCSI .................................................................................... 184
3.5.1. Как настроить программный инициатор или аппаратный
зависимый iSCSI на ESXi ................................................................ 186
Настройка сети для iSCSI ........................................................... 187
Включение iSCSI-инициатора и настройка Discovery .................. 188
3.5.2. iSCSI Multipathing .................................................................. 191
3.6. VMFS, Virtual Machine File System .................................................. 195
Корректное отключение LUN или удаление раздела VMFS ......... 198
Технические особенности VMFS ................................................ 198
3.6.1. Увеличение размера хранилища
VMFS. Grow и Extent........................................................................ 201
VMFS Grow ................................................................................. 201
VMFS Extent ............................................................................... 202
3.6.2. Доступ к клонированному разделу VMFS, или к разделу
VMFS с изменившимся номером LUN ............................................. 203
3.7. RDM, Raw Device Mapping ............................................................. 206
3.8. NPIV ............................................................................................. 209
3.9. Адресация SCSI ............................................................................ 211
3.10. vSphere API for Array Integration, VAAI. Интеграция
и делегирование некоторых операций системам хранения данных ..... 214
3.11. Profile-Driven Storage .................................................................. 216
3.12. VMware vSphere APIs for Storage Awareness, VASA ....................... 220
3.13. Virtual Storage Appliance .............................................................. 221
3.13.1. Ввод в VSA в эксплуатацию ................................................. 222
Стр.7
Содержание
7
3.13.2. Эксплуатация VSA ............................................................... 224
3.13.3. Размышления про применимость ....................................... 225
Глава 4
Расширенные настройки, безопасность,
профили настроек, решение проблем ................................... 227
4.1. Расширенные настройки (Advanced settings) ................................ 227
4.2. Безопасность ............................................................................... 229
4.2.1. Общие соображения безопасности ...................................... 229
4.2.2. Брандмауэр ESXi .................................................................. 231
4.2.3. Аутентификация на серверах ESXi, в том числе через
Active Directory ............................................................................... 234
Вариант 1 – вам требуется подключаться напрямую ................. 234
Вариант 2 – вам не требуется работать напрямую с ESX ............ 235
Вариант 3 – вам требуется жестко запретить работу
напрямую .................................................................................. 235
4.2.4. Контроль доступа, раздача прав при работе через vCenter ... 236
Общие соображения по разграничению прав доступа ............... 242
4.3. Настройка сертификатов SSL ....................................................... 243
4.4. Host Profiles .................................................................................. 244
4.5. Использование SNMP .................................................................. 252
4.5.1. Настройка SNMP для vCenter ................................................ 252
4.5.2. Настройка SNMP для серверов ESXi ..................................... 254
4.6. Рекомендации по решению проблем ............................................ 256
4.6.1. Статусные сообщения и файлы журналов (Logs&Events) ....... 256
Events ........................................................................................ 256
Журналы .................................................................................... 257
Экспорт журналов...................................................................... 257
Syslog ........................................................................................ 258
4.6.2. Онлайн-источники информации ........................................... 259
4.6.3. Поддержка VMware ............................................................... 259
4.6.4. Core Dump, дампы ................................................................ 261
4.7. Время на сервере ESXi ................................................................. 261
Глава 5
Виртуальные машины ................................................................... 262
5.1. Создание ВМ. Начало работы с ней .............................................. 262
5.2. Клонирование и шаблоны ВМ (Clone и Template) .......................... 268
5.2.1. Клонирование виртуальных машин ....................................... 268
5.2.2. Шаблоны виртуальных машин (template)............................... 269
5.2.3. Обезличивание гостевых ОС, SysPrep ................................... 271
5.2.4. Рекомендации для эталонных ВМ ......................................... 275
5.3. Виртуальное оборудование ВМ .................................................... 277
5.3.1. Memory ................................................................................. 277
Стр.8
8
Содержание
5.3.2. CPUs ..................................................................................... 278
5.3.3. IDE, PS2 controller, PCI controller, SIO controller, Keyboard,
Pointing device ................................................................................ 279
5.3.4. Video card ............................................................................. 279
5.3.5. VMCI device, VM Communication Interface .............................. 280
5.3.6. Floppy drive ........................................................................... 280
5.3.7. CD/DVD Drive ........................................................................ 281
5.3.8. Network Adapter .................................................................... 281
TSO ........................................................................................... 283
Jumbo Frames ............................................................................ 283
Large Ring Sizes ......................................................................... 284
RSS ........................................................................................... 285
MSI-X ......................................................................................... 285
Резюме ...................................................................................... 286
MAC-адреса виртуальных машин ............................................... 287
5.3.9. SCSI controller ....................................................................... 288
5.3.10. Hard Disk ............................................................................. 291
5.3.11. Parallel port .......................................................................... 291
5.3.12. Serial port ............................................................................ 291
5.3.13. SCSI device.......................................................................... 292
5.3.14. USB controller и USB Device ................................................. 293
5.3.15. VMDirectPath ....................................................................... 294
5.4. Все про диски ВМ ......................................................................... 297
5.4.1. Виртуальные диски – файлы vmdk ........................................ 297
Тонкие диски и интерфейс ......................................................... 301
5.4.2. Изменение размеров дисков ВМ .......................................... 302
Увеличение размера диска ........................................................ 302
Уменьшение номинального размера thin- или thick-диска ......... 302
Уменьшение реального размера thin-диска .............................. 305
Удаление диска ......................................................................... 307
5.4.3. Выравнивание (alligment) ...................................................... 308
Выравнивание VMFS .................................................................. 309
Выравнивание файловой системы гостевой ОС ......................... 310
5.4.4. Raw Device Mapping, RDM ..................................................... 311
5.5. Настройки ВМ .............................................................................. 314
General Options .......................................................................... 314
vApp Options .............................................................................. 314
VMware tools .............................................................................. 314
Advanced General ................................................................... 315
Advanced CPUID Mask ............................................................ 316
Advanced Memory / CPU hotplug ............................................. 316
Advanced Boot Options ........................................................... 316
Advanced Fibre Channel NPIV .................................................. 316
CPU/MMU Virtualization .............................................................. 317
Swapfile Location ........................................................................ 317
Стр.9
Содержание
9
5.6. Файлы ВМ, перемещение файлов между хранилищами ............... 317
Файл VMX ................................................................................. 318
Файл NVRAM ............................................................................. 319
Файл подкачки VSWP ................................................................. 319
Файлы VMDK ............................................................................. 319
Перемещение файлов ВМ ......................................................... 324
5.7. Снимки состояния (Snapshot) ....................................................... 325
Файлы VMSD ............................................................................. 328
Файлы vmsn ............................................................................... 329
Файлы –delta.vmdk .................................................................... 329
Плюсы и минусы снимков состояния.......................................... 331
5.8. VMware tools ................................................................................. 333
5.9. vAPP ............................................................................................. 337
Резюме ...................................................................................... 339
Глава 6
Управление ресурсами сервера.
Мониторинг достаточности ресурсов.
Живая миграция ВМ. Кластер DRS .......................................... 340
6.1. Настройки распределения ресурсов для ВМ. Пулы ресурсов ....... 340
6.1.1. Настройки limit, reservation и shares для процессоров
и памяти ......................................................................................... 340
Limit, reservation и shares для процессора .................................. 340
Limit, reservation и shares для памяти ......................................... 342
Иллюстрация работы механизма распределения ресурсов
на примере памяти .................................................................... 347
6.1.2. Пулы ресурсов ...................................................................... 349
6.1.3. Рекомендации по настройкам Limit, Reservation и Shares ...... 353
Когда ресурсов в достатке ......................................................... 355
Когда ресурсов не хватает ......................................................... 355
6.1.4. Storage IO Control, SIOC для дисковой подсистемы ............... 356
6.1.5. Network IO Control, NIOC и traffic shaping для сети ................. 360
6.2. Механизмы перераспределения ресурсов в ESXi ......................... 362
6.2.1. CPU ...................................................................................... 362
NUMA ........................................................................................ 366
6.2.2. Memory ................................................................................. 367
Несколько общих слов ............................................................... 367
Memory Overcommitment ........................................................... 367
Выделение по запросу ............................................................... 369
Transparent Memory Page Sharing ............................................... 370
Перераспределение памяти. Balloon driver, memory
compression и vmkernel swap...................................................... 376
Balloon Driver ............................................................................. 376
Memory compression .................................................................. 378
Стр.10
10
Содержание
VMkernel swap ............................................................................ 378
Host Cache Configuration ............................................................ 380
Насколько часто три описанных механизма применяются
к разным группам виртуальных машин? ..................................... 380
Нехватка памяти на всех – какой механизм будет
использован? ............................................................................ 382
6.2.3. Disk ....................................................................................... 385
6.2.4. Net ........................................................................................ 386
6.3. Мониторинг достаточности ресурсов ........................................... 386
6.3.1. Источники информации о нагрузке ....................................... 386
Вкладка Performance и другие источники информации
через клиент vSphere ................................................................. 387
Пулы ресурсов ........................................................................... 389
Хранилища, Storage Views .......................................................... 391
esxtop и resxtop .......................................................................... 391
Анализ информации от (r)esxtop ................................................ 395
Perfmon «внутри» гостевой ОС ................................................... 396
6.3.2. Какие счетчики нас интересуют и пороговые значения ......... 398
CPU ........................................................................................... 399
MEMORY .................................................................................... 402
DISK .......................................................................................... 403
Network ...................................................................................... 404
6.4. Механизм Alarm ........................................................................... 404
6.5. Миграция выключенной (или suspend) виртуальной машины........ 410
6.6. Storage vMotion – живая миграция файлов ВМ между
хранилищами ..................................................................................... 411
6.7. vMotion – живая миграция ВМ между серверами .......................... 412
6.8. Кластер DRS. DPM ........................................................................ 418
DMP, Distributed Power Management .......................................... 429
Удаление DRS ............................................................................ 432
Advanced Settings ...................................................................... 432
6.9. Кластер Storage DRS .................................................................... 433
Глава 7
Защита данных и повышение доступности
виртуальных машин ....................................................................... 436
7.1. Высокая доступность виртуальных машин .................................... 436
7.1.1. VMware High Availability, HA .................................................... 437
Условия для HA .......................................................................... 437
Какие настройки доступны для кластера HA ............................... 438
Admission Control ....................................................................... 441
Как работает HA ......................................................................... 448
Изоляция. Datastore Heartbeating ............................................... 450
VM Monitoring ............................................................................ 454
Стр.11
Содержание
11
Advanced Options ....................................................................... 455
Использование HA и DRS вместе ............................................... 457
7.1.2. VMware Fault Tolerance, FT .................................................... 458
Настройка VMware FT ................................................................ 459
Настройка инфраструктуры и включение FT ............................... 461
Как работает VMware FT ............................................................. 466
7.2. Управление обновлениями виртуальной инфраструктуры,
VMware Update Manager ...................................................................... 469
7.2.1. Установка обновлений в командной строке локальной,
удаленной и PowerCLI .................................................................... 469
Локальная командная строка ..................................................... 469
PowerCLI .................................................................................... 470
vSphere CLI ................................................................................ 470
7.2.2. VMware Update Manager ........................................................ 471
Установка VUM .......................................................................... 471
Как работает VUM ...................................................................... 472
7.3. Резервное копирование и восстановление ................................... 481
7.3.1. Резервное копирование ESXi и vCenter ................................. 481
Резервное копирование vCenter ................................................ 481
Резервное копирование настроек ESXi ...................................... 482
7.3.2. Резервное копирование виртуальных машин ........................ 482
Типы данных для резервного копирования ................................ 482
Подходы к организации резервного копирования ...................... 485
Агент резервного копирования в гостевой ОС ........................... 485
Бесплатные средства или сценарии .......................................... 486
Средства, поддерживающие vStorage API for Data Protection .... 486
7.3.3. VMware Data Recovery ........................................................... 488
Первоначальная настройка ........................................................ 489
Настройка задания резервного копирования ............................. 491
Восстановление виртуальной машины из резервной копии
VMware Data Recovery ................................................................ 492
Восстановление файлов гостевой ОС из резервной копии
VMware Data Recovery ................................................................ 492
Факты про VDR .......................................................................... 494
Предметный указатель ................................................................. 496
Стр.12