четверг, 6 марта 2014 г.

Создание консистентных VSS снимков внутри ВМ под Hyper-V

Не так давно мне пришлось решать задачу копирования базы с производственного MS SQL сервера, работающего внутри виртуальной машины под Hyper-V 3.0. Задача осложнялась тем, что на время копирования сервер нельзя было останавливать, прямого доступа по сети к ВМ не было, и, к тому же, в ВМ не было никакой системы резервного копирования кроме встроенной... и места для копии не было... и задачу надо было решить быстро.

На выручку пришли известные многим мгновенные снимки (VSS Snapshots). Данный механизм позволяет создавать консистентные копии файлов и данные приложений, таких как: базы Microsoft Active Directory, Exchange или SQL Server, виртуальные машины Hyper-V и прочее.

Краткая суть метода

1) Создать VSS снимок раздела, на котором хранятся базы, внутри гостевой ОС.
2) Создать снимок раздела, на котором хранятся виртуальные диски ВМ, на хосте Hyper-V.
3) Смонтировать снимок с виртуальными дисками.
4) Смонтировать виртуальный диск.
5) Смонтировать снимок раздела на виртуальном диске.
6) Скопировать нужные файлы баз с хоста Hyper-V.
7) Размонтировать все в обратном порядке.
8) ???
9) Profit!

Более подробно

Для начала подключитесь к гостевой ОС и проверьте, что в системе присутствует и нормально работает VSS Writer для SQL сервера (SQLServerWriter). В консоли CMD выполните команду:
vssadmin list writers

Создайте VSS снимок, используя команду: vssadmin create shadow /for=X:
, где X: - буква раздела, где размещаются искомые базы SQL сервера.

Запомните, а лучше запишите значение параметра Shadow Copy ID и время создания, они потребуются в дальнейшем, чтобы найти нужный снимок.

Теперь подключитесь к хосту Hyper-V, на котором работает виртуальная машина и проверьте, что на нем также присутствует необходимый VSS Writers для ВМ (Microsoft Hyper-V VSS Writer).

Создайте VSS снимок, используя команду: vssadmin create shadow /for=X:
, где X: - буква раздела, где размещаются vhd диски виртуальной машины.

Смонтируйте мгновенный снимок, создав на него символическую ссылку с помощью команды mklink: mklink /D C:\VMSnapshots\ \\?\GLOBALROOT\Device\HarddiskVolumeShadowCopy3\
, где C:\VMSnapshots\ - путь для монтирования (папки с таким именем быть не должно);
\\?\GLOBALROOT\Device\HarddiskVolumeShadowCopy3\ - имя VSS снимка.

Обратите внимание, что после имени снимка требуется поставить обратный слэш ("\"), в противном случае созданная ссылка будет работать некорректно.

Откройте оснастку управления дисками (Disk Management - diskmgmt.msc) и в меню выберите Action | Attach VHD.

В окне Attach Virtual Hard Disk укажите путь к виртуальному диску из смонтированного VSS снимка и поставьте флаг Read-only.

Всем разделам на смонтированном диске будут автоматически присвоены буквы. Вы можете открыть нужный раздел, чтобы увидеть содержимое файловой системы гостевой ОС в момент снятия снимка. Однако, существует вероятность, что файлы базы данных будут неконсистентны. Для этого нам и потребуется первый снимок.

В консоли выполните команду vssadmin list shadows чтобы проверить, что доступен VSS снимок, сделанный в гостевой ОС.

Используя команду mklink, подключите VSS снимок, используя новые значения пути и имени снимка (например, "C:\SQLSnapshot"). Если снимков много, то найти нужный можно по значению параметра Shadow Copy ID и времени создания.
mklink /D C:\SQLSnapshots\ \\?\GLOBALROOT\Device\HarddiskVolumeShadowCopy4\

Теперь вы можете просто зайти в нужную папку по символической ссылке и скопировать нужные файлы базы с хоста Hyper-V.

После копирования выполните следующие операции, чтобы привести систему в исходное состояние:
1) Удалите символическую ссылку с VSS снимком гостевой ОС.
2) Отмонтируйте vhd виртуальный диск (Detach) из оснастки Disk Management.
3) Удалите символическую ссылку с VSS снимком виртуальной машины.
4) Выполните команды vssadmin delete shadows /for=X: чтобы удалить лишние VSS снимки с хоста и из гостевой ОС.

И как всегда несколько засад...

По какой-то причине, виртуальные диски в формате vhdx не монтируются из read-only раздела.

Иногда происходит конфликт автоматического назначения букв для разделов виртуального диска. В этом случае можно попробовать смонтировать виртуальный диск без флага Read-Only, вручную выставить нужную букву раздела, затем снова смонтировать виртуальный диск с флагом Read-Only.

Альтернативный, в чем-то даже более простой, метод, заменяющий шаги 2-4, заключается в создании снимка ВМ целиком (Checkpoint / VM Snapshot) из консоли Hyper-V Manager с последующим монтированием исходного vhd диска ВМ в read-only. Пожалуй, единственным недостатком тут может быть только то, что при активной записи данных на диск, удаление снимка ВМ займет больше времени, чем VSS снимка.

P.S. Надеюсь, кому-нибудь такой метод пригодится. При желании, если диски ВМ расположены на каком-нибудь общем томе, подключенном по iSCSI или FC, после создания снимков можно презентовать том в режиме read-only стороннему серверу, получив, таким образом, импровизированную Off-Host/LAN-Free систему резервного копирования. С ручным копированием через системного администратора. ;-)

вторник, 18 февраля 2014 г.

Баг VMware vCenter Server Heartbeat 6.6

Недавно ставил VMware vCenter Server Heartbeat 6.6 и столкнулся с парой неприятных багов.

При установке Heartbeat на Primary узле после задания новых имен для Primary и Secondary node, инсталлятор завершается с ошибкой: Intaller has stopped working, Problem Event Name: CLR20r3, Problem Signature 01: setup.exe Problem Signature 02: 6.4.0.24 Problem Signature 03: 51f82772.

Данная проблема описана в Release Notes. Решением является установка английского языка в качестве основного в региональных настройках ОС: Start | Control Panel | Region and Language | Formats -> English (United States).

Вторая проблема - после установки не запускается служба VMware vCenter Server Heartbeat, при попытке запустить службу вручную появляется ошибка: VMware vCenter Server Heartbeat failed to initialize: Failed to initialize plug-in environment. System.FormatException: Input string was not in a correct format. В журнале событий приложений при этом могут появляться ошибки Source: NFServerR2 Event ID: 5084.

Данная проблема также связана с региональными настройками системной учетной записи из-под которой запускается служба. Для решения проблемы вам нужно войти в систему под учетной записью у которой выставлены английские региональные настройки, зайти на вкладку копирования региональных настроек для окна приветствия и системной учетной записи Start | Control Panel | Region and Language | Administrative | Copy settings... включить Welcome screen and system accounts и нажать OK.

После этого служба сможет корректно стартовать.

воскресенье, 2 февраля 2014 г.

Видео: обновление Fabric OS на FC коммутаторе Brocade

Недавно записал небольшое видео с процессом обновления прошивки на Fibre Channel коммутаторе Brocade, включая процедуру настройки FTP сервера для загрузки обновления.

 Возможно, кому-нибудь пригодится.



понедельник, 28 октября 2013 г.

Сравнение: Microsoft Hyper-V 2012 R2 против VMware vSphere 5.5

Бродя по сети, наткнулся на актуальное сравнение решений Microsoft и VMware по серверной виртуализации: http://blogs.technet.com/b/keithmayer/archive/2013/10/03/vmware-or-microsoft-comparing-vsphere-5-5-and-windows-server-2012-r2-at-a-glance.aspx

Поскольку сравнение сделано сотрудником Microsoft, то рассчитывать на какую-либо объективность в данном случае бессмысленно, но для меня довольно интересно посмотреть на "альтернативную" точку зрения по некоторым позициям.

Включение Virtual Flash Read Cache в VMware vSphere 5.5

Обновив свой тестовый стенд до VMware vSphere 5.5, мне захотелось попробовать в деле новую функцию - Virtual Flash Read Cache, позволяющую кэшировать данные на локальных SSD накопителях, установленных в сервер, и тем самым снижать нагрузку на хранилища (локальные или SAN) при выполнении операций чтения.

Virtual Flash Read Cache может работать с обычными носителями с интерфейсом SATA/SAS или накопители, подключаемые по шине PCI-E (список совместимых устройств невелик, но для VFRC можно использовать и другие носители).  На текущий момент VFRC имеет следующие ограничения и максимумы:
  • На хост-сервере должен быть установлен VMware ESXi 5.5 в редакции Enterprise Plus.
  • Настройка и управление VFRC осуществляется только через vSphere Web Client, поэтому требуется VMware vCenter Server.
  • Максимальный размер кэша для одного виртуального диска - 400 ГБ.
  • Максимальные размер кэша на хост - 2 ТБ.
  • Максимальный размер виртуального диска - 16 ТБ.
  • Максимальное количество SSD накопителей, используемых под кэш - 8.
  • Требуется обновить Hardware Version виртуальной машины до 10-й версии.
  • SSD накопитель должен использоваться только под VFRC, на нем нельзя устанавливать гипервизор, создавать VMFS хранилища, или включать в кластер Virtual SAN.
  • Администратор должен вручную настраивать кэш для каждого виртуального диска (минимум 1 ГБ). Кэш выделяется (резервируется) при включении ВМ, никакого совместного использования или переподписки для кэша настроить нельзя.
  • Нет поддержки Admission Control для vSphere HA, если на сервере недостаточно кэш-памяти, ВМ просто не запустится.
Процедура включения Virtual Flash Read Cache крайне проста, однако, у меня сразу же возникли проблемы с добавлением SSD накопителя.

Стоит сделать небольшое отступление и сказать, что в моем случае SSD накопитель подключается через RAID контроллер, не поддерживающим HBA режим, поэтому требуется создавать RAID 0 массив из одного накопителя. RAID контроллер не передает серверу информацию о типе накопителей, используемых в RAID массиве, поэтому ESXi определяет его как Non-SSD диск. Исправить это можно, создав или отредактировав SATP правила.

Но даже после добавления правила, SSD носитель не появился в списке. Открыв командную консоль и набрав esxcli storage vflash device list, я увидел нечто интересное.

Снова благодаря RAID контроллеру, ESXi не посчитал мое устройство локальным, и поэтому не давал создать на нем файловую систему под кэш.

Решить проблему удалось удаление старого правила SATP и добавлением нового:
esxcli storage nmp satp rule add --satp <SATP_TYPE> --device <DEVICE_ID> --option "enable_ssd enable_local"

После этого накопитель появился в списке доступных для выбора устройств:

Получить информацию о работе кэша можно с помощью команд:
esxcli storage vflash cache list
esxcli storage vflash cache stats get -c <CACHE_FILE_NAME>


P.S. Схожим образом можно настроить VFRC в тестовой среде (например в виртуальном ESXi), где у вас нет настоящего SSD. Только толку от этого не будет.

понедельник, 21 октября 2013 г.

VMworld 2013. День 4 (заключительный)

Отчет о заключительном дне конференции VMworld 2013 в Барселоне. Отчеты по предыдущим дням тут, тут и тут.

Сессии

Утро началось с хардкорной сессии Advanced VMware NSX Architecture (NET5716), в которой, как можно догадаться, рассказывалось о новом продукте по виртуализации сетевой инфраструктуры - VMware NSX.

По аналогии с виртуализацией серверов, VMware NSX позволяет создавать и управлять виртуальными сетями и различными сетевыми устройствами, такими как маршрутизаторы, фаерволы, балансировщики нагрузки. Управление всеми сетевыми устройствами осуществляется с помощью кластера из контроллеров NSX. Для передачи трафика между виртуальными сетями и физической сетевой инфраструктурой используются т.н. NSX Gateway.

На сессии несколько слайдов были уделены вопросам организации туннелей при передаче трафика между физическими устройствами. NSX поддерживает два метода организации туннелей - STT и VXLAN, первый используется для передачи трафика между виртуальными коммутаторами NSX, используемыми серверами ESXi, второй - для передачи трафика между коммутаторами NSX и сторонними устройствами.


Помимо физических устройств для работы сетевых сервисов могут использоваться виртуальные устройства, создаваемые на каждом из серверов виртуализации и подключаемые к виртуальному коммутатору соответствующего сервера. Нечто похожее можно видеть уже сейчас в VMware vShield App, когда весь сетевой трафик ВМ обрабатывается виртуальным брандмауэром, работающий на каждом сервере виртуализации. Такой подход позволит обеспечить линейное масштабирование, уменьшить нагрузку на физическую сеть, а также гарантировать то, все все сетевые пакеты будут обработаны соответствующим сетевым устройством.

В будущем разработчики обещают добавить в NSX возможности создания снимков виртуальной инфраструктуры, обеспечить работу виртуальных сетей в многосайтовой среде, а также расширить возможности распределенных сервисов.

Следующая сессии Software-Defined Storage: The VCDX Way (STOR4798) была посвящена решениям VMware, лежащим в основе программно-определяемых хранилищ: Virtual SAN, Virsto, Flash Read Cache.

Большой проблемой для администратора систем виртуализации, работающего в крупной компании, является то, что, зачастую, он не имеет прямого доступа к управлению системами хранения данных. Поэтому виртуальному администратору приходится обращаться к администратору систем хранения за дисковым пространством, отвечающим заданным требованиям производительности, надежности и доступности. Как это часто бывает, людям из разных миров, оперирующих разными терминами, может быть сложно найти общий ящик. Кроме того, когда речь заходит о производительности или доступности ВМ, то администратор системы виртуализации ограничен в своих возможностях, т.к. эти параметры определяются на уровне всего хранилища, а не отдельных ВМ, путем выбора таких параметров как уровень RAID, тип и кол-во носителей данных, репликация и т.д. Все это приводит к усложнению виртуальной инфраструктуры и увеличению длительности развертывания сервисов.

Первым шагом на пути решения этой проблемы была технология VASA (vSphere API for Storage Awareness), позволяющая администратору системы виртуализации получать информацию о функциональных возможностях хранилищ, расположенных на СХД. Следующим шагом станет появление нового типа хранилищ - Virtual Vols, позволяющих администраторам vSphere самостоятельно создавать тома для каждой ВМ и

Другим решением данной проблемы может стать Virtual SAN - технология, агрегирующая локальные носители серверов виртуализации в общий пул, на котором могут размещаться виртуальные машины. vSAN тесно связана с политиками хранилищ VASA, именно через политики администратор системы виртуализации определяет уровень доступности, отказоустойчивости и производительности ВМ. Так, например, через политику администратор может задать - какое количество копий данных должно быть, по какому количеству локальных дисков должны распределяться данные при записи, какой процент Flash памяти должен резервироваться для обеспечения высокого уровня производительности, какой объем дискового пространства должен резервироваться (thin или thick provisioning). Создавая несколько политик с разными настройками, администратор может обеспечить разные уровни обслуживания для разных ВМ в пределах одного хранилища vSAN.

Еще одним преимуществом vSAN над классическими системами хранения является крайняя простота в настройке и обслуживании. vSAN может быть настроен за считанные минуты, не требует использования выделенной сети и системы хранения, и может масштабироваться линейно за счет добавления новых хост-серверов в кластер vSAN.

Последняя сессия, на которую я попал - VMware Virsto Technical Overview: Optimizing Your SAN Infrastructure for VDI and Virtual Datacenter Environments (STO5359). В ней рассказывалось о новом и полностью неизвестном мне продукте - Virsto (разработанном одноименной компанией не так давно приобретенной VMware), программном решении, предназначенном для оптимизации работы платформы виртуализации vSphere с внешними СХД. Большой проблемой (большинства) современных СХД являются случайные операции записи, т.к. данные операции являются самыми ресурсоемкими.

Данная проблема особенно хорошо видна в виртуальной среде, где десятки и даже сотни ВМ могут одновременно осуществлять запись на один том.

Для решения этой проблемы VMware предлагает использовать Virsto - программное устройство, представляющее собой своего рода виртуализатор, который устанавливается в разрыв между гипервизором и СХД и оптимизирует операции записи на LUN.

Перед тем, как попасть на том СХД все данные записываются в промежуточный буфер, т.н. виртуальный журнал vLog - специальную ВМ, расположенную на каждом сервере виртуализации, и через некоторое время после этого Virsto последовательно записывает данные на конечную СХД.  Важно отметить, что подтверждение операции записи поступает от Virsto сразу же при попадании данных в vLog, что положительно сказывается на величине задержек операций записи. При наличии нескольких томов на СХД возможна организация многоуровневого хранения/тиринга.

Помимо этого, Virsto предлагает эффективный механизм создания мгновенных снимков и клонов (с общим базовым диском), который практически не влияет на производительность. Аналогичный механизм можно видеть в СХД NetApp.

В ходе выступления были приведены примеры того, как Virsto влияет на производительность СХД. Впечатляющие цифры.

Выставка

На стенде компании CommVault - лидера систем резервного копирования, устроили настоящее акробатическое шоу.

На стенде Hitachi поступили проще, ограничившись танцующими девушками.

На стенде VCE - производителя решений класса "ЦОД в коробке", включающего в себя серверы и сетевое оборудование Cisco и СХД EMC, вместо привычной стойки, забитой оборудованием, присутствовала интерактивная доска, где каждый желающий мог посмотреть на компоненты системы в разразе не путаясь в провода и без риска что-либо сломать.


По словам представителей компании VCE Vblock настолько просто и удобен в настройке, что сравнить его можно со сбором конструктора Lego, где каждая деталька идеально подходит к другой.

К слову, с выходом СХД VNX2 от EMC (VNX5400, VNX5600, VNX5800, VNX7600) обновились и линейки VCE Vblock, включающие новые модели СХД. Среди нововведений VNX2 следует отметить новую симметричную архитектуру Symmetric Active-Active, увеличенные параметры объема кэш-памяти и количества поддерживаемых дисков, новую версию прошивок, позволяющих более эффективно утилизировать многоядерные процессоры Intel Sandy Bridge, установленные в СХД и множество других улучшений.

Заключение

Вот и закончилась еще одна конференция VMworld 2013. Цель выполнена - я заполучил комплект маек на следующий год, а также узнал много нового для себя. Было интересно пощупать вживую такие вещи, как Virtual SAN, NSX и Automation Center, на установку которых в обычной жизни вечно не хватает времени.

То, что вчера казалось еще просто интересной концепцией, вроде виртуализации сетей или хранилищ, сегодня предстало в виде готовых продуктов и решений, и в этом заслуга не только VMware, но и многочисленных партнеров, которые решили стоить свой бизнес на технологиях виртуализации.

P.S. Следующий год обещает быть не менее интересным, ведь должна же VMware, в конце-концов, выпустить многопроцессорный Fault Tolerance. ;-)

четверг, 17 октября 2013 г.

VMworld 2013. День 3

День начался с того, что я опоздал на генеральную сессию.

Доклады

Вкратце: Как и в прошлом году, вторая генеральная сессия была более технической и описывала возможности таких продуктов, как: vCloud Automation Center, vSAN, NSX, Horizon Workspace. Основной упор делался на то, как просто решаются различные задачи, как хорошо они ложатся в общую концепцию программно-определяемого ЦОД и мобильности пользователей.

Следующая сессия Capacity Jail Break: vSPhere 5 Space Reclamation Nuts and Bolts (STO4907) была посвящена вопросу освобождения дискового пространства на хранилищах при использовании тонких томов.

Впервые возможность Space Reclamation появилась в vSphere 5.0 и позволяла в синхронном режиме (автоматически) уменьшать размер тонких томов на СХД при удалении с них файлов виртуальных машин. Однако, довольно быстро пользователи столкнулись с проблемами производительности при использовании данного режима, поэтому VMware отказалась от его поддержки, и вместо этого представила режим асинхронного (ручного) высвобождения дискового пространства. Недостатком асинхронного режима стало то, что для достижения требуемого эффекта администратору требовалось запускать процедуру несколько раз, либо резервировать практически все доступное дисковое пространство на хранилище под временный файл, что могло привести с переполнению хранилища. В vSphere 5.5 асинхронный режим был существенно доработан, и теперь для достижения нужного эффекта  достаточно запустить процедуру только один раз, кроме того, она выполняется гораздо быстрее и не требует резервирования большого объема пространства на хранилище. В качестве примера были продемонстрированы сравнительные графики производительности, эффективности высвобождения места и скорости выполнения операций для vSphere 5.1 и vSphere 5.5 с использованием СХД HP 3PAR.

Следующая сессия Accelerate vSphere with Flash Storage Technologies (STO3601) касалась аспектов применения Flash памяти в системах хранения. Первая часть доклада была довольно стандартной, в ней говорилось, что по типу использования Flash памяти все СХД можно условно разбить на несколько групп:

  • СХД, использующие Flash память для кэширования операций чтения и записи.
  • СХД, использующие Flash память для организации многоуровневого хранения (тиринга).
  • СХД, использующие только Flash память.

С точки зрения производительности у первых двух подходов есть недостатки, Flash кэшу требуется время на "прогрев", тиринг работает с существенным запозданием, если набор активных данных меняется, к тому же работает с блоками (чанками) большого размера: от несколько мегабайт до нескольких гигабайт.

Вариант с использованием только Flash памяти хорош всем, кроме цены. И тут на сцену выходит продукт Pure Storage FlashArray - система хранения, использующая исключительно и только лишь Flash накопители, но со стоимостью хранения гигабайта близкой или даже ниже, чем у традиционных дисковых массивов. В чем секрет? Во-первых, в СХД используются "дешевые" SSD накопители, выполненные по технологии MLC, во-вторых, Pure Storage использует всевозможные технологии экономии дискового пространства - сжатие, дедупликацию, тонкие диски. Все это в совокупности позволяет добиться впечатляющих показателей из расчета ГБ/$. Подключение к хостам осуществляется по протоколу Fibre Channel или iSCSI. Количество портов ввода-вывода в контроллерах может быть расширено благодаря установке дополнительных плат расширения. Сами контроллеры объединяются (до 2-х штук) по высокоскоростной шине Infiniband. Все это позволяет добиться впечатляющих показателей производительности - порядка 400 тысяч IOPS блоками по 8K при задержках <1 мс. Управление системой хранения может осуществляться прямо из консоли vSphere Client, включая все необходимые операции по созданию и презентации томов серверам виртуализации.

Так, что если вы ищете All-Flash-Array, то можно посмотреть в сторону Pure Storage. Кстати, дисковые полки у них выглядят точь-в-точь как у HP StoreServ 7000 и IBM Storwize v7000 (привет, Xyratex!).

Выставка

Продолжая тему выставки, думаю, вы без особо труда угадаете, какой компании принадлежит стенд (максимум со второго раза).

Назначение фигурки на стенде NetApp непонятно, но несколько посетителей просили подарить.

Соль шутки в том, что СХД EMC виртуализована c помощью СХД NetApp.

Стенд Fujitsu. На картинке - ответ решениям конкурентов в области "ЦОД в коробке" для филиалов и малого бизнеса. Система поставляется уже в сборе в стойке, с предустановленным и преднастроенным ПО.


Материнская карта HP для установки нескольких графических адаптеров NVidia Quadro.

Две такие карты могут быть установлены в expansion blade в шасси HP BladeSystem для того, чтобы предоставить одному блейд-серверу сразу восемь графических адаптеров. Конечно же, это нужно для VMware vDGA для ускорения графики в VDI среде.

Ретроспектива от EMC, участники викторины пытаются угадать, что изображено на фотографии.

Сдвоенные блейд-серверы для системы IBM PureFlex. В одно шасси можно установить 28 таких половинок, что позволяет получить плотность в 56 процессоров на 10U. Не рекорд, но все же весьма достойный результат.

За что люди любят VMware.

Angry Birds 3D:

На стенде Dell каждому желающему давали возможность почувствовать себя в кабине болида формулы 1.

Вечеринка

После завершения основной части мероприятия началась традиционная вечеринка VMworld Party.







Помимо выпивки и закуски была и развлекательная программа, включавшая в себя вот такие выступления:

К сожалению, по сравнению с прошлым годом все было организованно слишком уж просто, без души.