Вы находитесь на странице: 1из 93

Управление ЦОД с помощью

Windows Server 2012 R2


Александр Шаповал
Microsoft
Александр Шаповал
Эксперт по стратегическим технологиям
Email: ashapo@microsoft.com
Blog: http://blogs.technet.com/b/ashapo
Twitter: @ashapoval
http://itcamps.ru
 Семинар 1. Windows 8.1 Enterprise для ИТ-специалистов
 Семинар 2. Управление ЦОД с помощью Windows Server 2012 R2
 Семинар 3. Виртуализация ЦОД с помощью System Center 2012 R2
 Семинар 4. Управление ЦОД с помощью System Center 2012 R2
 Семинар 5. Переход к гибридному облаку с помощью Windows Azure и
System Center 2012 R2
Программа семинара
Время Описание
09:30 – 10:00 Регистрация
10:00 – 10:30 Стратегия Cloud OS
10:30 – 12:00 Управление множеством серверов
12:00 – 12:15 Перерыв
12:15 – 14:00 Построение инфраструктуры СХД
14:00 – 15:00 Обед
15:00 – 16:30 Построение сетевой инфраструктуры
16:30 – 16:45 Перерыв
16:45 – 18:00 Серверная виртуализация на основе Hyper-V
18:00 – 18:15 Сессия вопросов и ответов
На всех ноутбуках
 Administrator
 P@ssw0rd
Стратегия Cloud OS
Александр Шаповал
Microsoft
Новые вопросы
Как я поддерживаю и Как я могу
масштабирую LOB оптимизировать мой
приложения по парк транспорта на
требованию? основе моделей
погоды и трафика?
Живые
Облачная информационные
масштабируемость ленты

Как Как я могу помочь Как я могу


воспринимается сотрудникам улучшить
мой бренд или работать с любого прогнозирование?
продукт в устройства и из
социальных сетях? любого места?

Социальная Продвинутая
веб-аналитика Мобильность аналитика
Современная платформа для приложений
трансформируй ЦОД
раскрой потенциал любых
данных
Cloudсоздавай
OS ИТ, ориентированные
на пользователя
создавай современные бизнес-
приложения
200+ облачных сервисов

4 трлн
объектов в Azure Storage
5,5+ млрд
запросов в месяц 280+ млн
пользователей общаются в месяц
40+ млн
пользователей на 35 рынках 2-4млрд
е-мейлов в день

60+ млн
активных учетных записей 88 рынков 50+ млн
активных пользователей
32 языка
Office Web Apps
200+ million
активных пользователей
Опыт предоставления гибридного облака

облачные сервисы локальная среда


4 трлн
объектов в Azure Storage
5,5+ млрд
запросов в месяц 280+ млн
пользователей общаются в месяц
40+ млн
пользователей на 35 рынках 2-4млрд
е-мейлов в день

60+ млн
активных учетных записей 88 рынков 50+ млн
активных пользователей
32 языка
Office Web Apps
200+ million
активных пользователей
Целостность стратегии Cloud OS

гибкая разработка ЗАКАЗЧИК

единое управление
единая идентификация Cloud OS
интегрированная виртуализация WINDOWS
AZURE
СЕРВИС-
ПРОВАЙДЕР

единая платформа данных


Современная платформа для приложений

Cloud OS
Управление множеством серверов
Александр Шаповал
Microsoft
УПРАВЛЕНИЕ НА

Управление неоднородным
ОСНОВЕ
СТАНДАРТОВ

окружением
«Проблема NxM»
Поставщик
ИТ-специалист Разработчик
решения

Количество управляемых устройств

Методы управления каждым устройством

Операционная Управляемые
Диск СХД Устройства
система объекты

Windows Server 2012 || 14


Windows Management Framework
УПРАВЛЕНИЕ НА
ОСНОВЕ
СТАНДАРТОВ

Повышение ценности благодаря Windows Management Framework


Поставщик
ИТ-специалист Разработчик
решения

Windows Management
Framework

Операционная Управляемые
Диск СХД Устройства
система объекты

Windows Server 2012 || 15


Стандартные модели, протоколы
УПРАВЛЕНИЕ НА
ОСНОВЕ
СТАНДАРТОВ

и интерфейсы API
Повышение ценности благодаря Windows Management Framework
Поставщик
ИТ-специалист Разработчик решения

Стандартные интерфейсы API: клиент MI, Windows PowerShell,


Open Data (OData)
Windows
Стандартные протоколы: WS-Management, REST, HTTP, PSRP Management
Framework

Стандартные модели: схема Common Information Model (CIM),


спецификация Storage Management Initiative Specification (SMI-S)

Операционна Управляемые
Диск СХД Устройства
я система объекты

Windows Server 2012 || 16


Windows PowerShell 4.0
ЭФФЕКТИВНАЯ
АВТОМАТИЗАЦИЯ

Ключевые функции

Больший охват Большая устойчивость


• Большие возможности управления благодаря • Надежные (robust) сеансы
более чем 3000 командлетам • Отключенные сеансы
• Windows PowerShell Web Access • Файлы конфигурации сеансов
• Планирование заданий

Большая интуитивность
• Интегрированная среда ISE 4.0:
IntelliSense | Повторно используемый
текст в примерах кода Более высокая
• Упрощенный синтаксис
• Обнаружение командлетов производительность
и автозагрузка модулей • Динамическая компиляция – до 6 раз быстрее
• Обновляемая справка • Рабочий процесс Windows PowerShell
• Совместное использование сценариев

Windows Server 2012 || 17


Большая интуитивность
ЭФФЕКТИВНАЯ
АВТОМАТИЗАЦИЯ

03

Обновляемая справка

Update-Help
Установка обновленных файлов справки Windows
PowerShell на локальном компьютере

Save-Help
Сохранение обновленных файлов справки Windows
PowerShell на сетевом общем ресурсе для
последующего скачивания

Windows Server 2012 || 18


Большая устойчивость
ЭФФЕКТИВНАЯ
АВТОМАТИЗАЦИЯ

Сеть периметра Интернет

HTTPS PSRP
Интернет
Windows Конечный Цель 1
пользователь Windows
PowerShell (Браузер) Шлюз PowWA Server 2008 R2

Web Access Windows Server


2012
• Новая возможность
Windows Server 2012 Цель 2
• Управление Windows
Server 2003
компьютерами
Windows с помощью
Windows PowerShell
из браузера Цель 3
Windows
Server 2012

Windows Server 2012 || 19


Более высокая
ЭФФЕКТИВНАЯ
АВТОМАТИЗАЦИЯ

производительность
Пример рабочего процесса
workflow Join-Domain
{
    param(
        [Parameter(Mandatory)]
        [string]$domainName,
        [Parameter(Mandatory)]
        [PSCredential]$domainCredential
        )
 
    Get-CimInstance -ClassName win32_computersystem
    Add-Computer -Credential $domainCredential -DomainName $domainName -LocalCredential $PSCredential
    Restart-Computer -Force -Wait
    Get-CimInstance -ClassName win32_computersystem
}
 
# Usage
Join-Domain -PSComputerName <List of Machines> -PSCredential <local admin credential> -domainName <domainName>
-domainCredential <credential that can join machine to domain>
 
Windows Server 2012 || 20
Управление несколькими
серверами
Развертывает роли и
компоненты даже на
удаленных серверах и
автономных виртуальных
жестких дисках
Повышает эффективность работы
Server администраторов при управлении
Manager несколькими серверами
Упрощает процессы
настройки новых
серверов

Использует
интегрированную Использует ролевую панель
консоль для более мониторинга, которая
быстрого и оперативного позволяет сразу определить
устранения ошибок состояние серверов

Windows Server 2012 || 21


Пользовательский интерфейс
 Windows Server 2012 поддерживает три уровня
пользовательского интерфейса:
 Server Core
 Доступен только интерфейс командной строки
 MinShell
 Server Core, некоторые элементы пользовательского интерфейса, например,
Server Manager, поддержка MMC
 Full Shell
 Полнофункциональный рабочий стол Windows, также может быть
установлена компонента Desktop Experience

Windows Server 2012 || 22


Активация и отключение MinShell
УПРАВЛЕНИЕ
НЕСКОЛЬКИМИ
СЕРВЕРАМИ

Install-WindowsFeature
Server-Gui-Mgmt-Infra

Install-WindowsFeature
Server-Gui-Shell

Install-WindowsFeature
Desktop-Experience

Uninstall-WindowsFeature
Server-GUI-Shell

Uninstall-WindowsFeature
Server-GUI-Shell -remove

Windows Server 2012 || 23


Компоненты интерфейса
Server Core MinShell Сервер с графическим Desktop Experience
интерфейсом пользователя
Командная строка Доступно Доступно Доступно Доступно
Windows PowerShell Доступно Доступно Доступно Доступно
Server Manager Недоступно Доступно Доступно Доступно
MMC Недоступно Доступно Доступно Доступно
Панель управления Недоступно Недоступно Доступно Доступно
Приложения панели управления Недоступно Некоторые доступны Доступно Доступно
Проводник Windows Недоступно Недоступно Доступно Доступно
Панель задач Недоступно Недоступно Доступно Доступно
Область уведомлений Недоступно Недоступно Доступно Доступно
Internet Explorer Недоступно Недоступно Доступно Доступно
Справка Недоступно Недоступно Доступно Доступно
Темы Недоступно Недоступно Недоступно Доступно
Экран запуска в стиле Metro Недоступно Недоступно Недоступно Доступно
Приложения в стиле Metro Недоступно Недоступно Недоступно Доступно
Проигрыватель Windows Media Недоступно Недоступно Недоступно Доступно

Windows Server 2012 || 24


Подключение к лаб. работам
https://cloud.holsystems.com/itcamp
Подключение к лаб. работам
https://cloud.holsystems.com/itcamp

P@ssw0rd
Access event code: ITCM9467
Lab: Multi-Server Management
Подключение к лаб. работам
https://cloud.holsystems.com/itcamp
Построение инфраструктуры СХД
Александр Шаповал
Microsoft
СХД уровня предприятия на базе Windows
Платформа хранения данных на базе
ALWAYSWindows
ON, Управление хранилищами
уровня предприятия ALWAYS UP SERVICES

Storage spaces и тиринг Поддержка приложений SM-API (Улучшено в R2) Управление хранилищами в
(Улучшено в R2) поверх SMB 3.0 (Улучшено) VMM (Улучшено в R2)

Дедупликация данных SMB Direct (Улучшено в R2)


(Улучшено в R2)

Storage QoS (Новое в R2) Динамическая миграция Поддержка PowerShell


хранилищ

Многоканальный SMB Прозрачное отработка


отказа SMB

Аргументы и факты Использование текущих Защита данных


инвестиций

Архитектура хранилищ на Сравнение возможностей ODX DPM


основе стека Microsoft подсистем хранилищ
Windows Azure Backup
Производительность на Примеры от заказчиков Thin provisioning
основе стека Microsoft
Улучшения файловой системы
Соотношение цена / Виртуальный Fibre Channel Реплика Hyper-V (Улучшено в R2)
производительность Менеджер восстановления Hyper-V
recovery manager(Новое в R2)
Чего мы хотели достигнуть?
• Сократить издержки на СХД
• Построить масштабируемое,
производительное решение на
базе Windows
• Встроить механизмы класса
SAN в ОС
• Оптимизировать инвестиции в
SAN-инфраструктуру
• Упростить процессы
предоставления и управления
хранилищами
• Объединить собственные
SAN
инновации с инновациями
партнеров
Общая архитектура хранения данных
Hyper V

SMB

Масштабируемый файл-сервер

Storage space Storage space Storage space

Storage pool Storage pool Storage pool


Блочное
хранилище
Storage Spaces
Сервер приложений Windows или файл-сервер • Виртуализация хранилища при
помощи storage pools и storage
Физические или
spaces
виртуальные • Надежность и доступность
серверы
хранилища с использованием
стандартного оборудования
Управление на базе • Автоматическое распределение
Интеграция с Hyper-V Многоканальный SMB
PowerShell, Server Manager данных между ОЗУ, SSD и HDD
другими
технологиями Высокодоступный • Write-back кэш для
NTFS, ReFS, NFS SMB direct
Windows Server кластер предотвращения скачков при
2012 R2 случайных записях
Windows Storage
CSV Storage QoS Management • Надежность и избыточность
данных на основе режимов
Виртуализованное
зеркалирования и контроля
хранилище
Storage space Storage space Storage space четности
• Оптимальное использование
пространства с помощью thin и
trim provisioning
Storage pool Storage pool
Много- SSD • Интеграция с другими службами
уровневое Windows Server 2012 R2
физическое
• Поддержка SSD, SAS и SATA
хранилище
HDD
(Общие) SSD, SAS или
SATA
Гибридные пулы данных
Горячие данные
Холодные
• SSD и HDD используются как разные уровни данные
хранения в пределах одного пула
• Windows автоматически отслеживает
интенсивность обращений и блоками
распределяет данные по уровням
• Кэш обратной записи увеличивает
производительность приложений, работающих
с хранилищем
• Только «горячие» блоки файла (VHD, БД, и пр.)
перемещаются на SSD, «холодные» блоки Многоуровневое
остаются на HDD пространство

• Администратор имеет возможность явным Гибридный пул


образом размещать файлы на уровнях
SSD HDD
Оптимизация файлового сервера
Хост Hyper-V
Масштабирование на уровне папки
• Гранулированное распределение нагрузки
• Предотвращение ненужного трафика
перенаправления при обращении к SMB-ресурсу \\SOFS\Папка2

Оптимизированное масштабирование и SMB


перераспределение нагрузки
• Клиенты SOFS могут быть автоматически
перераспределены на наиболее подходящий узел
• Сессии SMB перенаправляются на узлы с лучшими
Папка1 Папка2 Папка1 Папка2
параметрами подключения хранилища
• Динамическое перераспределение при смене
владельца
• Автоматическая балансировка CSV- и SMB-ресурсов Storage spaces
Файл-сервер 1 Файл-сервер 2

Масштабируемый файл-сервер (SOFS)


Обеспечение устойчивости
Доставка приложений
высокой доступности

к сбоям в сети с помощью


SMB Multichannel
Буфер Сеть Буфер
• Автоматическое обнаружение и использование SMB SMB
нескольких сетевых соединений между клиентом
и сервером SMB Сетевая Сетевая
• Устойчивость серверных приложений к сетевым сбоям карта карта

• Если другое сетевое подключение недоступно, Копия


Копия
используется функция прозрачной отработки отказа файла
файла
с восстановлением после сбоя в сети

• Улучшенная пропускная способность


• Агрегация пропускной способности с помощью Сетевая Сетевая
карта карта
технологии объединения сетевых карт.
• Использование нескольких узлов или ЦП
для обработки данных сетевых адаптеров
с функцией RSS
• Автоматическое конфигурирование при минимальных
накладных расходах на администрирование

3
5
Дедупликация данных
Увеличение объема за счет устранения
дублирующихся данных

Поддержка открытых файлов


VHD/VHDX на удаленном VDI-
VHD с ОС
хранилище

Увеличенная масштабируемость и
VHD-библиотека производительность
• Улучшенная производительность ВМ в VDI-
сценариях
Папка с дистрибутивами • Низкое потребление ресурсов ЦП и ОЗУ
• Настраиваемое расписание
• Прозрачность для приложений

Общий файловый ресурс Улучшенная надежность и целостность


• Избыточность критических и метаданных
• Проверка контрольных сумм
• Высока доступность
0% 20% 40% 60% 80% 100%
Источник: ESG Lab and Microsoft Internal Testing
Интеграция с BranchCache
Средние показатели в зависимости от типа нагрузки
Сравнение возможностей
Традиционная СХД Файловый кластер Windows
на базе FC/iSCSI-массивов на базе Storage Spaces
• Многоуровневое хранилище • Многоуровневое хранилище (Новое в R2)
• Дедупликация данных • Дедупликация данных (Улучшено в R2)
• RAID-массивы • Отказоустойчивые опции (Улучшено в R2)
• Пулы дисков • Пулы дисков
• Высокая доступность • Непрерывная доступность
• Кэш обратной записи • Кэш обратной записи (Новое в R2)
• Выгрузка операций • Выгрузка SMB-операций копирования
копирования • Моментальные снимки
• Моментальные снимки
Знакомые модели внедрения
Традиционная СХД Файловый кластер Windows
на базе FC/iSCSI-массивов на базе Storage Spaces

Hyper-V Hyper-V
узлы узлы

FC/iSCSI SMB direct


(Блок) (Файл)

Встроенные ЦП Windows файл-


и контроллеры кластер
(специализи- Управление СХД Управление СХД (стандартное
рованное оборудование)
оборудование) FC/SAS полка Общий SAS JBOD
FC/SAS полка Общий SAS JBOD
FC/SAS полка Общий SAS JBOD
Кластер из коробки - дизайн 1/10G E или Infiniband 1/10G E или Infiniband
Сеть Сеть
Доступность x8 PCIe Серверная корзина x8 PCIe
• Всегда доступен по крайней мере один узел и Сервер A Сервер B
хранилище 1/10G Ethernet дубль-канал
ЦП (через панель) ЦП
• Резервирование электропитания
x8 PCIe x8 PCIe

x4 SAS (Через панель)


Контроллер
Контроллер
Простота x4 SAS
x4 SAS (Через панель)

• Преднастроенная конфигурация всех x4 SAS


B-
компонентов SAS SAS
… порты
РасширениеDataOn – DNS 9220
A-
порты
0 1 23 Расширение

Гибкость
• PCIe для различных сетевых опций Внешний JBOD
• Расширение за счет внешних SAS-портов
Приемлемый уровень шума и нагрузки на сеть B-порты
• SAS SAS
электропитания для размещения под столом Расширение A-
0 1 … 23
Расширение
порты

http://dataonstorage.com/cluster-in-a-box/
Дополнительные
JBODы …
Подключение к лаб. работам
https://cloud.holsystems.com/itcamp

Access event code: ITCM9467


Lab: Building a Storage Infrastructure. Storage Technologies
Построение сетевой
инфраструктуры
Александр Шаповал
Microsoft
Сетевые возможности
Упрощение управления
Усовершенствованные программные Повышение Сетевое взаимодействие
сетью в центре
средства сетевого взаимодействия производительности сети в гибридном облаке
обработки данных

Управление IP-адресами
Виртуализация Расширяемый коммутатор Взаимодействие между
SMB Direct (RDMA) (IP Address Management,
сети Hyper-V Hyper-V Extensible Switch подразделениями
IPAM)

Усовершенствованный Microsoft Windows Подключение


Встроенный vRSS
диспетчер виртуальных PowerShell. к Azure
шлюз HNV
машин

Технология Single-Root I/O Удаленный Подключение


Доставка приложений высокой доступности Virtualization (SR-IOV) динамический захват к поставщикам услуг

Динамические очереди Управление сетью


Протокол Отработка отказа
виртуальных машин с помощью Диспетчера
SMB Multichannel DHCP-сервера
(D-VMQ) виртуальных машин

Мониторинг сети
Качество Объединение
с помощью
обслуживания сетевых карт
Диспетчера операций
Виртуализация сети с помощью HNV

Виртуальная Виртуальная
Множество виртуальных сетей поверх машина Contoso машина Fabrikam Сеть Contoso Сеть Fabrikam
физической сети

Для каждой виртуальной сети создается


иллюзия работы в реальной среде

ВИРТУАЛИЗАЦИЯ

Физический сервер Физическая сеть


Принципы виртуализации сети
Наложение на физическую сеть

Инкапсуляция с помощью протокола


NVGRE
Основные понятия HNV
Сеть ВМ (VM Network или Routing Domain в командлетах PowerShell)
Определяет границу изоляции
Маршрутизация между сетями ВМ должна быть явной
Состоит из одной или более виртуальных подсетей

Виртуальная подсеть (Virtual Subnet, VSID)


Определяет широковещательный домен

Мультитенантный ЦОД
VM Network Fabrikam Corp.
Contoso Corp.
Сеть Contoso R&D Сеть Fabrikam HR
Contoso Subnet1 Fabrikam Subnet2

Virtual
Subnet Contoso Subnet2 Contoso Subnet3 Fabrikam Subnet1
Основные понятия HNV
DNS SQL DC

Шлюз по умолчанию
Contoso Corp. Fabrikam Corp. Маршрутизация между ВМ в разных виртуальных
подсетях

Встроен в HNV-фильтр на каждом узле


S2S S2S
VPN VPN
Интернет HNV-шлюз
Требуется для взаимодействия за пределами сети
ВМ
Мультитенантный
VPN-шлюз Может работать в разных режимах:
VPN для взаимодействия Сеть-Сеть
Инфраструктура ЦОД с
поддержкой HNV Балансировка и NAT для доступа в Интернет

Маршрутизация для доступа к другим сетям ЦОД


Узел Узел
Сетевое взаимодействие
Provider Address VSID Customer Address
192.168.2.22 10.0.0.5 
GRE Key 5001 MACCA
192.168.5.55 10.0.0.7
192.168.2.22 10.0.0.5 
NVGRE-пакет
GRE Key 6001 MACCA
192.168.5.55 CA 10.0.0.7
192.168.2.22 Различные подсети 192.168.5.55

10.0.0.5 10.0.0.5 10.0.0.7 10.0.0.7


10.0.0.5 10.0.0.5 10.0.0.5  10.0.0.5
10.0.0.7 10.0.0.7 10.0.0.7 10.0.0.7

Инкапсуляция
Протокол Generic Routing Encapsulation (NVGRE)

Адресное пространство заказчика (Customer Address, CA)

Адресное пространство провайдера (Provider Address, PA)


Сетевое взаимодействие
Contoso Fabrikam

SQL Server Web SQL Server Web

10.1.1.2 10.1.1.3 10.1.1.2 10.1.1.3

10.1.1.2 192.168.1.10 10.1.1.2 192.168.1.10


10.1.1.3 192.168.2.12 10.1.1.3 192.168.2.12

192.168.n.n

Пространство PA

192.168.1.10 192.168.2.12

Hyper-V Узел 1 Hyper-V Узел 2


10.1.1.2 192.168.1.10 10.1.1.2 192.168.1.10 10.1.1.2 192.168.1.10 10.1.1.2 192.168.1.10
10.1.1.3 192.168.2.12 10.1.1.3 192.168.2.12 10.1.1.3 192.168.2.12 10.1.1.3 192.168.2.12

10.1.1.1 10.1.1.1 10.1.1.2 10.1.1.2

SQL Server SQL Server Web Web

Пространство CA
Использование HNV в
System Center 2012 R2 Virtual
Machine Manager
Демонстрация
Управление сетевым коммутатором
с использованием OMI Командлеты PowerShell для CIM

Как реализовано управление коммутатором


Модель CIM, соответствующая стандартам
Коммутаторы на базе инфраструктуры Взаимодействие
Open Management Infrastructure (OMI)
с использованием
Командлеты PowerShell для управления WS-MAN
коммутатором

Решенные проблемы OMI OMI OMI


Единый интерфейс управления сетевым
оборудованием разных поставщиков
Автоматизация стандартных задач управления
сетью
Система логотипов Logo Program позволяет
клиентам находить и покупать простые
в использовании коммутаторы
Партнерская экосистема

Шлюзы (программно-аппаратные
комплексы)

Коммутаторы на уровне стойки Расширения для коммутатора Расширения


с поддержкой OMI Hyper-V Hyper-V
Динамическое объединение
сетевых карт
Потоки трафика TCP, как правило,

не являются непрерывными.
Операционная система
 Группы пакетов, передаваемые между
потоками, называются «флоулеты» (flowlets)
 Функция динамической балансировки
нагрузки отслеживает разрывы в потоках Виртуальные
Виртуальные
определенной длины, чтобы свести адаптеры
адаптеры
к минимуму риск изменения порядка Сетевой адаптер, Сетевой адаптер,
входящий в группу входящий в группу
пакетов
 Потоки можно перемещать к другим членам
группы в границах флоулетов
для балансировки трафика Объединение сетевых карт
 Динамическая балансировка
и переключение нагрузки (LBFO)
обеспечивают максимально эффективное
использование ресурсов в группе сетевых
карт благодаря балансировке нагрузки
между всеми членами группы
 Идеальный вариант при небольшом
количестве ВМ в каждой группе
Virtual RSS Виртуальная
машина
Виртуальный
процессор
Виртуальный
процессор
Виртуальный
процессор
Виртуальный
процессор
• vRSS позволяет ВМ использовать практически
Виртуальная
всю доступную пропускную способность сетевая карта

существующего оборудования. Это дает возможность


виртуализировать традиционные рабочие нагрузки
с интенсивной обработкой сетевых запросов
• Расширяет возможности технологии RSS,
Узел 0 Узел 1 Узел 2 Узел 3
реализованной в Windows Server 2012
• Распределение трафика виртуальных машин
между несколькими виртуальными процессорами
обеспечивает максимально эффективное
использование ресурсов
• Помогает виртуализованным системам эффективно
использовать возможности сетевых карт,
поддерживающих скорость передачи данных
до 40 или 100 Гбит/с
0 1 2 3
• Не требует модернизации оборудования
и позволяет использовать любые сетевые 0 1 2 3
карты с поддержкой RSS

Входящие пакеты
Удаленный динамический
мониторинг
Функция удаленного динамического мониторинга
• Удаленный мониторинг сетевого трафика позволяет удаленно перехватывать пакеты
в Windows Server 2012 был непростой задачей и события ETW с любого узла в центре обработки
• Windows Server 2012 R2 позволяет легко данных для автоматизации масштабных
зеркалировать и перехватывать сетевой трафик для задач диагностики
удаленного или локального анализа
• Графический интерфейс пользователя WMI используется для настройки фильтров и усечения
предоставляет доступ к инструменту
Message Analyzer (Анализатор сообщений) WMI позволяет запускать
• Собирает перехваченные фрагменты трафика и останавливать сеанс
с удаленных компьютеров
• Предоставляет фильтры выбора пакетов
для конкретных IP-адресов и ВМ Собранный сетевой трафик
• Обеспечивает трассировку событий Windows События ETW
(Event Tracing for Windows, ETW)
для удаленного или локального анализа
Windows Server Сервер или клиент
2012 R2 с установленным
инструментом
Microsoft Message
Analyzer
Высокодоступная служба DHCP

Функция горячей
• Автоматическое восстановление после сбоев
DHCP в соответствии со спецификацией IETF замены протокола
для отказоустойчивого DHCP. DHCP Failover в сети
• Согласованность IP-адресов на нескольких узлах с топологией
позволяет устранить единые точки отказа.
«звезда»
• Использовать кластеризацию
нет необходимости, т. к. отказоустойчивость
реализована на уровне встроенных технологий.
• Отказоустойчивая конфигурация включает
в себя два сервера в разных географических
регионах. Функция
• Поддерживаются режимы «активный-активный» распределения
и «активный-пассивный».
нагрузки протокола
• Упрощенная подготовка и настройка
DHCP-сервера с помощью PowerShell. DHCP при отработке
отказа на одном
сайте в одной
подсети
Предварительная версия Windows Server 2012 R2 || 56
Управление IP-адресами
(IP Address Management, IPAM)
Администратор сети
Администратор структуры
Системный администратор
Компьютерный Клиент IPAM
• Управляет пространством физических и виртуальных криминалист Win vNext
адресов. WCF Сервер VMM
PS/WS SC vNext

• Автоматически импортирует и экспортирует сетевые Управление доступом на основе ролей Man


Microsoft Подключаемый модуль
конфигурации с помощью подключаемого модуля SQL Server для интеграции
для System Center Virtual Machine Manager. SQL 2008 R2, IPAM-сервер
SQL 2012 WS vNext
• Синхронизирует информацию о сайтах и подсетях
Active Directory с IPAM.
• Поддерживает масштабные развертывания Группы безопасности Задачи по сбору данных DHCP-сервер
WS08
на предприятиях.
• Использует SQL Server для хранения информации Администратор Обнаружение сервера
IPAM DNS-сервер
об IP-адресах. Конфигурация сервера WS08 R2 и пакеты
Администратор обновлений SP
IPAM ASM Использование адресов
• Позволяет сетевым администраторам определять роли Сбор событий
Администратор
пользователей, а также управлять правами и политиками IPAM MSM Доступность сервера
доступа на основе ролей. Пользователи IPAM
DC-сервер
Мониторинг сервера WS8
Администратор
аудита IPAM Истечение срока
действия адреса
NPS-сервер
WS vNext

Предварительная версия Windows Server 2012 R2 || 57


Подключение к лаб. работам
https://cloud.holsystems.com/itcamp

Access event code: ITCM9467


Lab: Building a Network Infrastructure. Managing Networks with IPAM
Серверная виртуализация на
основе Hyper-V
Александр Шаповал
Microsoft
Эволюция Hyper-V

er 2 P1
08 2

rv 8 R S
R2
20 R
ь
ас

Se 00 ния

er 12
er 08

12
ил

rv 20
08
08

rv 20

20
r-V er ле
08 яв

20
20

Se ver
pe rv ов
Se ver
20 по

er

r-V er
Hy Se бн

2
r-V er
er V

rv

pe s S
pe s S

и ws а о
rv er-

Se

Hy w
Hy w

т
Se yp

и do
r-V

r-V do ке
и indo
ws я H

n
R2 pe in па
pe

i
r-V W
Максимальная

r-V W
do ги

Hy я W ск
Hy

pe ск
in о

pe ск

дл пу
масштабируемость.
W ол

ск

Динамическая миграция.

Hy пу
Hy пу

Вы
пу
в хн

Вы
Вы
Общие тома кластера. Пространства хранения.
Вы
Те

Учет ресурсов и управление


Совместимость Динамическая память
процессоров. RemoteFX качеством обслуживания.
«Горячее» добавление Усовершенствованная
хранилищ. Сентябрь миграция.
Июнь Октябрь Октябрь Февраль
Повышение Расширяемость.
2008 г. 2008 г. 2009 г. 2011 г. 2012 г.
производительности Аппаратная разгрузка.
и масштабируемости. Виртуализация сети.
Репликация.
Содержание
Масштабируемость и производительность
Безопасность и мультитенантность
Гибкая инфраструктура
Высокая доступность и отказоустойчивость
Масштабируемость и производительность

Запуск самых ресурсоемких приложений с максимальной


производительностью и масштабируемостью Максимальная масштабируемость
узлов, кластеров и виртуальных машин
Оптимизация Гарантированный
доступности уровень Управление качеством
ресурсов для обслуживания для Поддержка NUMA обслуживания для сетей
для гостевых систем и хранилищ данных
основных основных
приложений и приложений и
рабочих нагрузок рабочих нагрузок Усовершенствованная
динамическая память

Возможность внедрения инновационного Аппаратная разгрузка и интеграция


оборудования при сохранении вычислительных ресурсов, хранилищ
существующих систем данных и сетевого оборудования
Масштабируемость физических и виртуальных
компонентов
Виртуализация самых Масштабируемость Виртуальный
64
корпоративного ЦП
ресурсоемких рабочих нагрузок уровня для
основных рабочих Виртуальная
Узлы нагрузок память 1 ТБ
• Поддержка до 320 логических процессоров
и 4 ТБ физической оперативной памяти на
каждом узле
• Поддержка до 1024 виртуальных машин на 320 4 ТБ
каждом узле
Кластеры
• Поддержка до 64 физических узлов и 8000
виртуальных машин в кластере
Виртуальные машины
• Поддержка до 64 виртуальных процессоров
и 1 ТБ памяти на каждой ВМ

Логические Физическая Физические


процессоры память узлы 64
Виртуальные машины 2-го поколения
Синтетическая
сетевая карта.
ВМ на базе оптимизированного Поддержка
виртуализованного оборудования протокола
удаленной
загрузки PXE
Простота управления и эксплуатации
• Загрузка с использованием PXE и синтетических
виртуальных сетевых адаптеров «Горячее»
• «Горячее» подключение приводов CD/DVD подключение
Динамическое хранилище данных приводов
• ВМ поддерживают интерфейс UEFI и CD/DVD
загрузочные диски ОС с таблицей разделов GPT
размером более 2 ТБ
Загрузка
• Ускоренная загрузка с виртуальных жестких
дисков SCSI с поддержкой динамического
с виртуального
Виртуальная жесткого диска
изменения размера без перевода в
автономный режим; повышенная
машина 2-го SCSI
производительность поколения
Безопасность
Функция
• Отказ от эмулированных устройств позволяет безопасной
свести к минимуму поверхность атаки
загрузки UEFI для
• Функция безопасной загрузки UEFI для ВМ ВМ
Виртуальные машины
второго поколения
Демонстрация
Изменение размера виртуального жесткого
диска VHDX без его перевода в автономный
режим
Возможность изменения размера
виртуального жесткого диска VHDX без его
перевода в автономный режим обеспечивает
гибкость хранилища данных для ВМ

Увеличение размера виртуальных жестких


дисков SCSI
1. Увеличение размера виртуальных жестких
дисков VHDX, подключенных
к запущенной виртуальной машине
2. Последующее увеличение объема тома в
гостевой операционной системе
Уменьшение размера виртуальных жестких
дисков SCSI
3. Уменьшение размера тома в гостевой Незанятое пространство
операционной системе Основной раздел 30Основной
ГБ раздел 40 ГБ
10 ГБ
4. Уменьшение размера виртуального
жесткого диска VHDX, подключенного к Диск и том, размер которых увеличен с нулевым временем
запущенной виртуальной машине простоя
Изменение размеров
виртуального жесткого диска
Демонстрация
Управление качеством обслуживания для
хранилищ данных
Контроль распределения
количества операций ввода-вывода
в секунду между дисками ВМ Диск VHDX для
Виртуальная ОС
• Администратор может указать максимальный
машина
лимит для количества операций ввода- Диск VHDX для
вывода в секунду
данных
• Учет количества операций ввода-вывода в
секунду для входящего и исходящего трафика Узел Hyper-V
• Настраивается для отдельных дисков,
подключенных к запущенной виртуальной
машине, с целью обеспечения максимально
точного измерения
500 1000
• Не позволяет отдельным ВМ
монополизировать всю доступную полосу
пропускания базового физического ресурса
• Поддерживает динамические,
фиксированные и разностные диски 0 1500
Количество операций
ввода-вывода
в секунду
Контроль операций ввода-
вывода виртуальных жестких
дисков
Демонстрация
Безопасность и мультитенантность

Максимальная безопасность и изоляция


рабочих нагрузок благодаря точному контролю PVLAN, ACL виртуального порта,
мониторинг и зеркалирование портов

Обеспечение
Интеграция с новым соответствия DHCP и защита
и существующим нормативным маршрутизатора
программным требованиям
обеспечением с помощью Расширяемый
и оборудованием шифрования коммутатор Hyper-V Шифрование диска
Extensible Switch BitLocker

Обширная партнерская экосистема —


Встроенные обработчики для настройки расширение возможностей платформы
и расширяемости с помощью многофункциональных решений
Hyper-V Extensible Switch
Виртуальная машина Виртуальная машина

• Дополнительные расширения увеличивают


функциональные возможности виртуального Родительский раздел
коммутатора
Сетевой Сетевой Сетевой
• Открытая платформа поддерживает сторонние адаптер ВМ адаптер узла адаптер ВМ
подключаемые модули, расширяющие
функциональные возможности
Виртуальный коммутатор
• Клиент может управлять виртуальной сетью
таким же образом, как и физической сетью Расширение для протокола
• Средства контроля обеспечивают безопасность Расширение
Расширения А
для захвата
виртуальной машины и ее трафика
• Диспетчер виртуальных машин обеспечивает
Расширение
Расширения C
для фильтрации
унифицированное управление подключаемыми
модулями и их применение в масштабах всего
Расширение
Расширения D
для пересылки
центра обработки данных
Расширение для мини-порта
• Возможно использование встроенных драйверов
фильтров NDIS, драйверов внешних вызовов WFP,
расширений для поиска пункта назначения
Физическая
и пересылки, а также для фильтрации на выходе сетевая плата

Архитектура расширяемого коммутатора Hyper-V


7
Интеграция политик Абстрагирование рабочих нагрузок Контроль трафика 1
Расширенные списки ACL
Демонстрация
Мультитенантный шлюз VPN
DNS- SQL Контроллер домена
Мост между сетями ВМ
и физическими сетями
Проблемы
Contoso Fabrikam • Поставщик услуг размещения хочет предоставлять изолированные
сети для виртуальных машин клиента со встроенным S2S VPN
и NAT
• Предприятия используют виртуализованные сети, которые
охватывают различные центры обработки данных,
SPS SPS или виртуализованные сети (с поддержкой NVGRE),
VPN VPN взаимодействующие с физическими сетями
(без поддержки NVGRE)
Интернет
Решение
• Мультитенантный шлюз VPN в Windows Server 2012 R2
• Встроенный мультитенантный пограничный шлюз,
Мультитенантный обеспечивающий беспрепятственное взаимодействие
шлюз VPN
• Поддержка гостевой кластеризации с целью обеспечения
высокой доступности
Центр обработки данных узла • BGP для динамического обновления маршрутов
Структура виртуализации сети • Инкапсуляция и декапсуляция пакетов NVGRE
• NAT с поддержкой мультитенантности для доступа
в Интернет
Узел Узел

Контроль трафика Абстрагирование рабочих нагрузок Интеграция политик


Гибкая инфраструктура
Одновременная динамическая миграция нескольких
Максимальная гибкость миграции виртуализованных рабочих систем
нагрузок без перерыва и простоя Динамическое Динамическая миграция
клонирование хранилищ

Масштабируемая и Дублирование
изолированная Обновленные функции Динамическая миграция
виртуальных машин с
мультитенантная целью тестирования и динамической со сжатием
инфраструктура без VLAN устранения неполадок миграции Динамическая миграция
с использованием
Динамическая технологии удаленного
миграция с прямого доступа к памяти
Поддержка операционных систем сторонних использованием SMB RDMA
поставщиков (не Microsoft)
Динамическая миграция в режиме Shared
Nothing
Обновление до последней версии Hyper-V без
остановки основных рабочих нагрузок Виртуализация сети
Поддержка Linux для Hyper-V
Комплексная поддержка
виртуализованной ОС Linux
Хранилище Рабочие
конфигурации процессы

Существенное расширение возможностей Приложения Приложения


взаимодействия Поставщик
WMI
• Поддержка различных дистрибутивов Служба управления Прогрессивный режим Прогрессивный режим
и версий Linux в Hyper-V Оптимизированная Оптимизированная
производительность производительность
• Включая Red Hat, SUSE, OpenSUSE, CentOS и Оптимизированные Оптимизированные
Ubuntu синтетические устройства синтетические устройства
Поставщик
Ядро
Комплексная поддержка функций Windows
виртуальных
служб Клиент Клиент
• 64 виртуальных ЦП с архитектурой SMP служб служб
Драйверы независимых
поставщиков оборудования виртуализаци виртуализации
• Поддержка виртуальных SCSI, горячего и
добавления и изменения размера без
перевода в автономный режим
Hyper-V
• Полная поддержка динамической памяти
• Динамическое резервное копирование Серверное оборудование
• Полная поддержка служб интеграции
Поддержка Linux
Демонстрация
Динамическое клонирование виртуальных
машин
Создание копии работающей
виртуальной машины

Экспорт клона работающей виртуальной


машины
• Создание образа работающей виртуальной ВМ ВМ
машины в определенный момент времени с 1 2
последующим экспортом в альтернативное
местоположение
1 Пользователь инициирует экспорт работающей ВМ
• Позволяет устранять неисправности
без перерыва в работе основной ВМ
Экспорт из существующей контрольной точки Hyper-V выполняет динамическое клонирование и экспорт копии
2 работающей виртуальной машины на определенный момент
• Экспорт полного клона виртуальной машины времени, файлы размещаются в целевом хранилище
на определенный момент времени,
существующая контрольная точка для
виртуальной машины 3 Администратор импортирует новую остановленную виртуальную
машину на целевой узел, финализирует конфигурацию и запускает ВМ
• Контрольные точки автоматически
объединяются в один виртуальный диск С помощью VMM администратор может выбрать узел (при
4
использовании мастера клонирования)
Динамическая миграция

Одновременная миграция
нескольких ВМ без простоя Измененные
Настройка
Дескриптор
Страницы
страницы
динамической
хранилища
памятипамяти
переданы
перемещен
миграции
переданы

• Ускоренная динамическая миграция при


максимально эффективном использовании
доступных сетевых ресурсов ВМ Измененные
Данные конфигурации
страницы
Содержимое памяти
памяти ВМ

ОПЕРАТИВНАЯ ПАМЯТЬ
• Одновременная динамическая миграция
нескольких систем
• Если сеть поддерживает скорость более 10
Гбит/с, используется SMB Direct зел
IP-соединение ойу
лев
Це
• Гибкие варианты хранения данных
• Если виртуальная машина использует общий
файловый ресурс SMB 3.0, кластеризация не
требуется

Хранилище данных iSCSI,


FC или SMB
Сжатие данных при динамической миграции

Ускоряет передачу данных в ходе


Измененные страницы памяти сжимаются, затем
динамической миграции Страницы
Настройка
Дескриптор
памятидинамической
сжимаются,
хранилища затем
перемещен
миграции
передаются
передаются

• Для сжатия данных используются


доступные ресурсы ЦП узла
М

ОПЕРАТИВНАЯ ПАМЯТЬ
ВМ Данные конфигурации ВВМ
• Сжатые страницы памяти быстрее Измененные страницы
Содержимое памяти
памяти
передаются по сети
• Работает в сетях с пропускной
способностью менее 10 Гбит/с зел
IP-соединение ойу
лев
Це
• Ускорение динамической миграции
в два раза

Хранилище данных iSCSI,


FC или SMB
Динамическая миграция с использованием
RDMA
Ускорение динамической
Измененные
Страницы памяти
страницы
передаются
памяти передаются
с высокой с
миграции с помощью RDMA Настройка
Дескриптординамической
хранилища перемещен
миграции
высокой
скоростью
скоростью
• Технология удаленного прямого доступа к
памяти (Remote Direct Memory Access, RDMA)

ПАМЯТЬ
ОПЕРАТИВНАЯПАМЯТЬ
позволяет сократить задержки в сети, Измененные
Данные страницы
Содержимое памяти
конфигурации
памяти
ВМ ВМ
повысить эффективность использования

ОПЕРАТИВНАЯ
ресурсов ЦП и увеличить пропускную
способность
• Скорость передачи данных до 56 Гбит/с зел
IP-соединение с ойу
• Windows Server 2012 R2 поддерживает лев
использованием Це
RDMA
решения RoCE, iWARP и Infiniband RDMA
• Максимальная производительность
динамической миграции
• Сжатие данных не поддерживается

Хранилище данных iSCSI,


FC или SMB
Динамическая миграция для обновления ОС

Упрощенное обновление версии Обновление кластера Hyper-V с нулевым временем простоя


2012 до 2012 R2 2012 2012 R2

1
0
3
2 1
0
2
3
• Windows Server 2012 Hyper-V можно
обновить до Windows Server 2012 R2 Hyper-V
без перерывов в работе ВМ
• Поддержка динамической миграции
хранилищ данных в режиме Shared Nothing
• При использовании общего хранилища SMB
передается только состояние выполнения ВМ
в целях ускорения процесса Узлы
• Автоматизация с помощью PowerShell Hyper-V
• Только односторонняя миграция

Хранилище
SMB
Динамическое
клонирование ВМ и
динамическая миграция
Демонстрация
Высокая доступность и отказоустойчивость

Надежная и устойчивая к сбоям инфраструктура для запуска Кластеризация с переходом по отказу


непрерывно доступных служб Резервное
копирование Online NIC Teaming
Расширенная
Гибкость и обеспечение Упрощенное репликация
отказоустойчивости на обслуживание с помощью Hyper-V Гостевая кластеризация
уровне приложений инфраструктуры Replica

Диспетчер восстановления
Эффективные решения для аварийного Общий диск VHDX Hyper-V Recovery Manager
восстановления
Приоритет перехода на другой ресурс и
правила сходства

Интеграция с облачными сервисами Обновление с поддержкой кластера

Объединение сетевых карт


Гостевая кластеризация с общим диском VHDX
Гостевые кластеры больше не
зависят от топологии хранилища Гибкие варианты размещения общих дисков VHDX
данных
• Несколько виртуальных машин могут Гостевой Гостевой
одновременно использовать файлы VHDX в
качестве общего хранилища данных кластер кластер
• ВМ может подключаться к общему
виртуальному диску SAS
• К общему файлу VHDX может подключаться
неограниченное количество виртуальных Кластеры узла
машин Hyper-V
• Используется постоянное резервирование
SCSI
• VHDX может находиться на общем томе
кластера в хранилище с блочной записью
или в файловом хранилище
Общий Общий
• Поддерживает динамические и файл CSV на базе хранилища Общий файловый файл
фиксированные VHDX VHDX с блочной записью ресурс SMB VHDX
Файловое
хранилище
Гостевая кластеризация с
общими VHDX-дисками
Демонстрация
Hyper-V Replica
Репликация виртуальных машин
Hyper-V с основного узла После
При сбое
активации
в работе
функции
узла виртуальные
Hyper-V Replica
машины
начинается
могут
Затем копии обновляются с заданной частотой
на резервный бытьрепликация
запущены навиртуальных
вспомогательном
машин узле
Основной узел Вспомогательный узел
• Доступное и готовое к использованию Реплицированные
Начальная копия
решение для обеспечения непрерывности изменения
бизнеса и аварийного восстановления
• Регулируемая частота репликации (30 секунд,
5 или 15 минут)
• Безопасная репликация по всей сети
• Поддерживается любое оборудование на
любом узле
• Не требуются другие технологии репликации
виртуальных машин
• Автоматическая обработка динамической CSV на базе Общий
миграции хранилища файловый
• Упрощение конфигурирования и управления с блочной ресурс SMB
записью Файловое
хранилище
Hyper-V Replica | Расширенная репликация
Репликация на третий узел как
дополнительная защита от сбоев На вторичном
Репликация узле можно
настроена настроить репликацию
на копирование с основного
на на
узла третий узел
вторичный
• После успешного копирования виртуальной Узел DR
машины на вспомогательный узел можно
воспроизвести эту копию
на третьем узле
• Репликация по цепочке
• Содержимое дополнительной копии
соответствует содержимому основной
• Частота создания дополнительной копии
может отличаться от частоты создания
основной Хранилище
• Полезно в рамках сценариев типа: SMB —> DAS
Поставщик услуг —> Узел DR поставщика
услуг
Диспетчер восстановления Hyper-V Recovery
Manager
Оркестрация защиты и
восстановления частных облаков Windows Azure
Диспетчер восстановления
Hyper-V Recovery Manager
• Защита важных сервисов благодаря

Ко
ый
координации репликации и восстановления

мм
л нн
частных облаков, управляемых средствами

на ио

ун кан
VMM

ик ал
ка ка ц

ац
и

ио
ун
• Автоматизированная репликация ВМ

мм

н
ны
с одного узла частного облака на другой Бизнес-облако / среда Бизнес-облако/среда

Ко

й
тестирования и разработки тестирования и разработки
• Hyper-V Replica поддерживает репликацию
под управлением Hyper-V Recovery Manager
System Center 2012 R2 Отработка System Center 2012 R2
отказа
• Может использоваться для
запланированного, внепланового и
тестового переноса ВМ с одного узла на
другой
• Поддерживается интеграция со сценариями Узлы Узлы
разработки пользовательских планов Hyper-V Hyper-V
Канал
аварийного восстановления репликации

ЦОД 1 ЦОД 2
Усовершенствованный режим сеанса
Усовершенствованная технология
VMConnect для максимального
удобства пользования
Усовершенствованные функции VMBus
• Передача звука через VMConnect
• Операции копирования и вставки между
узлами и гостевыми системами
• Перенаправление смарт-карт
• Доступ к удаленному рабочему столу через
VMBus
Активировано для Hyper-V на сервере
и клиенте
Полная поддержка динамической миграции
виртуальных машин
Автоматическая активация виртуальных машин
Упрощенная активация виртуальных
машин на базе Windows Server 2012 ВМ на базе Узел центра обработки данных на базе
Windows Server Windows Server 2012 R2, активированный с
R2 2012 R2
1
использованием обычного лицензионного
• Активация виртуальных машин без ключа
необходимости управления ключами на
каждой из них ВМ на базе Windows Server 2012 R2
2 создается с ключом AVMA, встроенным в
• ВМ активируется на этапе загрузки
сборку
• Встроенные средства подготовки отчетности
и отслеживания
• Активация ВМ на удаленных узлах, В момент запуска ВМ ищет активированный
в том числе без подключения к Интернету 3 узел центра обработки данных на базе
Windows Server 2012 R2 с ролью Hyper-V
• Поддерживается миграция ВМ
• Общий ключ AVMA для виртуальных машин
может быть задействован на узле с
Узел центра
активированной Windows Server 2012 R2 обработки данных
Гостевая ОС активируется, следующая
на базе Windows 4 сверка с узлом будет выполнена после
Server 2012 R2 с перезагрузки гостевой ОС или через семь
ролью Hyper-V дней
Усовершенствованный
режим сеанса
Автоматическая активация
Демонстрация
Итоги

Масштабируемость и Безопасность и Гибкая Высокая доступность Инновации


производительность мультитенантность инфраструктура и отказоустойчивость в области
виртуализации

Hyper-V: комплексная платформа виртуализации


Ресурсы
Windows Server 2012 R2
http://technet.microsoft.com/ru-RU/evalcenter/dn205286

System Center 2012 R2


http://technet.microsoft.com/ru-RU/evalcenter/dn205295

Windows Azure
http://msdn.microsoft.com/ru-ru/ff380142

Портал Microsoft Virtual Academy


http://www.microsoftvirtualacademy.ru

Портал TechNet
http://technet.microsoft.com/ru-ru/
Сессия вопросов и ответов
Александр Шаповал
Эксперт по стратегическим технологиям
Email: ashapo@microsoft.com
Blog: http://blogs.technet.com/b/ashapo
Twitter: @ashapoval