Resumen Este documento describe las caractersticas del hardware utilizado para la implantacin de un cloud privado en los centros educativos participantes en el proyecto. Tomando como referencia principal las recomendaciones para la implantacin de un cloud privado con OpenStack, se ha particularizado para las caractersticas y necesidades del uso en centros educativos, en los que se prev que se puedan utilizar hasta 150 instancias simultneamente. Este documento forma parte del proyecto de innovacin Implantacin y puesta a punto de la infraestructura de un cloud computing privado para el despliegue de servicios en la nube, cofinanciado por el Ministerio de Educacin, Cultura y Deportes y el Fondo Social Europeo, al amparo de la Resolucin de 5 de abril de 2011, de la Secretara de Estado de Educacin y Formacin Profesional, por la que se convocan ayudas destinadas a la realizacin de proyectos de innovacin aplicada y transferencia del conocimiento en la formacin profesional del sistema educativo (BOE nmero 100 del 27 de abril de 2011).
Infraestructura para el cloud Nov 2012, 10
Infraestructura para el cloud
2 Captulo 1. Introduccin La eleccin adecuada del hardware para la implantacin de un cloud de infraestructura es un paso muy importante, bien se trate de adquirir hardware nuevo o reutilizar el hardware del que se dispone. Una de las ventajas que tiene planificar las caractersticas de hardware para un cloud de infraestructura es que es un sistema fcilmente escalable, por lo que puede dimensionarse para las necesidades actuales o sobre-dimensionar ligeramente para las inmediatamente futuras. Si posteriormente es necesario aumentar las prestaciones del hardware, se pueden adquirir nuevos elementos e integrarlos fcilmente con los actuales, sin necesidad de hacer modificaciones en los primeros. Este documento describe un caso particular de cloud utilizado con fines educativos, el objetivo final es que cada uno de los centros participantes cuente con un cloud privado en el que sus alumnos puedan ejecutar varias instancias de forma simultnea, pero no es un sistema en produccin propiamente, por lo que no es una prioridad el respaldo o la configuracin en alta disponibilidad de los servicios. Hay varios aspectos de infraestructura a considerar, algunos de ellos sern obvios para algunos de los lectores, pero los incluimos pensando en la implantacin partiendo de cero, los aspectos que veremos a continuacin son: Adecuacin de las salas de los servidores Servidores Redes Infraestructura para el cloud
3 Captulo 2. Salas Como es lgico, para la implantacin y localizacin de los distintos servidores se ha elegido en cada uno de los centros participantes una sala adecuada para su puesta en funcionamiento. La caracterstica principal de estas salas es que estn interconectadas con cableado estructurado a cada una de las aulas donde se imparte docencia y donde se explota por parte de profesores y alumnos las distintas funcionalidades ofrecidas por el Cloud Privado. Salvo algunas particularidades, las salas cuentan principalmente con: Armario Rack para servidores y conmutadores Cableado estructurado de interconexin con aulas de docencia Sistema de refrigeracin para mantener temperatura constante Sistema SAI para normalizacin de fluido elctrico Armario Rack
Armario rack de 42/46 U para albergar tanto los distintos conmutadores, paneles de parcheo y servidores del proyecto del Cloud Privado. Puesto que este armario alojar servidores en formato rack que suelen tener mucha profundidad, el armario deber ser de 900 o 1000 cm de profundidad. En este armario se instalan el o los switches necesarios para la conectividad del Cloud con las aulas as como los nodos del cloud (equipo controlador, computacin y almacenamiento, equipos cuyas caractersticas se detallan en el captulo Servidores). Infraestructura para el cloud
4 En instalaciones tan pequeas como sta, todos los elementos (equipos y elementos de red) pueden compartir un mismo armario, mientras que en instalaciones mayores, estn normalmente separados. Todos los equipos que se instalan en el armario incluyen ventiladores internos para refrigerar sus componentes. Estos ventiladores normalmente crean una corriente de adelante hacia atrs, salvo algunos elementos de red que la generan de lado a lado (esto es porque es posible poner elementos de red en la parte delantera y trasera del armario). Esto hace que sea recomendable siempre localizar el armario en frente del sistema de refrigeracin para proporcionar una corriente de aire fro desde la parte delantera del armario hacia la parte trasera del mismo. En instalaciones mayores, en las que la refrigeracin es un problema de primera magnitud es muy recomendable la creacin de pasillos aislados entre las partes delanteras y traseras de los armarios, lo que se denomina pasillos fros y calientes. La ubicacin de cada uno de los elementos en el armario se debe planificar previamente teniendo en cuenta los siguientes aspectos: Los sistemas de alimentacin ininterrumpida deben ir en la parte inferior del armario. Los servidores que son equipos que producen mucho calor y deben estar muy bien refrigerados deben estar lo ms abajo posible, ya que la temperatura de la sala ser ms fra en la parte inferior. Los elementos de red suelen ir en la parte superior, ya que no es tan importante la refrigeracin en ellos. En el caso de contar con bandejas para fibra ptica, stas deben ir en la parte ms alta del armario. Teniendo en cuenta estas premisas, se plantea de forma esquemtica la disposicin de los Infraestructura para el cloud
5
Diagrama del armario de uno de los centros, en la que se disponen todos los elementos de la red y los equipos del cloud. Cableado estructurado
Infraestructura para el cloud
6 Para la conectividad de las aulas con el Cloud Privado se cuenta bien con fibra ptica multimodo, bien con cable de pares UTP de categora 6 desde cada una de las aulas a la sala de servidores. En los centros en los que cada aula contaba con su switch se procede a conectar ste con el panel de parcheo de la sala de servidores. En uno de los centros se procede a cablear directamente desde cada punto de red de aula hasta la sala de servidores.
Fotografa de los paneles de parcheo para la interconexin de las aulas en el armario de uno de los centros participantes. Cada color corresponde a un aula y a una de las VLAN definidas. Los cables UTP que no estn conectados todava corresponden a la red SAN del cloud, que todava no estaba montada cuando se tom la fotografa. Infraestructura para el cloud
7 Sistema de refrigeracin
Cada una de las salas de servidores cuenta con un sistema de refrigeracin para mantener temperatura constante de los servidores. Debido a las especificaciones tcnicas de los servidores esta temperatura se mantiene entre 21 y 23 grados centgrados. Uno de los aspectos a destacar es que el proveedor de los servidores recomienda que adems del sistema de refrigeracin del tipo aire acondicionado se aada un extractor de aire de forma que no solo se refrigere a travs del aire acondicionado sino que adems se proceda a extraer el aire caliente de la sala de servidores conllevando as un ahorro energtico. Sistema de Alimentacin Ininterrumpida
(SAI)
Para la normalizacin y continuidad del fluido elctrico se decide instalar para cada uno de los centros en la sala de servidores un SAI. Las caractersticas de cada uno de los SAI adquiridos resultan un tanto diferentes pero como ejemplo para la infraestructura que se est utilizando se ha optado por SAI de entre 3000 VA y 4000 VA para soportar la carga de los distintos servidores y equipos de conectividad dedicados al proyecto. Captulo 3. Servidores Los componentes principales de la infraestructura del cloud de infraestructura son los servidores que van a formar parte del mismo. Para implantar una infraestructura de estas caractersticas hay que hacer una inversin importante por lo que es necesario conocer de forma precisa las caractersticas necesarias para estos equipos. Infraestructura para el cloud
8 La principal referencia que se utiliz fue http://www.referencearchitecture.org/hardware-specifications/, que lamentablemente ya no est disponible. En la referencia anterior se detallaba de forma precisa las caractersticas mnimas y las recomendables para cada uno de los equipos que forman el cloud. Con toda esta informacin, nos decidimos por un determinado esquema en el que contaramos con un nodo controlador, cuatro nodos de computacin y un nodo de almacenamiento, equipos que se describen a continuacin.
Tipos de servidores
Dependiendo del tamao de la organizacin y por tanto del nmero de equipos que se va a utilizar, se podr asignar una funcin a cada servidor Infraestructura para el cloud
9
Ejemplo de esquema de nodos de una infraestructura con varios nodos controladores y diferentes redes de computacin, ms informacin en la documentacin oficial de OpenStack. Para una organizacin pequea, como es nuestro caso, el esquema es mucho ms sencillo y distinguiremos slo entre tres tipos de nodos, dependiendo de la funcin que tendrn que realizar dentro del cloud: Nodo controlador: Equipo en el que se instalarn la mayor parte de los servicios de gestin del cloud (autenticacin, planificador, gestin del cloud, APIs, etc.) Infraestructura para el cloud
10 El nodo controlador no precisa ninguna caracterstica especial y puede utilizarse cualquier equipo de caractersticas bsicas. S sera importante, quizs en una segunda fase o como primera ampliacin, tener dos nodos controladores funcionando en alta disponibilidad porque cualquier problema de funcionamiento de este equipo deja el cloud completamente inoperativo. Nodo de computacin: Equipos en los que se ejecutarn las instancias y que por tanto necesitan procesadores potentes y mucha memoria RAM. Cualquier cloud de infraestructura contar con varios nodos de computacin, tantos ms cuantas ms instancias sea necesario ejecutar simultneamente. La cantidad de memoria RAM consumida por cada instancia depende mucho del sistema operativo que estn ejecutando, pero en el caso de un uso educativo y no de servidores en produccin, sera suficiente con contar entre 0,5 y 2 GiB de RAM por instancia.
Infraestructura para el cloud
11 Nodo de almacenamiento: Equipo encargado de guardar las imgenes de los sistemas, las instantneas (snapshots) y los volmenes persisitentes de las instancias que se ejecuten. Obviamente en un equipo que necesitar tener varios discos duros configurados apropiadamente. Configuraciones mnima y recomendada
El factor fundamental que condiciona el nmero de nodos necesarios para implementar un cloud con OpenStack es el nmero de instancias que simultneamente se van a ejecutar. En este sentido se podra plantear una configuracin mnima como la del siguiente esquema:
Esquema de cloud formado por un nodo controlador y dos nodos de computacin. En este esquema el nodo controlador tendr que asumir tambin las funcionalidades del nodo de almacenamiento y los dos nodos de computacin sern los equipos que ejecuten las instancias. Dependiendo de las caractersticas de los nodos de computacin se podrn ejecutar ms o menos instancias simultneamente.
Infraestructura para el cloud
12 Para mejorar la configuracin anterior, habra que aumentar el nmero de nodos de computacin y separar el almacenamiento en un equipo aparte del nodo controlador, que permita por ejemplo instalar un sistema operativo especficamente orientado al almacenamiento por ejemplo. Es por esto por lo que planteamos como configuracin recomendada para nuestro caso la del siguiente esquema: Esquema de cloud formado por un nodo controlador y dos nodos de computacin. Adems de lo anterior, los nodos de computacin se comunican con el nodo de almacenamiento a mediante 3 interfaces de red Gigabit Ethernet que habr que configurar en modo bonding ya que es posible que haya mucho trfico de red entre los nodos de computacin y el de almacenamiento si se utiliza mucho almacenamiento permanente. Adems los nodos de computacin estn directamente conectados a lo que se denomina red pblica, que se explicar posteriormente, lo que permite que se acceda a las instancias directamente sin pasar por el nodo controlador. Nodo controlador
Infraestructura para el cloud
13 Este es el equipo ms importante del cloud, ya que de su buen funcionamiento depende que el cloud est operativo o no, es por eso por lo que es aconsejable disponer de dos nodos similares con todos los servicios del cloud configurados en alta disponibilidad (high availability (HA)) Procesador x86_64 (no son necesarias extensiones de virtualizacin por hardware). 32 GiB de RAM ECC registrada 1 interfaz de red 1 Gbps 1 TB de disco duro De acuerdo a estas caractersticas, en este proyecto se eligi el servidor HP Proliant DL380p Gen8. HP Proliant Dl380p gen8
Este equipo es el encargado de gestionar y organizar todo el cloud, es el que precisa una mayor configuracin del software pero a su vez no requiere unas prestaciones elevadas. Se ha optado por un servidor de una unidad de armario bastante convencional, en el que se configurarn los dos discos duros en modo RAID 1, para guardar los datos replicados en previsin de futuros fallos de disco. En una mejora posterior del cloud, se podra plantear poner este equipo en alta disponibilidad con otro equipo de caractersticas similares.
Infraestructura para el cloud
14
Caractersticas
Cmo redefinir la experiencia del cliente - Las caractersticas de diseo inspiradas en el usuario, que se anticipan a sus necesidades y prcticamente eliminan los problemas comunes que producen tiempo de inactividad, incluyen los portadores HP SmartDrive, la gua Smart Socket, los rieles "Snap and Go", el diseo de cableado plano y un acceso fcil y sin necesidad de herramientas a todos los componentes que puede reparar el cliente.
Infraestructura para el cloud
15 - Automatizacin integrada del ciclo de vida, novedad en el sector, ofrece herramientas de aprovisionamiento integradas, control activo del estado y capacidades de mantenimiento del sistema estndar en todos los servidores ProLiant Gn8 y utilizando HP iLO, el motor de administracin lder del sector. - La aceleracin dinmica de la carga de trabajo ofrece una proteccin de datos ms inteligente para la creciente capacidad de las unidades, anlisis en tiempo real con conocimiento de la carga de trabajo para optimizar y adaptar el rendimiento de almacenamiento y rendimiento de estado slido 6 veces ms rpido en comparacin con la generacin anterior. - La optimizacin energtica automatizada aumenta la capacidad del servidor para analizar y responder a datos "mar de sensores 3D" dentro del servidor, as como contribuye con la autoubicacin e inventario a travs de Insight Control para una mxima optimizacin de la carga de trabajo en todo el centro de datos. Sistema de administracin intuitiva y configurable que elimina las tediosas tareas que demandan tiempo - Intelligent Provisioning toma los puntos fuertes de productos como SmartStart, Smart Update Manager y ProLiant Support Packs, los potencia con las ms recientes funciones de fcil utilizacin y los ubica donde usted pueda usarlos instantneamente, en la placa de sistema. - La supervisin de hardware sin agente y las capacidades de alerta estn integradas en el servidor con HP Agentless Management (se ejecuta en el chipset iLO 4). Comienza a funcionar en el momento en que un cable de alimentacin y un cable Ethernet estn conectados al servidor. - HP Active Health System proporciona supervisin del estado continua y permanente, registro de cambio de configuracin del 100 % y anlisis de problemas ms rpido con el servicio y soporte de HP. Inicie el anlisis de problemas 5 veces ms rpido usando las herramientas de diagnstico unificadas con la transferencia de datos segura al servicio y soporte de HP.
Mejoras en la aplicacin, almacenamiento y rendimiento de E/S - HP SmartMemory, que posee ventajas incomparables de rendimiento, calidad y capacidad de gestin por encima de los estndares del sector en cuanto a memoria. Compatible con RDIMM, UDIMM y LRDIMM, con
Infraestructura para el cloud
16 hasta 768 GB de capacidad y 128 GB de capacidad a 1.600 MHz. HP SmartMemory ofrece hasta un 200 % ms de capacidad de memoria en comparacin con las generaciones anteriores. - Nuevo controlador Smart Array RAID integrado y soporte para HP SmartStorage, que incluye PCIe 3.0, HP SmartDrives y cach de escritura respaldada HP Flash, con una capacidad de hasta 2 GB. Opcin de unidades SAS, SATA o SSD con soporte ptico, diecisis (16) SFF de 2,5 pulgadas u ocho (8) LFF de 3,5 pulgadas. - Hoy en da, HP FlexibleLOM ofrece la posibilidad de personalizar la red de servidores y la capacidad para satisfacer las necesidades futuras sin reacondicionar el hardware del servidor. Aporta la eleccin de ancho de banda (1 G y 10 G) y estructura de conexin (Ethernet, FCoE, InfiniBand), es compatible con WOL y proporciona un puerto iLO compartido para facilitar su uso.
Creada para lograr rendimiento, eficiencia y un acceso ms fcil - Las configuraciones de servidor ProLiant DL380p Gen8 con certificacin ENERGY STAR ilustran el compromiso continuo de HP de ayudar a los clientes a conservar energa y ahorrar dinero. - Con las nuevas guas deslizantes universales y sin herramientas, el DL380p Gen8 se instala rpidamente y sus palancas de liberacin permiten un acceso rpido al servidor. La opcin de un brazo de gestin de cable ambidiestro ofrece flexibilidad y gestin ms fcil de cableado, a fin de obtener un acceso rpido al servidor. - Primera gama de sensores de temperatura 3D (parte de nuestros exclusivos Thermal Discovery Services de HP) que ayuda a controlar con precisin los ventiladores de los servidor para direccionar la refrigeracin, lo que reduce el consumo innecesario del ventilador. - Primeras fuentes de alimentacin HP Platinum Plus de ranura comn (460 W, 750 W, 1.200 W) de alta eficiencia que se pueden comunicar con nuestro PDU inteligente de HP para asegurar que las fuentes redundantes se conectan a las PDU redundantes. - La gama de procesadores Intel Xeon E5-2600 ofrece un mayor rendimiento, mejor eficacia energtica y ms adaptabilidad, con las tecnologas Intel QuickPath, Integrated Memory Controller, Turbo Boost, Intelligent Power y Trusted Execution.
Infraestructura para el cloud
17
Infraestructura para el cloud
18
Infraestructura para el cloud
19
Nodo de almacenamiento
Obviamente debe ser un equipo que pueda alojar varios discos duros de alta capacidad de almacenamiento (SATA) y con un procesador y RAM adecuadamente dimensionados. En este proyecto nos decantamos por el Intel SR2612UR. Intel-SR2612UR
Este equipo es el que se va a utilizar para almacenamiento secundario y permanente de las instancias del cloud, por lo que su principal caracterstica es tener varios discos duros de gran capacidad. Especificaciones tcnicas del equipo: Chasis SR2612. Altura 2U, anchura: 19" y profundidad: 781 mm. 2 fuentes de alimentacin redundantes de 760W. 12 bahas de 3.5" para discos duros extrables en caliente. Placa base Intel S5520UR de doble socket LGA 1366 (socket B) y chipset Intel 5520/ ICH10R. 1 procesador Intel Xeon E5620de 4 cores a 2.4 GHz 24 GB de RAM DDR3 a 1333 MHz ECC registrada Dos interfaces de red integradas Intel 82575EB.
Infraestructura para el cloud
20 1 tarjeta de red adicional PCI-E de doble puerto Gigabit. 6 discos duros de 2 TB SATA Seagate Constellation a 7200 rpm, 64MB de cach e interfaz de 6G/s extrables en caliente. 1 disco duro interno SSD de 120 GB Kingston HyperX 1 controladora de disco LSI SAS 9211-8i.
Imagen equipo Intel SR2612UR.
Infraestructura para el cloud Nov 2012, 10
21
Captulo 4. Redes En este captulo se detallan las diferentes redes que van a formar el cloud y cmo se integran tanto en las redes locales de los centros como en la conexin con el exterior. Elementos de la red
Se van a configurar varias redes con los siguientes equipos: Nodo controlador, que tiene una interfaz de red IPMI y dos interfaces de red Gigabit Ethernet, que irn conectadas, una a la red privada y otra a la pblica. Nodo de computacin, que tiene una interfaz de red IPMI y cuatro interfaces de red Gigabit Ethernet, que irn: una conectada a la red pblica y tres conectadas en forma de bonding a la red privada. Nodo de almacenamiento, que tiene una interfaz de red IPMI y cuatro interfaces de red Gigabit Ethernet, que irn: una conectada a la red pblica y tres conectadas en forma de bonding a la red privada. Obviamente estos equipos habr que interconectarlos entre s con diversos conmutadores (switches) , en principio supondremos que utilizamos tres diferentes, uno para cada uno de las tres redes que vamos a utilizar. Red de gestin IPMI
Infraestructura para el cloud Nov 2012, 10
22 Todos los servidores del cloud incluyen una interfaz de red dedicada IPMI Intelligent Platform Management Interface que permite administrar los equipos de forma remota. Es muy conveniente disponer de una interfaz IPMI en servidores, ya que esto permite administrar completamente el servidor de forma remota (es posible encenderlo, apagarlo, comprobar la temperatura y otras acciones que slo sera posible realizar estando "fsicamente" delante del equipo). La red de gestin debe ser una red independiente, al menos desde el punto de vista lgico, por lo que o bien se configura con un switch propio o se configura una VLAN especfica para estos dispositivos
Red "pblica"
En la terminologa de OpenStack, la red pblica es la que permite acceder a las instancias desde fuera, no necesariamente tiene que se una red de direcciones IP pblicas, tal como se entienden stas en IPv4, ya que esta red pblica puede ser una red local de direcciones IPv4 privadas en el sentido de la RFC 1918 (192.168.0.0/16, 172.16.0.0/12 10.0.0.0/8). La razn de ser de esta red pblica es permitir que un equipo cualquiera (un cliente) acceda remotamente a una instancia del cloud. En el caso de una organizacin que utilice un cloud privado que no sea accesible desde Internet, esta red pblica puede ser la propia red local o una VLAN dentro de la misma. Por contra, si las instancias deben ser completamente accesibles desde Internet, las direcciones pblicas, lo sern tambin en el sentido de direccin IPv4 pblica. En nuestro caso la red pblica se va a corresponder con una VLAN dentro de la red local de la organizacin y utilizaremos la 172.22.0.0/16, por lo que todos los nodos del cloud tendrn su interfaz de red pblica con una direccin dentro del rango anterior.
Infraestructura para el cloud Nov 2012, 10
23 Red "privada"
En la terminologa de OpenStack, la red privada es una red independiente de interconexin de los nodos del cloud, a travs de esta red privada se produce la mayor parte del trfico del cloud (se comunica el nodo controlador con los nodos de computacin, se transfieren los volmenes, las imgenes o las instantneas al nodo de almacenamiento). El hecho de disponer de una red privada independiente de la red pblica, permite configurar la mayor parte de los servicios internos del Cloud en las interfaces de red privadas, aadiendo un importante grado de seguridad al cloud y simultneamente quitando mucho trfico de red de la red local de la organizacin. En configuraciones ms avanzadas se podra separar la red privada y la red de almacenamiento, pero en nuestro caso se ha optado por utilizar la misma, convirtindose realmente la red privada en una SAN (Storage Area Network). En nuestro caso la red privada se va a corresponder con una red independiente del rango 192.168.222.0/24 , por lo que todos los nodos del cloud tendrn su interfaz de red privada (o el bonding de varias de ellas) con una direccin dentro del rango anterior.