03 InterconnectionNetworks2016

Laboratorio de
Tecnologas de Informacin
Redes de Interconexin
Arturo Daz Prez
Centro de Investigacin y de Estudios Avanzados del IPN
Laboratorio de Tecnologas de Informacin
adiaz@tamps.cinvestav.mx
Cmputo Paralelo
InterconnetNetworks- 1
Contenido
Laboratorio de
Estticas vs dinmicas
Factores de eficiencia
Latencia, ancho de banda
Mtricas: ancho de biseccin, dimetro, costo
Topologas comunes:
Anillo, rbol, malla, hipercubo, estrella
Resumen
Adicionales
Enrutamiento en hipercubos
Cmputo Paralelo
InterconnetNetworks-2
Computadoras Paralelas
Laboratorio de
Existen muchas formas en que se pueden
construir computadoras paralelas

Mecanismo de control
Organizacin del espacio de direcciones
Granularidad de los procesadores
Red de interconexin
Cmputo Paralelo
Laboratorio de
Las redes de interconexin pueden ser estticas o
dinmicas:
Redes estticas: consisten de ligas de comunicacin punto a
punto entre los procesadores
Redes directas
Redes dinmicas: se construyen mediante switches y ligas de

comunicacin. Dinmicamente se estable un camino entre
procesadores y memoria.
Redes indirectas
Cmputo Paralelo
Top 500: Redes de Interconexin
Laboratorio de
Interconnect Family / Systems

November 2015
Cmputo Paralelo
Redes de Interconexin Estticas
Laboratorio de
Normalmente usadas por multicomputadoras

Contiene una liga de comunicacin fija a cada nodo
Un nodo consiste de procesador, memoria e interfaz de
comunicaciones
Nodo
Ligas a otros
nodos
Switch
Ligas a otros
nodos
Procesador Memoria
La interfaz de comunicaciones permite enviar datos sin distraer al

procesador
Una liga puede ser bidireccional o puede consistir de dos ligas
unidireccionales
Se puede usar un solo alambre (bit serial) o se pueden usar
varios
(paralelo)
Cmputo Paralelo
Redes de Interconexin Dinmicas
Laboratorio de
Se constituyen mediante la interconexin de switches
bsicos en una o varias etapas.
Cmputo Paralelo
Factores de Eficiencia
Laboratorio de
Ancho de banda (bandwidth)

El nmero de bits que pueden ser transmitidos en una unidad de
tiempo
Latencia de la red (network latency)

El tiempo que toma a un mensaje transmitirse a travs de la red
Latencia de comunicaciones (communication latency)

El tiempo total para enviar un mensaje incluye el trabajo adicional
del software y retrasos en la interfaz
Latencia del mensaje o tiempo de arranque (startup time)

El tiempo que toma enviar un mensaje de longitud cero
Cmputo Paralelo
Tiempo de Comunicacin
Laboratorio de
Latencia
Cmputo Paralelo
Bandwidth
Cmputo Paralelo
Laboratorio de
Factores de Eficiencia
Laboratorio de
Dimetro
El nmero mnimo de ligas entre los nodos ms alejados
Permite calcular los retrasos en el peor caso
Ancho de biseccin (bisection width)

El nmero de ligas que deben romperse para dividir a la red en
dos partes iguales
Costo: nmero de ligas de comunicacin
Cmputo Paralelo
Topologas
Laboratorio de
Completamente
conectada
Existe una liga de un nodo a
cada otro nodo
Se requieren n(n-1)/2 ligas en
total
Al crecer el nmero de
nodos, el nmero de
interconexiones necesarias
es poco prctico desde el
punto de vista econmico y
de ingeniera
Cmputo Paralelo
Topologas
Laboratorio de
Arreglo Lineal o Anillo

Para formar un anillo se
requiere n ligas
Cada nodo utiliza dos ligas
de comunicacin
Dimetro: es n/2
Ancho de biseccin: 2
El algoritmo de ruteo es
simple
Cmputo Paralelo
Topologas
Laboratorio de
Malla
Existe una liga de un nodo
a cada uno de los cuatro
vecinos.
Una malla de n n tiene
un dimetro igual a
2(n-1).
Al unir los nodos en los
extremos en la misma
columna o rengln se
forma un torus
Una torus de n n
requiere de 2n ligas en
total
Cmputo Paralelo
Topologas
Laboratorio de
Arboles
Un camino nico entre
nodos
Puede pensar en un
algoritmo de ruteo?
Arboles binarios completos
Dimetro es igual dos
veces la altura del rbol
Nmero de ligas
constantes
Arboles gruesos
El nmero de ligas se
incrementa
progresivamente hacia la
raz
Cmputo Paralelo
Fat Tree
Cmputo Paralelo
Laboratorio de
Hipercubos
Laboratorio de
Hipercubo d-dimensional
Existen n = 2d nodos.
Cada nodo se conecta a d
nodos, uno en cada
dimensin
El dimetro de un
hipercubo es log2n
Algoritmo de ruteo simple:
mediante la operacin (o
exclusivo) sobre la
numeracin de los nodos.
1
0
3
2
9
5
4
11
10
6
13
12
Cmputo Paralelo
15
14
Hipercubos
1D
2D
Laboratorio de
3D
4D
Cmputo Paralelo
Estrella
Laboratorio de
Adecuada para redes
locales de con switches

Util para comunicaciones
punto a punto y
operaciones colectivas
Cmputo Paralelo
Comparacin de Topologas Estticas
Laboratorio de
Topologa
Nodos
Dimetro
Ancho de
Biseccin
Grfica
completa
Malla 1-D
Arreglo lineal
Malla 2-D
Malla 3-D
Arbol binario
Hipercubo
Fat Tree de
grado 4
k
k2
k3
2k-1
2k
2k (2k+1-1)
Cmputo Paralelo
k/2k/2
Nmero
constante de
ligas por nodo
S
Longitud
constante de
las ligas
No
k-1
2(k-1)
3(k-1)
2(k-1)
k
2k
k
k2
1
2k-1
2k+1
S
S
S
No
S
S
S
No
No
No
Top 500: Redes de Interconexin
Laboratorio de
Cmputo Paralelo
MPP: Different Interconnection

Newtorks
Laboratorio de
Proc
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Proc
Proc
Mem
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Mem
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Mem
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Mem
Proc
Proc
Proc
Proc
Mem
Proc
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Proc
Mem
Proc
Proc
Proc
Proc
Proc
Local Interconnection Network
Local Interconnection Network

Proc
Proc
Mem
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Mem
Mem
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Proc
Mem
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Mem
Proc
Proc
Global Interconnection Network

Cmputo Paralelo
Proc
Laboratorio de
Enrutamiento para Hipercubos
Arturo Daz Prez

adiaz@cinvestav.mx
Cmputo Paralelo
Identificacin de Nodos
100
1
0
0
101
Laboratorio de
110
111
000
010
1
001
Cmputo Paralelo
011
100
101
110
111
000
001
Cmputo Paralelo
Laboratorio de
010
011
100
101
110
111
000
001
Cmputo Paralelo
Laboratorio de
010
011
100
101
110
111
000
001
Cmputo Paralelo
Laboratorio de
010
011
Routing Algorithm
Laboratorio de
Input:
d hypercubes dimension,
s =s1s2sd, source
t = t1t2td, destination
Output: n1n2,nk, n1=s, nk=t, path from s to t
Method:
begin
p s;
Add p;
for i:=1 to d do begin
if pi ti then begin
pi piti;
Add p
end
end
end;
Cmputo Paralelo
100
101
110
111
000
001
Cmputo Paralelo
Laboratorio de
010
011
100
101
110
111
000
001
Cmputo Paralelo
Laboratorio de
010
011
rbol Binario
1
0
0
0
000
Laboratorio de
0
1
001
010
011
100
101
110
111
a 1a 2a 3
Cmputo Paralelo
b 1b 2b 3
Laboratorio de
Algunas Primitivas Paralelas para

Arturo Daz Prez
adiaz@cinvestav.mx
Cmputo Paralelo
Reduccin
9
19
13
2
1
6
Cmputo Paralelo
15
6
22
43
15
15
10
13
16
13
16
26
21
43
22
15
22
Laboratorio de
13
2
16
69
15
15
Broadcast
Laboratorio de
Broadcast sobre hipercubos
x
x
x
x
Cmputo Paralelo
x
x
x
x
x
x
x
x
Max Tournament
9
19
13
2
1
6
15
19
19
Cmputo Paralelo
15
6
19
19
15
15
19
19
13
15
19
15
15
13
19
Laboratorio de
19
19
19
19
19
19
Todos Reducen: Hipercubo
Laboratorio de
Para evitar comunicaciones, en algunos casos es
conveniente realizar procesamiento redundante
9
19
13
2
1
6
Cmputo Paralelo
13
19
15
4
13
19
15
6
19
19
15
6
19
19
15
15
19
19
15
15
19
19
19
19
19
19
Todos Reducen
Laboratorio de
La segunda fase se puede hacer mediante procesamiento
redundante
07
07
07
07
07
07
07
07
03
03
03
03
47
47
47
47
01
01
23
23
45
45
67
67
Cmputo Paralelo
Barreras
Laboratorio de
Barrera de Arbol
P0
Cmputo Paralelo
P1 P2
P3
P4
P5
P6
P7
Otras Implantaciones
Laboratorio de
Barrera de Mariposa
P0
Cmputo Paralelo
P1 P2 P3 P4 P5 P6 P7
Resumen
Laboratorio de
Las computadoras paralelas se pueden clasificar por:

Mecanismo de control
Organizacin del espacio de direcciones
Granularidad de los procesadores
Red de interconexin
Las redes de interconexin pueden ser estticas o dinmicas
Existen diversos factores que determinan el desempeo de una red
de interconexin para una computadora paralela
Latencia y ancho de banda
Dimetro, ancho de biseccin, costo
Se han propuesto topologas diversas para la interconexin de los
nodos de procesamiento en una computadora paralela

Anillo, malla, estrella, rbol, hipercubo.
En cualquier topologa es importante determinar los parmetros de
desempeo y el algoritmo para hacer una interconexin entre

cualquier par de nodos
Cmputo Paralelo
Lectura Adicional
Laboratorio de
Parallel Computer Architecture:

A Hardware/Software Approach
by David Culler
Morgan Kauffman, 1998.
Cmputo Paralelo

03 InterconnectionNetworks2016

Загружено:

Сведения о документе

Оригинальное название

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

03 InterconnectionNetworks2016

Загружено:

Авторское право:

Доступные форматы

Laboratorio de

Existen muchas formas en que se pueden

construir computadoras paralelas

Las redes de interconexin pueden ser estticas o

Redes dinmicas: se construyen mediante switches y ligas de

Top 500: Redes de Interconexin

Interconnect Family / Systems

Redes de Interconexin Estticas

Normalmente usadas por multicomputadoras

La interfaz de comunicaciones permite enviar datos sin distraer al

Redes de Interconexin Dinmicas

Se constituyen mediante la interconexin de switches

bsicos en una o varias etapas.

Ancho de banda (bandwidth)

Latencia de la red (network latency)

Latencia de comunicaciones (communication latency)

Latencia del mensaje o tiempo de arranque (startup time)

Ancho de biseccin (bisection width)

Costo: nmero de ligas de comunicacin

Arreglo Lineal o Anillo

Adecuada para redes

locales de con switches

Comparacin de Topologas Estticas

Top 500: Redes de Interconexin

MPP: Different Interconnection

Local Interconnection Network

Local Interconnection Network

Global Interconnection Network

Enrutamiento para Hipercubos

Arturo Daz Prez

Algunas Primitivas Paralelas para

Broadcast sobre hipercubos

Todos Reducen: Hipercubo

Para evitar comunicaciones, en algunos casos es

conveniente realizar procesamiento redundante

La segunda fase se puede hacer mediante procesamiento

Las computadoras paralelas se pueden clasificar por:

Se han propuesto topologas diversas para la interconexin de los

nodos de procesamiento en una computadora paralela

En cualquier topologa es importante determinar los parmetros de

desempeo y el algoritmo para hacer una interconexin entre

Parallel Computer Architecture:

Вам также может понравиться