Programacin Paralela y Distribuida Aula 1

Prof. Alvaro H. Mamani-Aliaga

Contenido

Definicin de aplicaciones paralelas Taxonoma de las Arquitecturas e!es para el dominio paralelo Modelos en computacin paralela "#emplos

Definicin $ormal

%ernstein & '( ) *+ , ! '+ ) *( , ! *( ) *+ , Caso general. P( .... Pn son procesos paralelos/ si ! solo si/ para cada par de procesos Pi/ P#0 tenemos. Pi 11 P#

Definicin $ormal ...

Tenemos 2 limitaciones para las aplicaciones paralelas

Dependencia de datos Dependencia de flu#o Dependencia de recursos

Dependencia de Datos

'(. A , % 3 C '+. " , D 3 A '2. $ , A 3 "

Dependencia de $lu#o

'(. A , % 3 C '+. if4 A 5 & '2. D , " 3 $ '6. 7 , D 3 H

Dependencia de recursos

'(. A , % 3 C '+. 7 , D 3 H

Como o8tener alto desempe9o

Aumento del desempe9o del procesador

Aumento del cloc: ;aumento de la temperatura Me#ora en la arquitectura ; vectoriales/ superescalares procesadores <'=C/

Me#ora en el acceso a la memoria. importancia en la #erarqua de la memoria Paraleli?acin en la e#ecucin de las operaciones

>tili?acin de varios procesadores

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

Pro8lemas

Dividir las tareas entre los procesadores =incroni?acin Comunicacin

@ecesidad engua#es/ compiladores ! 8i8liotecas especiales ; utili?acin adecuada de los recursos de procesamiento

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

Taxonoma de $l!nn

Compuradoras son clasificadas por el flu#o de instruccin ! la cantidad de datos que procesa

Arquitecturas paralelas

Taxonoma presentada por 7ordon %ell

$lu#o de instrucciones Anico $lu#o de datos Anico. C'=C/ <'=C/ =uperescalares/ B 'C <'=C/ ... $lu#o de datos mAltiples. vectoriales/ ='MD $lu#o de mAltiples instrucciones 4M'MD5

Multiprocesador. memoria compartida Acceso a memoria no uniforme 4@>MA5 Acceso a memoria uniforme 4>MA5

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

11

Taxonoma de $l!nn

ectura

Multiprocesador con memoria compartida

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

13

Arquitecturas paralelas

Multicomputadores

Commutacin entre estaciones de alta velocidad <ed. clusters en red local/ ! red amplia

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

14

Multiprocesadores

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

15

Multiprocesadores. paso de mensa#es

MesD/ Dipercu8o/ estaciones interconectadas con ATM <edes distri8uidas. aglomerados/ local/ red amplia

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

Clusters de procesadores

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

1!

Como explorar el paralelismo

De manera explicita 4programacin paralela5 >tili?ar compiladores paraleli?antes

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

18

Programacin paralela x paraleli?acin automEtica

Programacin paralela

Alta comple#idad =incroni?acin de tareas AnElisis de dependencia de datos 4(5 A , % 3 (0 4+5 D , A 3 % F +0 =e de8e anElisar el pro8lema para aplicar paralelismo

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

19

Paraleli?acin AutomEtica

>suErio no necesita conocimientos de programacin paralela >tili?acin de programas existentes @o se explora el paralelismo del programa

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

"#

Programacin Paralela

$ormas de programacin paralela explcita.

lamadas de rutinas de una 8i8lioteca de paralelismo Directivas del compilador Contrucciones paralelas de lengua#es de programacin paralela

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

"1

%i8lioteca de paralelismo

"specificacin del paralelismo

lamadas a rutinas de una 8i8lioteca de paralelismo

"#emplo. llamadas al =* 4procesos ! tDreads5

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

""

%i8liotecas ofrecen

Asignar memoria para datos compartidos Creacin de procesos para e#ecutar su8programas en paralelo 'dentificacin de procesos individuales "xclusin mAtua =incroni?acin de procesos

Alvaro H. Mamani Aliaga

Programacin Paralela y Distribuida

"3