Вы находитесь на странице: 1из 51

7.

АРХИТЕКТУРА MIMD
Архитектура MIMD
MIMD

Мультипроцессор Мультикомпьютер

Мета-
SMP NSMP MPP Cluster компьютеры

UMA NUMA COMA COW NOW

CC-NUMA NC-NUMA
7.2 МУЛЬТИКОМПЬЮТЕР
Мультикомпьютер
 – это многопроцессорная система с
локальной (распределенной) памятью и с
передачей сообщений (слабосвязанная
многопроцессорная система).
 В мультикомпьютерах вся память делится
между процессорами и каждый блок памяти
доступен только связанному с ним
процессору.
 На каждом процессоре или узле, состоящем
из нескольких процессоров, запускается своя
копия операционной системы.
 Сеть обмена связывает процессоры или
процессорные узлы друг с другом.
Схема мультикомпьютера
7.2.1 РЕАЛИЗАЦИЯ
РАСПРЕДЕЛЕННОЙ ПАМЯТИ
В МУЛЬТИКОМПЬЮТЕРАХ
Способы построения
крупномасштабных систем с
распределенной памятью
 системы памяти на основе
протокола наблюдения (snooping
 системы памяти с протоколом на

основе справочника (directory


based)
Система памяти на основе
протокола наблюдения
Система памяти с протоколом
на основе справочника
7.2.2 РЕАЛИЗАЦИЯ
ОБЩЕЙ ПАМЯТИ В
МУЛЬТИКОМПЬЮТЕРАХ
Дилемма:

 мультипроцессоры сложно
строить, но легко
программировать
 мультикомпьютеры легко
строить, но трудно
программировать
Реализация памяти совместного
использования - аппаратное обеспечение
Реализация памяти совместного
использования - операционная система
DSM (Distributed Shared Memory)
«распределенная совместно
используемая память»
— это система со страничной
организацией памяти, в
которой операционная система
моделирует разделенную
память совместного
использования, обеспечивая
единое виртуальное адресное
пространство, разбитое на
страницы
Реализация памяти совместного
использования - программное
обеспечение
Модели реализации общей
памяти на уровне
программного обеспечения
 модель Linda
 модель Огса

 система Globe
7.2.3 СЕТИ
МЕЖСОЕДИНЕНИЙ
Три компоненты сети
межсоединений

 Интерфейсы
 Каналы связи
 Коммутаторы
Интерфейсы — это
устройства, которые вводят
и выводят сообщения из
центральных процессоров и
модулей памяти
Каналы связи — это каналы,
по которым перемещается
информация
Типы каналов связи
 электрические или оптико-волоконные
 последовательные (шириной 1 бит) или
параллельные (шириной более 1 бита)
 симплексные (передают информацию
только в одном направлении),
полудуплексные (передают информацию
в обоих направлениях, но не одновременно)
и дуплексные (передают информацию в
обоих направлениях одновременно)
Коммутаторы — это
устройства связи с
несколькими входными и
несколькими выходными
портами
7.2.4 ТОПОЛОГИЯ
МУЛЬТИКОМПЬЮТЕРОВ
Топология сети
межсоединений

- это взаимное
расположение каналов
связи и коммутаторов
Диаметр сети
межсоединений

- это расстояние между


двумя узлами, которые
расположены дальше всех
друг от друга
Пропускная способность
- количество данных,
которое сеть
межсоединений способна
передавать в секунду

Бисекционная пропускная
способность - минимальная
из всех возможных
Размерность – число
возможных вариантов
перехода из исходного
пункта в пункт назначения
а) Топология звезда
б) Топология клика - полное
межсоединение
(full interconnect)
в) Топология дерево
г) Топология кольцо
д) Топология решетка
е) Топология двойной тор
(2D – тор)
ж) Топология куб
з) Топология гиперкуб
Преимущества топологии гиперкуб
по сравнению с топологией 2D – тор
 В топологии 2D – тор число соединений процессора с
сетью растет линейно по отношению к числу
процессоров, а в топологии гиперкуб число соединений
процессора с сетью является логарифмической
функцией от числа процессоров, т.е. растет медленнее с
ростом числа процессоров;
 В топологии 2D – тор общая пропускная способность сети
растет линейно относительно числа процессоров, а в
топологии гиперкуб пропускная способность сети
растет быстрее, чем линейно по отношению к числу
процессоров;
 В топологии 2D – тор диаметр системы d ~ sqrt(n), а в
топологии гиперкуб диаметр системы d ~ 1og2 (n), т.е
при одном и том же числе процессоров диаметр
системы с топологией гиперкуб меньше.
7.2.5 ТЕХНОЛОГИИ СВЯЗИ
В СЕТИ МЕЖСОЕДИНЕНИЙ
Три версии системы
Ethernet

 classic Ethernet (10 Мбит/с)


 fast Ethernet (100 Мбит/с)

 gigabit Ethernet (1000 Мбит/с )


Сеть Ethernet
Ethernet с использованием
сетевых концентраторов
(хабов)
Ethernet с использованием
коммутаторов
ATM (Asynchronous Transfer
Mode)
«асинхронный режим передачи»

- технология связи со
скоростью передачи данных
155 Мбит/с или 622 Мбит/с
16 процессоров, связанных четырьмя
переключателями ATM.
Пунктиром показаны две виртуальные цепи (канала)
Отличия Ethernet и ATM
 ATM была разработана для замещения
телефонной системы, поэтому она
представляет собой сеть с
маршрутизацией информации
 Ethernet может передавать целые
пакеты (до 1500 байтов данных) одним
блоком. В ATM все пакеты разбиваются
на ячейки по 53 байта
Технология связи Myrinet
 Коммутаторы могут соединяться в
любой топологии
 Каналы связи сети - дуплексные
 Передача информации
осуществляется со скоростью 1,28
Гбит/с в обоих направлениях
 Размер пакетов неограничен
 Каждый коммутатор представляет
собой полное межсоединение
7.2.6 ПРОГРАММНОЕ
ОБЕСПЕЧЕНИЕ ДЛЯ
МУЛЬТИКОМПЬЮТЕРОВ
Три основных варианта
передачи сообщений
 Синхронная передача
сообщений
 Буферная передача

сообщений
 Неблокируемая передача

сообщений
7.2.7 СИСТЕМЫ С
ПЕРЕДАЧЕЙ СООБЩЕНИЙ
PVM И MPI
PVM (Parallel Virtual Machine)
«виртуальная машина
параллельного действия»
- это система с передачей
сообщений, которая состоит из
двух частей:
 библиотеки, вызываемой
пользователем;
 «сторожевого» процесса, который
работает постоянно на каждой
машине в мультикомпьютере
MPI (Message-Passing Interface)
«интерфейс с передачей
сообщений»
– это пакет для программирования
мультикомпьютеров, в котором
создавать процессы должен сам
пользователь с помощью
локальных системных вызовов.
После создания процессы
организуются в группы, которые
уже не изменяются и с которыми
работает MPI.
Основные понятия MPI

 Коммуникаторы;

 Типы передаваемых
данных;
 Операции коммуникации;

 Виртуальные топологии.