Вперед: 4.4. Коллективные операции
Назад: 4.3.2. Блокирующие коммуникационные операции
К содержанию: Оглавление


4.3.3. Неблокирующие коммуникационные операции

Использование неблокирующих коммуникационных операций повышает безопасность с точки зрения возникновения тупиковых ситуаций, а также может увеличить скорость работы программы за счет совмещения выполнения вычислительных и коммуникационных операций. Эти задачи решаются разделением коммуникационных операций на две стадии: инициирование операции и проверку завершения операции.

Неблокирующие операции используют специальный скрытый (opaque) объект "запрос обмена" (request) для связи между функциями обмена и функциями опроса их завершения. Для прикладных программ доступ к этому объекту возможен только через вызовы MPI-функций. Если операция обмена завершена, подпрограмма проверки снимает "запрос обмена", устанавливая его в значение MPI_REQUEST_NULL. Снять запрос без ожидания завершения операции можно подпрограммой MPI_Request_free.

Функция передачи сообщения без блокировки MPI_Isend

C:
int MPI_Isend(void* buf, int count, MPI_Datatype datatype, int dest,
int tag, MPI_Comm comm, MPI_Request *request)
FORTRAN:
MPI_ISEND(BUF, COUNT, DATATYPE, DEST, TAG, COMM, REQUEST, IERROR)
<type> BUF(*)
INTEGER COUNT, DATATYPE, DEST, TAG, COMM, REQUEST, IERROR
IN buf - адрес начала расположения передаваемых данных;
IN count - число посылаемых элементов;
IN datatype - тип посылаемых элементов;
IN tag - номер процесса-получателя;
IN comm - идентификатор сообщения;
IN request - коммуникатор;
OUT request - "запрос обмена".

Возврат из подпрограммы происходит немедленно (immediate), без ожидания окончания передачи данных. Этим объясняется префикс I в именах функций. Поэтому переменную buf повторно использовать нельзя до тех пор, пока не будет погашен "запрос обмена". Это можно сделать с помощью подпрограмм MPI_Wait или MPI_Test, передав им параметр request.

Функция приема сообщения без блокировки MPI_Irecv

C:
int MPI_Irecv(void* buf, int count, MPI_Datatype datatype, int source,
int tag, MPI_Comm comm, MPI_Request *request)
FORTRAN:
MPI_IRECV(BUF, COUNT, DATATYPE, SOURCE, TAG, COMM, REQUEST, IERROR)
<type> BUF(*)
INTEGER COUNT, DATATYPE, SOURCE, TAG, COMM, REQUEST, IERROR
OUT buf - адрес для принимаемых данных;
IN count - максимальное число принимаемых элементов;
IN datatype - тип элементов принимаемого сообщения;
IN source - номер процесса-отправителя;
IN tag - идентификатор сообщения;
IN comm - коммуникатор;
OUT request - "запрос обмена".

Возврат из подпрограммы происходит немедленно, без ожидания окончания приема данных. Определить момент окончания приема можно с помощью подпрограмм MPI_Wait или MPI_Test с соответствующим параметром request.

Как и в блокирующих операциях часто возникает необходимость опроса параметров полученного сообщения без его фактического чтения. Это делается с помощью функции MPI_Iprobe.

Неблокирующая функция чтения параметров полученного сообщения MPI_Iprobe

C:
int MPI_Iprobe (int source, int tag, MPI_Comm comm, int *flag,
MPI_Status *status)
FORTRAN:
MPI_IPROBE (SOURCE, TAG, COMM, FLAG, STATUS, IERROR)
LOGICAL FLAG
INTEGER SOURCE, TAG, COMM, STATUS(MPI_STATUS_SIZE), IERROR
IN source - номер процесса-отправителя;
IN tag - идентификатор сообщения;
IN comm - коммуникатор;
OUT flag - признак завершенности операции;
OUT status - атрибуты опрошенного сообщения.

Если flag=true, то операция завершилась, и в переменной status находятся атрибуты этого сообщения.

Воспользоваться результатом неблокирующей коммуникационной операции или повторно использовать ее параметры можно только после ее полного завершения. Имеется два типа функций завершения неблокирующих операций:

  1. Операции ожидания завершения семейства WAIT блокируют работу процесса до полного завершения операции.
  2. Операции проверки завершения семейства TEST возвращают значения TRUE или FALSE в зависимости от того, завершилась операция или нет. Они не блокируют работу процесса и полезны для предварительного определения факта завершения операции.

Функция ожидания завершения неблокирующей операции MPI_Wait

C:
int MPI_Wait(MPI_Request *request, MPI_Status *status)
FORTRAN:
MPI_WAIT(REQUEST, STATUS, IERROR)
INTEGER REQUEST, STATUS(MPI_STATUS_SIZE), IERROR
INOUT request - "запрос обмена";
OUT status - атрибуты сообщения.

Это нелокальная блокирующая операция. Возврат происходит после завершения операции, связанной с запросом request. В параметре status возвращается информация о законченной операции.

Функция проверки завершения неблокирующей операции MPI_Test

C:
int MPI_Test(MPI_Request *request, int *flag, MPI_Status *status)
FORTRAN:
MPI_TEST(REQUEST, FLAG, STATUS, IERROR)
LOGICAL FLAG
INTEGER REQUEST, STATUS(MPI_STATUS_SIZE), IERROR
INOUT request - "запрос обмена";
OUT flag - признак завершенности проверяемой операции;
OUT status - атрибуты сообщения, если операция завершилась.

Это локальная неблокирующая операция. Если связанная с запросом request операция завершена, возвращается flag = true, а status содержит информацию о завершенной операции. Если проверяемая операция не завершена, возвращается flag = false, а значение status в этом случае не определено.

Функция снятия запроса без ожидания завершения неблокирующей операции MPI_Request_free

C:
int MPI_Request_free(MPI_Request *request)
FORTRAN:
MPI_REQUEST_FREE(REQUEST, IERROR)
INTEGER REQUEST, IERROR
INOUT request - запрос связи.

Параметр request устанавливается в значение MPI_REQUEST_NULL. Связанная с этим запросом операция не прерывается, однако проверить ее завершение с помощью MPI_Wait или MPI_Test уже нельзя. Для прерывания коммуникационной операции следует использовать функцию MPI_Cancel(MPI_Request *request).

В MPI имеется набор подпрограмм для одновременной проверки на завершение нескольких операций. Без подробного обсуждения приведем их перечень (таблица 4.5).

Таблица 4.5. Функции коллективного завершения неблокирующих операций.
Выполняемая проверка Функции ожидания (блокирующие) Функции проверки (неблокирующие)
Завершились все операции MPI_Waitall MPI_Testall
Завершилась по крайней мере одна операция MPI_Waitany MPI_Testany
Завершилась одна из списка проверяемых MPI_Waitsome MPI_Testsome

Кроме того, MPI позволяет для неблокирующих операций формировать целые пакеты запросов на коммуникационные операции MPI_Send_init и MPI_Recv_init, которые запускаются функциями MPI_Start или MPI_Startall. Проверка на завершение выполнения производится обычными средствами с помощью функций семейства WAIT и TEST.

Приведем пример программы на использование неблокирующих коммуникационных операций.

Программа unblocking.c

#include "mpi.h"
#include <stdio.h>

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, next, prev, buf[2], tag1=1, tag2=2;
MPI_Request reqs[4];
MPI_Status stats[2];

MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
prev = rank-1;
next = rank+1;
if (rank == 0) prev = numtasks - 1;
if (rank == (numtasks - 1)) next = 0;
MPI_Irecv(&buf[0], 1, MPI_INT, prev, tag1, MPI_COMM_WORLD, &reqs[0]);
MPI_Irecv(&buf[1], 1, MPI_INT, next, tag2, MPI_COMM_WORLD, &reqs[1]);

MPI_Isend(&rank, 1, MPI_INT, prev, tag2, MPI_COMM_WORLD, &reqs[2]);
MPI_Isend(&rank, 1, MPI_INT, next, tag1, MPI_COMM_WORLD, &reqs[3]);
   // { do some work }
MPI_Waitall(4, reqs, stats);
printf("rank=%d prev=%d next=%d\n",rank,buf[0],buf[1]);
MPI_Finalize();
} 

Программа unblocking.f

program ringtopo
  include 'mpif.h'
  integer numtasks, rank, next, prev, buf(2), tag1, tag2,  ierr
  integer stats(MPI_STATUS_SIZE,2), reqs(4)
  tag1 = 1
  tag2 = 2
  call MPI_INIT(ierr)
  call MPI_COMM_RANK(MPI_COMM_WORLD, rank, ierr)
  call MPI_COMM_SIZE(MPI_COMM_WORLD, numtasks, ierr)
  prev = rank - 1
  next = rank + 1
  if (rank .eq. 0) then
   prev = numtasks - 1
  endif
  if (rank .eq. numtasks - 1) then
   next = 0
  endif

  call MPI_IRECV(buf(1), 1, MPI_INTEGER, prev, tag1, 
 &   MPI_COMM_WORLD, reqs(1), ierr)
  call MPI_IRECV(buf(2), 1, MPI_INTEGER, next, tag2, 
 &   MPI_COMM_WORLD, reqs(2), ierr)
  call MPI_ISEND(rank, 1, MPI_INTEGER, prev, tag2,
 &   MPI_COMM_WORLD, reqs(3), ierr)
  call MPI_ISEND(rank, 1, MPI_INTEGER, next, tag1,
 &   MPI_COMM_WORLD, reqs(4), ierr)

C    do some work

  call MPI_WAITALL(4, reqs, stats, ierr);
  write(*,10) rank, buf(1),buf(2)
  10 format('rank = ', I2,' prev = ',I2, ' next = ', I2) 
  call MPI_FINALIZE(ierr)
  end


Вперед: 4.4. Коллективные операции
Назад: 4.3.2. Блокирующие коммуникационные операции
К содержанию: Оглавление