Διεπαφή Μεταβίβασης Μηνυμάτων (Message Passing Interface - MPI)

Η εισαγωγή αυτή είναι βασισμένη στο tutorial "Introduction to Message Passing Interface (MPI)" του Blaise Barney, Lawrence Livermore Laboratory, USA. Μετάφραση και προσαρμογή: Κ.Γ. Μαργαρίτης και Ι.Παπίκας, Εργαστήριο Παράλληλης Κατανεμημένης Επεξεργασίας, Τμήμα Εφαρμοσμένης Πληροφορικής, Πανεπιστήμιο Μακεδονίας.

Πίνακας Περιεχομένων

Περίληψη
Τι είναι το MPI?
Εισαγωγή
Ρουτίνες Διαχείρισης Περιβάλλοντος
Ρουτίνες Σημειακής Επικοινωνίας
Ρουτίνες Συλλογικής Επικοινωνίας
Προσαρμοσμένοι Τύποι Δεδομένων
Ρουτίνες Διαχείρησης Ομάδων και Επικοινωνιών
Εικονικές Τοπολογίες
Σύντομη αναφορά στο MPI-2
Παράρτημα: Ευρετήριο Ρουτινών MPI-1
Ασκήσεις

Περίληψη

Η Διεπαφή Μεταβίβασης Μηνυμάτων (Message Passing Interface - MPI) είναι μια βιβλιοθήκη μεταβίβασης μηνυμάτων στατικής σύνδεσης βασισμένη στη προδιαγραφή του MPI Forum, στο οποίο συμμετέχουν παραπάνω απο 40 οργανισμοί, όπου συμπεριλαμβάνονται προμηθευτές, ερευνητές, σχεδιαστές βιβλιοθηκών λογισμικού και χρήστες. Ο στόχος του MPI είναι να καθιερώσει ένα φορητό, αποδοτικό και ευέλικτο πρότυπο για το μοντέλο παράλληλου προγραμματισμού που βασίζεται στη μεταβίβαση μηνυμάτων. Τα πλεονεκτήματα ανάπτυξης λογισμικού μεταβίβασης μηνυμάτων με το MPI είναι μεταξύ άλλων: φορητότητα, αποδοτικότητα και ευελιξία. Το MPI δεν είναι ένα πρότυπο σαν τα IEEE και ISO, αλλά έχει γίνει ένα "εργοστασιακό πρότυπο" για προγράμματα αποστολής μηνυμάτων σε παράλληλους υπολογιστές.

Ο στόχος αυτού του οδηγού είναι η εισαγωγή στο MPI και στην ανάπτυξη και εκτέλεση παράλληλων προγραμμάτων σύμφωνα με το πρότυπο του MPI. Τα κύρια θέματα που παρουσιάζονται επικεντρώνουν στα θέματα του MPI τα οποία είναι σημαντικά για τους προγραμματιστές. Ο οδηγός ξεκινάει με μια εισαγωγή, το ιστορικό, και βασικές πληροφορίες για να ξεκινήσει κανείς με το MPI. Ακολουθείται από μια λεπτομερέστερη ματιά στις ρουτίνες του MPI οι οποίες είναι πιο χρήσιμες στους προγραμματιστές, περιλαμβάνοντας την Διαχείριση Περιβάλλοντος, Σημειακές και Συλλογικές Επικοινωνίες. Υπάρχουν αρκετά παραδείγματα σε C όπως επίσης και εργαστηριακές ασκήσεις.

Το υλικό του οδηγού περιλαμβάνει επίσης πιο προχωρημένα θέματα όπως τους Τύπους δεδομένων, ρουτίνες Διαχείρισης Ομάδων Διεργασιών και Εικονικές Τοπολογίες. Ωστόσο, αυτά δεν παρουσιάζονται σε έκταση, αλλά είναι περισσότερο σαν περαιτέρω γνώσεις για αυτούς που ενδιαφέρονται.

Τι είναι το MPI?

Μια πρότυπη διεπαφής : MPI Logo

M P I = Message Passing Interface (Διεπαφή Μεταβίβασης Μηνυμάτων)
Το MPI είναι ένα σύνολο προδιαγραφών για προγραμματιστές και χρήστες βιβλιοθηκών μεταβίβασης μηνυμάτων. Δεν είναι βιβλιοθήκη καθ'αυτή αλλά περιγράφει τις προδιαγραφές τις οποίες πρέπει να πληροί μια βιβλιοθήκη.
Με απλά λόγια, ο στόχος της διεπαφής είναι να παρέχει ένα πρότυπο για την συγγραφή προγραμμάτων μεταβίβασης μηνυμάτων. Η διεπαφή προσπαθεί να είναι
- πρακτική
- φορητή
- αποδοτική
- ευέλικτη
Οι προδιαγραφές της διεπαφής έχουν ήδη οριστεί για προγράμματα C/C++ και Fortran.

Ιστορία και Εξέλιξη:

Το MPI είναι αποτέλεσμα προσπαθειών πολλών ατόμων και ομάδων σε μια περίοδο 2 χρόνων μεταξύ 1992 και 1994. Λίγη ιστορία:
1980 - 1990: Ανάπτυξη παράλληλων αρχιτεκτονικών κατανεμμημένης μνήμης, ανάπτυξη παράλληλων προγραμμάτων, μεγάλος αριθμός μη συμβατών λογισμικών για την εγγραφή τέτοιων προγραμμάτων - προβλήματα φορητότητας, επιδόσεων, λειτουργικότητας και τιμής. Αναγνώριση της ανάγκης για ενιαία αντιμετώπιση.
Νοέμβριος 1992: - Παρουσιάζεται η πρώτη πρόταση του MPI (MPI1) από το Oak Ridge National Laboratory. Δημιουργείται το MPI Forum, που περιλαμβάνει 175 μέλη από 40 οργανισμούς συμεριλαμβανομένων προμηθευτών, προγραμματιστών, ακαδημαϊκό προσωπικό και επιστήμονες εφαρμογών.
Νοέμβριος 1993: Συνέδριο Υπερυπολογιστών 93 - παρουσιάζεται επίσημα το πρότυπο MPI.
Τελική έκδοση του προτύπου παρουσιάστηκε τον Μάιο, 1994 - διαθέσιμο στο: http://www-unix.mcs.anl.gov/mpi.
Το MPI-2 άρχισε από εκεί που έμεινε το πρώτο MPI, το οποίο έγινε γνωστό ως MPI-1. Το MPI-2 κακλύπτεται σύντομα παρακάτω. Τελειοποιήθηκε το 1996.
Σήμερα, οι υλοποιήσεις του MPI είναι ένας συνδυασμός MPI-1 και MPI-2. Μερικές μόνο εφαρμογές περιλαμβάνουν την πλήρη λειτουργικότητα και των δυο. Οι πιο γνωστές υλοποιήσεις είναι τα MPICH1 και MPICH2, καθώς και το LAM που εξελίχθηκε στο Open MPI.
Επιπλέον έχουν αναπτυχθεί διάφορες υλοποιήσεις, όπως τo ΜPI-G2 (ειδικά για εφαρμογές Grid) ή το FT-MPI (Fault Tolerant MPI) κλπ.

Λόγοι χρήσης του MPI:

Προτυποποίηση- Το MPI είναι η μοναδική βιβλιοθήκη μεταβίβασης μηνυμάτων που μπορεί να θεωρηθεί πρότυπο. Υποστηρίζεται ουσιαστικά από όλες τις πλατφόρμες HPC. Πρακτικά, αντικατέστησε όλες τις προηγούμενες βιβλιοθήκες αυτού του είδους.
Φορητότητα - Δεν υπάρχει λόγος τροποποίησης της εφαρμογής κατά την μεταφορά της σε άλλη πλατφόρμα η οποία υποστηρίζει το πρότυπο MPI.
Απόδοση - Οι διάφορες υλοποιήσεις είναι σε θέση να εκμεταλλευτούν χαρακτηριστικά του αντίστοιχου υλικού για να βελτιώσουν την απόδοση.
Λειτουργικότητα - Μόνο στο MPI-1 ορίζονται πάνω από 115 ρουτίνες.
Διαθεσιμότητα - Ποικιλία εφαρμογών είναι διαθέσιμη, από ιδιώτες και δημόσιους οργανισμούς.

Μοντέλο Προγραμματισμού:

Το MPI μπορεί να υλοποιηθεί στις περισσότερες αρχιτεκτονικές παράλληλης επεξεργασίας. Επιπροσθέτως, το MPI χρησιμοποιείται για την υλοποίηση μοντέλων διαμοιραζόμενης μνήμης, όπως του Παραλληλισμού Δεδομένων, σε αρχιτεκτονική κατανεμμημένης μνήμης.
Αρχιτεκτονικές:
- Κατανεμμημένης μνήμης: Αρχικά το MPI είχε σαν στόχο τα συστήματα κατανεμμημένης μνήμης.
- Διαμοιραζόμενης μνήμης: Καθώς τα συστήματα διαμοιραζόμενης μνήμης έγιναν δημοφιλή, πιο συγκεκριμένα οι αρχιτεκτονικές SMP / NUMA, εμφανίστηκαν υλοποιήσεις του MPI που υποστηρίζουν διαμοιραζόμενη μνήμη.
- Υβριδικές: Το MPI χρησιμοποιείται σε σχεδόν όλες τις γνωστές αριτεκτονικές παράλληλης επεξεργασίας όπως, SMP clusters, NOWs, COWs, ετερογενή συστήματα, σε συνδυασμό πχ με OpenMP.
Ο παραλληλισμός είναι εντελώς ρητός: ο προγραμματιστής είναι υπεύθυνος για την σωστή χρήση του παραλληλισμού και την υλοποίηση αλγορίθμων με βάση τις δομές του MPI.
Ο αριθμός των διεργασιών (tasks) του παράλληλου προγράμματος είναι στατικός (MPI-1). Στο MPI-2, ίδίως σε συνδυασμό με το OpenMP, επιτρέπεται η δυναμική δημιουργία διεργασιών (αν και όχι η μετανάστευση διεργασιών).

Εισαγωγή

Αρχείο Κεφαλής:

Απαιτείται από όλα τα προγράμματα/ρουτίνες τα οποία καλούν την βιβλιοθήκη του MPI.

C include file

#include "mpi.h"

C include file
`#include "mpi.h"`

Τρόπος κλήσης του MPI :

C Binding

Τρόπος: rc = MPI_Xxxxx(parameter, ... )

Παράδειγμα: rc = MPI_Bsend(&buf,count,type,dest,tag,comm)

Κώδικας Λάθους: Επιστρέφει τη μεταβλητή "rc". MPI_SUCCESS αν είναι επιτυχής η κλήση

Τα ονόματα μεταβλητών στην C είναι case sensitive.

C Binding
Τρόπος:	`rc = MPI_Xxxxx(parameter, ... )`
Παράδειγμα:	`rc = MPI_Bsend(&buf,count,type,dest,tag,comm)`
Κώδικας Λάθους:	Επιστρέφει τη μεταβλητή "rc". MPI_SUCCESS αν είναι επιτυχής η κλήση

Γενική δομή προγραμμάτων MPI:

General MPI Program Structure

Ομάδες Διεργασιών:

Το MPI χρησιμοποιεί αντικείμενα τα οποία ονομάζονται communicators και groups για να ορίσει ποιο σύνολο διεργασιών μπορεί να επικοινωνήσει μεταξύ τους. Οι περισσότερες ρουτίντες του MPI απαιτούν να ορίσει ο χρήστης έναν communicator σαν παράμετρο.
Οι communicators και τα groups καλύπτονται αργότερα με περισσότερες λεπτομέρειες. Προς το παρόν, απλά χρησιμοποιούμε την εντολή MPI_COMM_WORLD όταν χρειάζεται ένας communicator - είναι ο προκαθορισμένος communicator που περιλαμβάνει όλες τις λειτουργίες του MPI.

Rank:

Μέσα σε έναν communicator, κάθε διεργασία έχει ένα μοναδικό ακέραιο αναγνωριστικό που της έχει ανατεθεί από το σύστημα όταν γίνεται η αρχικοποίηση. Επίσης ονομάζεται και "task ID". Τα Ranks είναι συνεχόμενα και ξεκινούν από το μηδέν.
Χρησιμοποιείται από τον προγραμματιστή για να προσδιορίζει την προέλευση και τον προορισμό του μηνύματος. Συχνά χρησιμοποιείται σε δομές ελέγχου για τον έλεγχο της εκτέλεσης του προγράμματος (if rank=0 do this / if rank=1 do that).

Ρουτίνες Διαχείρισης Περιβάλλοντος

Οι ρουτίνες διαχείρισης περιβάλλοντος του MPI χρησιμοποιούνται για συγκεκριμένους σκοπούς, όπως την αρχικοποίηση και τον τερματισμό του περιβάλλοντος του MPI. Οι πιο συχνές χρήσεις περιγράφονται παρακάτω.

MPI_Init

Αρχικοποιεί το περιβάλλον εκτέλεσης του MPI. Αυτή η συνάρτηση πρέπει να κληθεί σε κάθε πρόγραμμα MPI, πριν από οποιαδήποτε άλλη συνάρτηση και μόνο μία φορά. H MPI_Init πρέπει να χρησιμοποιηθεί για να περαστούν οι παράμετροι κλήσης σε όλες τις διεργασίες, αν και δεν είναι απαραίτητο και εξαρτάται από την υλοποίηση.

MPI_Init (&argc,&argv)

MPI_Comm_size

Προσδιορίζει τον αριθμό των διεργασιών στο group το οποίο σχετίζεται με έναν communicator. Γενικά χρησιμοποιείται μέσα στον communicator MPI_COMM_WORLD για τον προσδιορισμό του αριθμού των διεργασιών που χρησιμοποιούνται από την εφαρμογή.

MPI_Comm_size (comm,&size)

MPI_Comm_rank

Προσδιορίζει τo αναγνωριστικό της καλούμενης διεργασίας μέσα στον communicator. Αρχικά, κάθε διεργασία θα αποκτήσει έναν μοναδικό αριθμό από το 0 μέχρι το "πλήθος των διεργασιών-1" μέσα στον communicator MPI_COMM_WORLD. Αυτή η θέση συχνά χρησιμοποιείται και ως task ID. Αν μια διεργασία συσχετιστεί με άλλους communicators, θα έχει μια μοναδική θέση και σε εκείνους επίσης.

MPI_Comm_rank (comm,&rank)

MPI_Abort

Τεριατίζει όλες τις διεργασίες του MPI που σχετίζονται με τον communicator. Στις περισσότερες εφαρμογές MPI τερματίζει όλες τις διεργασίες ασχέτως με τον communicator.

MPI_Abort (comm,errorcode)

MPI_Get_processor_name

Επιστρέφει το όνομα της διεργασίας. Επίσης επιστρέφει το μήκος του ονόματος. Ο buffer του ονόματος πρέπει να είναι τουλάχιστον MPI_MAX_PROCESSOR_NAME χαρακτήρες σε μέγεθος. Αυτό που επιστρέφεται στο όνομα εξαρτάται από την υλοποίηση - μπορεί να μην είναι το ίδιο με την έξοδο των εντολών κελύφους "hostname" ή "host".

MPI_Get_processor_name (&name,&resultlength)

MPI_Initialized

Δείχνει αν η έχει κληθεί η MPI_Init - επιστρέφει λογικό true (1) ή false (0). Το MPI απαίτεί την κλήση της MPI_Init μία και μόνο φορά από κάθε διεργασία. Αυτό μπορεί να προκαλέσει πρόβλημα για εφαρμογές οι οποίες θέλουν να χρησιμοποιήσουν το MPI και είανι έτοιμες να καλέσουν το MPI_Init αν χρειαστεί. Η MPI_Initialized λύνει αυτό το πρόβλημα.

MPI_Initialized (&flag)

MPI_Wtime

Επιστρέφει τον χρόνο που έχει περάσει σε δευτερόλεπτα (διπλής ακρίβειας) στην διεργασία που το καλεί.

MPI_Wtime ()

MPI_Wtick

Επιστρέφει την ανάλυση της ώρας σε δευτερόλεπτα από το MPI_Wtime.

MPI_Wtick ()

MPI_Finalize

Τερματίζει το περιβάλλον εκτέλεσης του MPI. Αυτή η συνάρτηση πρέπει να είναι η τελευταία από τις ρουτίνες που θα κληθούν σε κάθε πρόγραμμα MPI - δεν πρέπει να κληθούν άλλες ρουτίνες μετά από αυτή.

MPI_Finalize ()

Παραδείγματα: Ρουτίνες Διαχείρισης Περιβάλλοντος

C Language - Environment Management Routines Example

#include "mpi.h"
#include <stdio.h>

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, rc;

rc = MPI_Init(&argc,&argv);
if (rc != MPI_SUCCESS) {
printf ("Error starting MPI program. Terminating.\n");
MPI_Abort(MPI_COMM_WORLD, rc);
}

MPI_Comm_size(MPI_COMM_WORLD,&numtasks);
MPI_Comm_rank(MPI_COMM_WORLD,&rank);
printf ("Number of tasks= %d My rank= %d\n", numtasks,rank);

/******* do some work *******/

MPI_Finalize();
}

Ρουτίνες Σημειακής Επικοινωνίας

Βασικές Έννοιες

Τύποι Σημειακής Επικοινωνίας:

Η σημειακή επικοινωνία του MPI συνήθως περιλαμβάνει μεταβίβαση μηνυμάτων μεταξύ δύο, και μόνο δύο, διεργασιών. Η μια διεργασία χρησιμοποιεί μια ρουτίνα αποστολής και η άλλη μια ρουτίνα παραλαβής.
Υπάρχουν διάφοροι τύποι ρουτινών αποστολής και παραλαβής και χρησιμοποιούνται για διαφορετικούς σκοπούς. Για παράδειγμα:
- Συγχρονισμένη αποστολή
- Αποστολή / παραλαβή με αναστολή
- Αποστολή / παραλαβή χωρίς αναστολή
- Αποστολή με την χρήση ενταμίευσης (buffering)
- Συνδυασμένη αποστολή / παραλαβή
- "Ready" αποστολή
Οποιοσδήποτε τύπος ρουτίνας αποστολής μπορεί να συνδυαστεί με οποιονδήποτε τύπο ρουτίνας παραλαβής.
Το MPI επίσης προσφέρει πολλές ρουτίνες που σχετίζονται με τις ρουτίνες αποστολής - παραλαβής, όπως αυτές που χρησιμοποιούνται για να περιμένουν την παράδοση ενός μηνύματος ή ρωτάνε αν ένα μήνυμα έχει φτάσει.

Ενταμίευση (Buffering):

Σε έναν τέλειο κόσμο, κάθε λειτουργία αποστολής θα συγχρονιζόταν τέλεια με τη διεργασία που δέχεται το μήνυμα. Αυτή όμως είναι μια σπάνια περίπτωση. Κάπως, η υλοποίηση του MPI, πρέπει να είναι έτοιμη να αποθηκεύσει δεδομένα όταν τα δυο προγράμματα δεν είναι συγχρονισμένα.
Ας πάρουμε υπόψιν τις επόμενες δυο περιπτώσεις:
- Μια λειτουργία αποστολής συμβαίνει 5 δευτερόλεπτα πριν να είναι έτοιμη η λειτουργία παραλαβής - που θα πάει το μήνυμα μέχρι να ενεργοποιηθεί η διαδικασία παραλαβής;
- Πολλές λειτουργίες αποστολής φτάνουν στην ίδια υλοποίηση η οποία μπορεί να δεχτεί ένα μήνυμα τη φορά - τι συμβαίνει στα μηνύματα που επιστρέφουν;
Η υλοποίηση του MPI (όχι του προτύπου) αποφασίζει τι θα κάνει με τα δεδομένα σε αυτές τις περιπτώσεις. Τυπικά, μια προσωρινή μνήμη του συστήματος δεσμεύεται για να κρατάει τα δεδομένα σε τέτοιες περιπτώσεις. Για παράδειγμα:
Ο ενταμιευτής (buffer του συστήματος), ανάλογα με την υλοποίηση, είναι:
- Αόρατος στον προγραμματιστή και ελέγχεται πλήρως από την βιβλιοθήκη του MPI
- Ένας χώρος αποθήκευσης δεδομένων που μπορεί εύκολα να εξαντληθεί
- Συχνά μυστηριώδης και δεν παρουσιάζεται σωστά
- Ικανός να υπάρχει στην πλευρά της αποστολής, της παραλαβής ή και στις δύο
- Κάτι το οποίο μπορεί να βελτιώσει την απόδοση του προγράμματος επειδή επιτρέπει στις λειτουργίες αποστολής - παραλαβής να είναι ασύγχρονες.
Οι μεταβλητές του προγράμματος είναι γνωστές και ως buffers της εφαρμογής. Το MPI επίσης παρέχει buffers αποστολής που διαχειρίζεται ο χρήστης.

Αναστολή και Μη-Αναστολή:

Οι περισσότερες ρουτίνες σημειακής επικοινωνίας του MPI μπορούν να χρησιμοποιηθούν σε λειτουργία με αναστολή ή χωρίς.

Αναστολή:
- Μία ανασταλτική ρουτίνα αποστολής (blocking send) θα "επιστρέψει" μόνο αν είναι ασφαλές να επαναχρησιμοποιήσει το buffer της εφαρμογής. Ασφαλές σημαίνει ότι η επαναχρησιμοποίηση δεν θα επηρεάσει τα δεδομένα που είναι ήδη προς αποστολή. Δεν σημαίνει οτι τα δεδομένα έχουν παρληφθεί - μπορεί απλά να βρίσκονται ακόμα στο buffer της εφαρμογής.
- Μια ανασταλτική ρουτίνα αποστολής (blocking send) μπορεί να είναι σύγχρονη (synchronous), το οποίο σημαίνει ότι εκτελείται χειραψία (handshake) με την εφαρμογή παραλαβής να επιβεβαιώνει την παραλαβή δεδομένων.
- Μια ανασταλτική ρουτίνα αποστολής (blocking send) μπορεί να είναι ασύγχρονη (asynchronous), αν ο buffer του συστήματος χρησιμοποιείται για να κρατήσει τα δεδομένα προς παραλαβή.
- Μια ρουτίνα παραλαβής "επιστρέφει" αφού τα δεδομένα έχουν παραληφθεί και το πρόγραμμα στη πλευρά της παραλαβής είναι έτοιμο να τα επεξεργαστεί.
Μη-Αναστολή:
- Οι μη-ανασταλτικές ρουτίνες αποστολής / παραλαβής (non-blocking send / receive) συμπεριφέρονται παρόμοια - "επιστρέφουν" σχεδόν αμέσως. Δεν περιμένουν για οποιοδήποτε γεγονός επικοινωνίας να ολοκληρωθεί, όπως εγγραφή δεδομένων σε κάποιο buffer ή χειραψία.
- Οι μη-ανασταλτικές ρουτίνες λειτουργίες απλά ζητούν από την βιβλιοθήκη του MPI να εκτελέσουν μια λειτουργία όταν μπορέσουν. Ο χρήστης δεν μπορεί να προβλέψει πότε αυτό θα συμβεί.
- Δεν είναι ασφαλές να τροποποιείται ο buffer της εφαρμογής μέχρι να γίνει γνωστό ότι μια μη-ανασταλτική λειτουργία πραγματικά ολοκληρώθηκε. Υπάρχουν ρουτίνες αναμονής γι'αυτόν τον λόγο.
- Οι μη-ανασταλτικές ρουτίνες λειτουργίες χρησιμοποιούνται πρωτίστως για να επικαλύπτουν τους υπολογισμούς με επικοινωνίες και να βελτιώνουν έτσι την απόδοση.

Προτεραιότητα και Δικαιοσύνη:

Προτεραιότητα:
- Το MPI εγγυάται ότι τα μηνύματα δεν θα προσπεράσουν το ένα το άλλο.
- Αν ο αποστολέας στείλει δύο μηνύματα (Μήνυμα 1 και Μήνυμα 2) στη σειρά στον ίδιο παραλήπτη, η λειτουργία παραλαβής θα λάβει πρώτα το μήνυμα 1 και μετά το μήνυμα 2.
- Αν ένας παραλήπτης εκτελέσει δύο λειτουργίες παραλαβής (παραλαβή 1 και παραλαβή 2) στη σειρά και περιμένουν για το ίδιο μήνυμα, η παραλαβή 1 θα πάρει πρώτη το μήνυμα πριν την παραλαβή 2.
- Κανόνες προτεραιότητας δεν εφαρμόζονται αν υπάρχουν πολλά νήματα που συμμετέχουν σε λειτουργίες επικοινωνίας.
Δικαιοσύνη:
- Το MPI δεν εγγυάται δικαιοσύνη - εξαρτάται από τον προγραμματιστή να εμποδίσει τα σφάλματα.
- Παράδειγμα: η διεργασία 0 στέλνει ένα μήνυμα στην διεργασία 2. Ωστόσο, η διεργασία 1 στέλνει επίσης ένα μήνυμα το οποίο αντιστοιχεί στην ίδια λειτουργία παραλαβής της διεργασίας 2. Μόνο μία αποστολή θα ολοκληρωθεί.

Ρουτίνες Σημειακής Επικοινωνίας

Παράμετροι Ρουτινών

Οι ρουτίνες σημειακής επικοινωνίας του MPI έχουν τις παρακάτω μορφές:

Ανασταλτική αποστολή (Blocking send)	`MPI_Send(buffer,count,type,dest,tag,comm)`
Μη-ανασταλτική αποστολή (Non-blocking send)	`MPI_Isend(buffer,count,type,dest,tag,comm,request)`
Ανασταλτική παραλαβή (Blocking receive)	`MPI_Recv(buffer,count,type,source,tag,comm,status)`
Μη-ανασταλτική παραλαβή (Non-blocking receive)	`MPI_Irecv(buffer,count,type,source,tag,comm,request)`

Ενταμιευτής (buffer)

Χώρος στο πρόγραμμα στον οποίο αποθηκεύονται τα δεδομένα που είναι για αποστολή ή παραλαβή (o buffer εφαρμογής). Στις περισσότερες περιπτώσεις, είναι απλά μια μεταβλητή η οποία είναι για αποστολή ή παραλαβή. Για προγράμματα σε C, η παράμετρος περνάει κατ' αναφορά και συνήθως πρέπει να συνοδεύεται με το σύμβολο &: &var1

Αριθμός δεδομένων (count)

Δείχνει το πλήθος των δεδομένων ενός τύπου δεδομένων για αποστολή.

Τύπος δεδομένων (type)

Για λόγους φορητότητας, το MPI ορίζει από πριν τους βασικούς τύπους δεδομένων. Ο πίνακας παρακάτω δείχνει μια λίστα από τους τύπους του προτύπου.

Τύποι Δεδομένων στην C

MPI_CHAR signed char

MPI_SHORT signed short int

MPI_INT signed int

MPI_LONG signed long int

MPI_UNSIGNED_CHAR unsigned char

MPI_UNSIGNED_SHORT unsigned short int

MPI_UNSIGNED unsigned int

MPI_UNSIGNED_LONG unsigned long int

MPI_FLOAT float

MPI_DOUBLE double

MPI_LONG_DOUBLE long double

MPI_BYTE 8 binary digits

MPI_PACKED data packed or unpacked with MPI_Pack()/ MPI_Unpack

Τύποι Δεδομένων στην C
`MPI_CHAR`	signed char
`MPI_SHORT`	signed short int
`MPI_INT`	signed int
`MPI_LONG`	signed long int
`MPI_UNSIGNED_CHAR`	unsigned char
`MPI_UNSIGNED_SHORT`	unsigned short int
`MPI_UNSIGNED`	unsigned int
`MPI_UNSIGNED_LONG`	unsigned long int
`MPI_FLOAT`	float
`MPI_DOUBLE`	double
`MPI_LONG_DOUBLE`	long double
`MPI_BYTE`	8 binary digits
`MPI_PACKED`	data packed or unpacked with MPI_Pack()/ MPI_Unpack

Σημειώσεις:

Ο προγραμματιστής μπορεί να δημιουργήσει τους δικούς του τύπους δεδομένων (βλέπε Προσαρμοσμένοι Τύποι Δεδομένων).
Οι MPI_BYTE και MPI_PACKED τύποι δεν αντιστοιχούν στους ίδιους τύπους με την C.
Το πρότυπο του MPI περιλαμβάνει τους εξής τύπους από την γλώσσα:
- C: MPI_LONG_LONG_INT
Μερικές υλοποιήσεις μπορεί να περιλαμβάνουν επιπλέον στοιχειώδεις τύπους δεδομένων (MPI_LOGICAL2, MPI_COMPLEX32, κλπ.). Ελέγξτε το αρχείο κεφαλίδας του MPI.

Προορισμός (dest)

Μία παράμετρος για τις ρουτίνες αποστολής η οποία δείχνει την διεργασία στην οποία πρέπει να πάει το μήνυμα. Προσδιορίζεται από το rank της διεργασίας που λαμβάνει.

Πηγή (source)

Μία παράμετρος για τις ρουτίνες παραλαβής η οποία δείχνει την διεργασία από την οποία περιμένει να λάβει το μήνυμα. Προσδιορίζεται από το rank της διεργασίας που στέλνει. Αυτό μπορεί να είναι και ένας μπαλαντέρ MPI_ANY_SOURCE για να λάβει μήνυμα από οποιαδήποτε διεργασία.

Ετικέτα (tag)

Αυθαίρετος μη-αρνητικός αριθμός που μπαίνει από τον προγραμματιστή για να προσδιορίσει μοναδικά ένα μήνυμα. Λειτουργίες αποστολής και παραλαβής πρέπει να έχουν την ίδια ετικέτα για το ίδιο μήνυμα. Για μια λειτουργία παραλαβής, ο μπαλαντέρ MPI_ANY_TAG μπορεί να χρησιμοποιηθεί για να λάβει μηνύματα ασχέτως με την ετικέτα. Το πρότυπο MPI εγγυάται ότι ακέραιοι μεταξύ 0-32767 μπορούν να χρησιμοποιηθούν σαν ετικέτες, αλλά οι περισσότερες υλοποιήσεις επιτρέπουν ένα μεγαλύτερο εύρος.

Communicator

Δείχνει τον κύριο Communicator, ή ένα σετ από διεργασίες για τις οποίες η πηγή ή ο προορισμός είναι έγκυρα. Αν ο προγραμματιστής δεν δημιουργήσει κάποιον communicator, χρησιμοποιείται ο προκαθορισμένος MPI_COMM_WORLD.

Κατάσταση (status)

Για μια λειτουργία παραλαβής, δείχνει την πηγή του μηνύματος και την ετικέτα του. Στην C, αυτή η παράμετρος είναι ένας δείκτης σε μια δομή MPI_Status (πχ. stat.MPI_SOURCE stat.MPI_TAG). Επιπλέον, ο πραγματικός αριθμός των bytes που λαμβάνονται φαίνται από την μέθοδο MPI_Get_count.

Αίτημα (request)

Χρησιμοποιείται από μη-ανασταλτικές ρουτίνες αποστολής και παραλαβής. Καθώς αυτές οι λειτουργίες μπορούν να επιστρέψουν πριν την ανάγνωση του buffer, το σύστημα βάζει έναν μοναδικό "αριθμό αιτήματος". Ο προγραμματιστής χρησιμοποιεί αυτήν την ανάθεση του συστήματος αργότερα (σε μια ρουτίνα τύπου WAIT) για να προσδιορίσει την ολοκλήρωση της λειτουργίας. Στην C, αυτή η παράμετρος είναι ένας δείκτης σε μια δομή MPI_Request.

Ρουτίνες Σημειακής Επικοινωνίας

Ανασταλτικές Ρουτίνες Μεταβίβασης Μηνυμάτων

Οι περισσότερο γνωστές ρουτίνες μεταβίβασης μηνυμάτων με μπλοκάρισμα παρουσιάζονται παρακάτω.

MPI_Send: Βασική λειτουργία αποστολής. Οι ρουτίνες "επιστρέφουν" μόνο αφού ο buffer εφαρμογής μπορεί να χρησιμποιηθεί ξανά. Να σημειωθεί ότι αυτή η ρουτίνα μπορεί να έχει διαφορετική υλοποίηση σε διαφορετικά συστήματα. Το πρότυπο του MPI επιτρέπει την χρήση ενός buffer του συστήματος αλλά δεν το απαιτεί. Μερικές υλοποιήσεις ίσως χρησιμοποιούν σύγχρονη αποστολή (αναφέρεται παρακάτω) για να υλοποιήσει την ανασταλτική αποστολή.
MPI_Send (&buf,count,datatype,dest,tag,comm)
MPI_Recv: Παραλαμβάνει ένα μήνυμα και αναστέλει τη λειτουργία της διεργασίας μέχρι τα δεδομένα να είναι διαθέσιμα στον buffer της εφαρμογής στην διεργασία παραλαβής.
MPI_Recv (&buf,count,datatype,source,tag,comm,&status)
MPI_Ssend: Σύγχρονη ανασταλτική αποστολή: στέλνει ένα μήνυμα μέχρι ο buffer της εφαρμογής να αδειάσει και να είναι έτοιμος να ξαναχρησιμοποιηθεί και μέχρι η διεργασία παραλαβής να επιβεβαιώσει τη παραλαβή του μηνύματος.
MPI_Ssend (&buf,count,datatype,dest,tag,comm)
MPI_Bsend: Ανασταλτική αποστολή με ενταμίευση: επιτρέπει στον προγραμματιστή να δεσμεύσει όσο μνήμη θέλει στον buffer στην οποία μπορούν να αντιγραφούν τα δεδομένα μέχρι να παραδοθούν. Αποτρέπει τα προβλήματα που δημιουργούνται λόγω έλλειψης χώρου στον buffer. Οι ρουτίνες επιστρέφουν αφού τα δεδομένα αντιγράφτηκαν επιτυχώς από τον buffer της εφαρμογής στον buffer που δεσμεύτηκε για την αποστολή. Πρέπει να χρησιμοποιηθεί με την ρουτίνα MPI_Buffer_attach.
MPI_Bsend (&buf,count,datatype,dest,tag,comm)
MPI_Buffer_attach MPI_Buffer_detach: Χρησιμοποιείται από τον προγραμματιστή για να από/δεσμεύσει χώρο στον buffer για τα μηνύματα για να χρησιμοποιηθεί από την ρουτίνα MPI_Bsend. Η παράμετρος μεγέθους αναφέρεται σε πραγματικό μέγεθος από bytes - όχι το πλήθος των στοιχείων δεδομέων. Μόνο ένας buffer μπορεί να χρησιμοποιηθεί από μια διεργασία τη φορά. Να σημειωθεί ότι η υλοποίηση IBM χρησιμοποιεί MPI_BSEND_OVERHEAD bytes από τον δεσμευμένο χώρο του buffer για κεφαλίδα.
MPI_Buffer_attach (&buffer,size) MPI_Buffer_detach (&buffer,size)
MPI_Rsend: Ανασταλτική "ready" αποστολή: χρησιμοποιείται μόνο αν ο προγραμματιστής είναι σίγουρος οτι η αντίστοιχη παραλαβή είναι ήδη σε αναμονή.
MPI_Rsend (&buf,count,datatype,dest,tag,comm)
MPI_Sendrecv: Ζεύγος "αποστολή ενός μηνύματος και παραλαβή ενός άλλου" πριν την αναστολή. Θα υπάρξει αναστολή μέχρι o buffer της αποστολής να είναι έτοιμος για νέα χρήση ή μέχρι ο buffer της παραλαβής να περιέχει το μήνυμα προς παραλαβή.
MPI_Sendrecv (&sendbuf,sendcount,sendtype,dest,sendtag,&recvbuf,recvcount,recvtype,source,recvtag,comm,&status)
MPI_Wait MPI_Waitany MPI_Waitall MPI_Waitsome: Η λειτουργία MPI_Wait προκαλεί αναστολή μέχρι να ολοκληρωθεί μια μη-ανασταλτική λειτουργία. Για πολλαπλές μη-ανασταλτικές λειτουγίες, ο προγραμματιστής μπορεί να προσδιορίσει μερικές ή όλες τις διαδικασίες που πρέπει να ολοκληρωθούν.
MPI_Wait (&request,&status) MPI_Waitany (count,&array_of_requests,&index,&status) MPI_Waitall (count,&array_of_requests,&array_of_statuses) MPI_Waitsome (incount,&array_of_requests,&outcount,&array_of_offsets, &array_of_statuses)
MPI_Probe: Διεξάγει έναν έλεγχο αναστολής για ένα μήνυμα. Οι "μπαλαντέρ" MPI_ANY_SOURCE και MPI_ANY_TAG μπορούν να χρησιμοποιηθούν για να ελέγξουν ένα μήνυμα από οποιαδήποτε πηγή με οποιαδήποτε ετικέτα. Για την C, η πραγματική πηγή και ετικέτα θα επιστραφούν στην δομή ελέγχου σαν status.MPI_SOURCE και status.MPI_TAG.
MPI_Probe (source,tag,comm,&status)

Παραδείγματα: Ανασταλτικές Ρουτίνες Μεταβίβασης Μηνυμάτων

Η διεργασία 0 στέλνει αίτημα ping στην διεργασία 1 και περιμένει απάντηση

C Language - Blocking Message Passing Routines Example

#include "mpi.h"
#include <stdio.h>

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, dest, source, rc, count, tag=1;
char inmsg, outmsg='x';
MPI_Status Stat;

MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);

if (rank == 0) {
dest = 1;
source = 1;
rc = MPI_Send(&outmsg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);
rc = MPI_Recv(&inmsg, 1, MPI_CHAR, source, tag, MPI_COMM_WORLD, &Stat);
}

else if (rank == 1) {
dest = 0;
source = 0;
rc = MPI_Recv(&inmsg, 1, MPI_CHAR, source, tag, MPI_COMM_WORLD, &Stat);
rc = MPI_Send(&outmsg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);
}

rc = MPI_Get_count(&Stat, MPI_CHAR, &count);
printf("Task %d: Received %d char(s) from task %d with tag %d \n",
rank, count, Stat.MPI_SOURCE, Stat.MPI_TAG);

MPI_Finalize();
}

Ρουτίνες Σημειακής Επικοινωνίας

Μη-Ανασταλτικές Ρουτίνες Μεταβίβασης Μηνυμάτων

Οι πιο κοινές ρουτίνες παρουσιάζονται παρακάτω.

MPI_Isend: Δεσμεύει έναν χώρο στην μνήμη σαν buffer για την αποστολή. Η εκτέλεση συνεχίζεται αμέσως χωρίς η διεργασία να περιμένει να αντιγραφεί το μήνυμα από τον buffer της εφαρμογής. Ένας δείκτης σε αίτηση επικοινωνίας επιστρέφεται ώστε η διεργασία να μπορεί να ελέγξει στη συνέχεια τη κατάσταση του μηνύματος. Το πρόγραμμα δεν πρέπει να μεταβάλλει το buffer εφαρμογής μέχρι η MPI_Wait ή η MPI_Test δείξουν ότι η αποστολή ολοκληρώθηκε.
MPI_Isend (&buf,count,datatype,dest,tag,comm,&request)
MPI_Irecv: Δεσμεύει έναν χώρο στην μνήμη σαν buffer για την παραλαβή. Η εκτέλεση συνεχίζεται αμέσως χωρίς η διεργασία να περιμένει να ληφθεί το μήνυμα και να αντιγραφεί στον buffer της εφαρμογής. Ένας δείκτης αίτησης επικοινωνίας επιστρέφεται ώστε η διεργασία να μπορεί να ελέγξει στη συνέχεια τη κατάσταση του μηνύματος. Το πρόγραμμα πρέπει να χρησιμοποιήσει την MPI_Wait ή την MPI_Test για να ελέγξει πότε ολοκληρώθηκε η διαδικασία και το μήνυμα είναι διαθέσιμο στον buffer της εφαρμογής.
MPI_Irecv (&buf,count,datatype,source,tag,comm,&request)
MPI_Issend: Μη-ανασταλτική σύγχρονη αποστολή. Παρόμοια με την MPI_Isend(), αλλά η MPI_Wait() ή η MPI_Test() δείχνει πότε ο παραλήπτης παρέλαβε το μήνυμα.
MPI_Issend (&buf,count,datatype,dest,tag,comm,&request)
MPI_Ibsend: Μη-ανασταλτική αποστολή με την χρήση buffer. Παρόμοια με την MPI_Bsend() αλλά η MPI_Wait() ή η MPI_Test() δείχνει πότε ο παραλήπτης παρέλαβε το μήνυμα. Πρέπει να χρησιμοποιηθεί μαζί με την ρουτίνα MPI_Buffer_attach.
MPI_Ibsend (&buf,count,datatype,dest,tag,comm,&request)
MPI_Irsend: Μη-ανασταλτική αποστολή "ready". Παρόμοια με την MPI_Rsend() αλλά η MPI_Wait() ή η MPI_Test() δείχνει πότε ο παραλήπτης παρέλαβε το μήνυμα. Θα πρέπει να χρησιμοποιηθεί μόνο αν ο προγραμματιστής είναι σίγουρος ότι η παραλαβή έχει εκτελεστεί ήδη από τον παραλήπτη.
MPI_Irsend (&buf,count,datatype,dest,tag,comm,&request)
MPI_Test MPI_Testany MPI_Testall MPI_Testsome: H MPI_Test ελέγχει τη κατάσταση μιας καθορισμένης μη-ανασταλτικής λειτουργίας. Η παράμετρος "flag" επιστρέφει τη τιμή true (1) αν η λειτουργία έχει ολοκληρωθεί, ή τη τιμή false (0) αν δεν έχει. Για πολλαπλές λειτουργίες, υπάρχει η δυνατότητα καθορισμού κάποιας, όλων ή μερικών λειτουργιών.
MPI_Test (&request,&flag,&status) MPI_Testany (count,&array_of_requests,&index,&flag,&status) MPI_Testall (count,&array_of_requests,&flag,&array_of_statuses) MPI_Testsome (incount,&array_of_requests,&outcount,&array_of_offsets, &array_of_statuses)
MPI_Iprobe: Διεξάγει έναν μη-ανασταλτικό έλεγχο για ένα μήνυμα. Οι "μπαλαντέρ" MPI_ANY_SOURCE και MPI_ANY_TAG μπορούν να χρησιμοποιηθούν για αυτόν τον έλεγχο απο οποιαδήποτε πηγή με οποιαδήποτε ετικέτα. Η παράμετρος "flag" επιστρέφει τη τιμή true (1) αν το μήνυμα έφτασε ή false (0) αν όχι. Για την C, ο παραλήπτης και η ετικέτα μπορούν να εμφανιστούν με την χρήση της δομής ελέγχου ως status.MPI_SOURCE και status.MPI_TAG.
MPI_Iprobe (source,tag,comm,&flag,&status)

Παραδείγματα: Μη-Ανασταλτικές Ρουτίνες Μεταβίβασης Μηνυμάτων

Επικοινωνία κοντινότερου γείτονα σε τοπολογία δακτυλίου

C Language - Non-Blocking Message Passing Routines Example

#include "mpi.h"
#include <stdio.h>

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, next, prev, buf[2], tag1=1, tag2=2;
MPI_Request reqs[4];
MPI_Status stats[4];

MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);

prev = rank-1;
next = rank+1;
if (rank == 0) prev = numtasks - 1;
if (rank == (numtasks - 1)) next = 0;

MPI_Irecv(&buf[0], 1, MPI_INT, prev, tag1, MPI_COMM_WORLD, &reqs[0]);
MPI_Irecv(&buf[1], 1, MPI_INT, next, tag2, MPI_COMM_WORLD, &reqs[1]);

MPI_Isend(&rank, 1, MPI_INT, prev, tag2, MPI_COMM_WORLD, &reqs[2]);
MPI_Isend(&rank, 1, MPI_INT, next, tag1, MPI_COMM_WORLD, &reqs[3]);

{ do some work }

MPI_Waitall(4, reqs, stats);

MPI_Finalize();
}

Ρουτίνες Συλλογικής Επικοινωνίας

Όλα ή Τίποτα:

Οι συλλογικές ρουτίνες πρέπει να περιλαμβάνουν όλες τις διεργασίες μέσα σε έναν communicator. Όλες οι διεργασίες είναι εξ' ορισμού μέλη του communicator MPI_COMM_WORLD.
Είναι στην ευθύνη του προγραμματιστή να εγγυηθεί ότι όλες οι διεργασίες σε έναν communicator συμμετέχουν σε όλες τις συλλογικές ρουτίνες.

Τύποι Συλλογικών Λειτουργιών:

Συγχρονισμός - οι διεργασίες περιμένουν μέχρις ώτου όλα τα μέλη του γκρουπ να φτάσουν στο σημείο συγχρονισμού.
Διανομή/Συλλογή Δεδομένων - μετάδοση, σκόρπισμα/συγκέντρωση, όλα σε όλα.
Συλλογικοί Υπολογισμοί - ένα μέλος της ομάδας συλλέγει τα δεδομένα από τα άλλα μέλη και εκτελεί έναν υπολογισμό (min, max, πρόσθεση, πολλαπλασιασμό) σε αυτά τα δεδομένα.

Προγραμματιστικοί Περιορισμοί και Συμβουλές:

Οι συλλογικές λειτουργίες είναι ανασταλτικές.
Οι συλλογικές ρουτίνες επικοινωνίας δεν δέχονται παραμέτρους ετικετών μηνυμάτων.
Συλλογικές λειτουργίες σε μικρότερα σύνολα διεργασιών διεξάγονται αφού γίνει μετατροπή αυτού του συνόλου σε νέα ομάδα (group) και αφού προσκοληθεί αυτό το group σε κάποιον communicator (συζήτηση στο τμήμα του Ρουτίνες Διαχείρισης Ομάδων και Επικοινωνιών).
Μπορούν να χρησιμοποιηθούν μόνο με τους προκαθορισμένους τύπους δεδομένων του MPI, όχι με τους Προσαρμοσμένους Τύπους Δεδομένων.

Ρουτίνες Συλλογικής Επικοινωνίας

MPI_Barrier

Δημιουργεί ένα όριο συγχρονισμού σε μια ομάδα. Κάθε διεργασία, όταν φτάσει στην εντολή MPI_Barrier, αναστέλεται μέχρι όλες οι υπόλοιπες διεργασίες να φτάσουν στο ίδιο σημείο.

εMPI_Barrier (comm)

MPI_Bcast

Διαδίδει (παν-εκπέμπει) ένα μήνυμα από την διεργασία-πηγή (root) στις υπόλοιπες διεργασίες της ομάδας.

MPI_Bcast (&buffer,count,datatype,root,comm)

MPI_Scatter

Διανέμει τμήματα ενός μηνύματος από μία διεργασία-πηγή στις υπόλοιπες διεργασίες της ομάδας (διαφορετικό τμήμα σε κάθε διεργασία).

MPI_Scatter (&sendbuf,sendcnt,sendtype,&recvbuf,recvcnt,recvtype,root,comm)

MPI_Gather

Συλλέγει διαφορετικά μηνύματα από κάθε διεργασία σε μία διεργασία-προορισμό. Αυτή η ρουτίνα είναι η αντίστροφη διαδικασία της MPI_Scatter.

MPI_Gather (&sendbuf,sendcnt,sendtype,&recvbuf,recvcount,recvtype,root,comm)

MPI_Allgather

Όλες τις διεργασίες της ομάδας συλλέγουν τα μυνήματα όλων των διεργασιών. Κάθε διεργασία διεξάγει μία μετάδοση σε όλες τις υπόλοιπες μέσα στο γκρουπ.

MPI_Allgather (&sendbuf,sendcount,sendtype,&recvbuf,recvcount,recvtype,comm)

MPI_Reduce

Μια διεργασία εφαρμόζει μία συγκεκριμένη πράξη στα βαθμωτά δεδομένα που συλλέγει από όλες τις διεργασίες και τοποθετεί το αποτέλεσμα σε μία μεταβλητη.

MPI_Reduce (&sendbuf,&recvbuf,count,datatype,op,root,comm)

Οι προκαθορισμένες πράξεις του MPI φαίνονται παρακάτω. Οι χρήστες μπορούν επίσης να ορίσουν δικές τους συναρτήσεις υπολογισμών χρησιμοποιώντας την ρουτίνα MPI_Op_create.

MPI Reduction Operation C Data Types

MPI_MAX maximum integer, float

MPI_MIN minimum integer, float

MPI_SUM sum integer, float

MPI_PROD product integer, float

MPI_LAND logical AND integer

MPI_BAND bit-wise AND integer, MPI_BYTE

MPI_LOR logical OR integer

MPI_BOR bit-wise OR integer, MPI_BYTE

MPI_LXOR logical XOR integer

MPI_BXOR bit-wise XOR integer, MPI_BYTE

MPI_MAXLOC max value and location float, double and long double

MPI_MINLOC min value and location float, double and long double

MPI_Allreduce

MPI Reduction Operation	C Data Types
`MPI_MAX`	maximum	integer, float
`MPI_MIN`	minimum	integer, float
`MPI_SUM`	sum	integer, float
`MPI_PROD`	product	integer, float
`MPI_LAND`	logical AND	integer
`MPI_BAND`	bit-wise AND	integer, MPI_BYTE
`MPI_LOR`	logical OR	integer
`MPI_BOR`	bit-wise OR	integer, MPI_BYTE
`MPI_LXOR`	logical XOR	integer
`MPI_BXOR`	bit-wise XOR	integer, MPI_BYTE
`MPI_MAXLOC`	max value and location	float, double and long double
`MPI_MINLOC`	min value and location	float, double and long double

Όλες οι διεργασίες εφαρμόζουν μια MPI_Reduce επί ων δεδομένων όλων των διεργασιών.

MPI_Allreduce (&sendbuf,&recvbuf,count,datatype,op,comm)

MPI_Reduce_scatter

Αυτή η εντολή ισοδυναμεί με την MPI_Reduce συνδυασμένη με την MPI_Scatter. Κάθε διεργασία εκτελεί MPI_Reduce αλλά σε διαφορετικά στοιχεία (η σειρά καθορίζεται από την MPI_Scatter).

MPI_Reduce_scatter (&sendbuf,&recvbuf,recvcount,datatype,op,comm)

MPI_Alltoall

Κάθε διεργασία εκτελεί μια λειτουργία MPI_Scatter, στέλνοντας ένα τμήμα των δεδομένων σε όλες τις διεργασίες στην ομάδα σύμφωνα με την σειρά στην οποία βρίσκονται.

MPI_Alltoall (&sendbuf,sendcount,sendtype,&recvbuf,recvcnt,recvtype,comm)

MPI_Scan

Διεξάγει μια λειτουργία MPI_Reduce για μια συγκεκριμένη πράξη, αλλά στις διεργασίες της ομάδας που προηγούνται στη σειρά από τη συγκεκριμένη διεργασία.

MPI_Scan (&sendbuf,&recvbuf,count,datatype,op,comm)

Παραδείγματα: Συλλογικές Επικοινωνίες

Εκτέλεση λειτουργίας διανομής των γραμμών ενός πίνακα

C Language - Collective Communications Example

#include "mpi.h"
#include <stdio.h>
#define SIZE 4

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, sendcount, recvcount, source;
float sendbuf[SIZE][SIZE] = {
{1.0, 2.0, 3.0, 4.0},
{5.0, 6.0, 7.0, 8.0},
{9.0, 10.0, 11.0, 12.0},
{13.0, 14.0, 15.0, 16.0} };
float recvbuf[SIZE];

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

if (numtasks == SIZE) {
source = 1;
sendcount = SIZE;
recvcount = SIZE;
MPI_Scatter(sendbuf,sendcount,MPI_FLOAT,recvbuf,recvcount,
MPI_FLOAT,source,MPI_COMM_WORLD);

printf("rank= %d Results: %f %f %f %f\n",rank,recvbuf[0],
recvbuf[1],recvbuf[2],recvbuf[3]);
}
else
printf("Must specify %d processors. Terminating.\n",SIZE);

MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 0  Results: 1.000000 2.000000 3.000000 4.000000
rank= 1  Results: 5.000000 6.000000 7.000000 8.000000
rank= 2  Results: 9.000000 10.000000 11.000000 12.000000
rank= 3  Results: 13.000000 14.000000 15.000000 16.000000

Προσαρμοσμένοι Τύποι Δεδομένων

Όπως αναφέρθηκε προηγουμένως, το MPI προκαθορίζει κάποιους τύπους δεδομένων:

C Data Types

MPI_CHAR MPI_SHORT MPI_INT MPI_LONG MPI_UNSIGNED_CHAR MPI_UNSIGNED_SHORT MPI_UNSIGNED_LONG MPI_UNSIGNED MPI_FLOAT MPI_DOUBLE MPI_LONG_DOUBLE MPI_BYTE MPI_PACKED

Το MPI επίσης προσφέρει τη δυνατότητα στο χρήστη να ορίσει τις δικές του δομές δεδομένων βασισμένες στις προκαθορισμένες μορφές. Αυτοί οι τύποι δεδομένων που ορίζονται από τον χρήστη λέγονται προσαρμοσμένοι τύποι δεδομένων.
Οι προκαθορισμένοι τύποι δεδομένων είναι συνεχείς. Προσμαρμοσμένοι τύποι δεδομένων επιτρέπουν στον χρήστη να ορίσει μη συνεχείς τύπους με έναν εύκολο τρόπο και η συμπεριφορά προς αυτούς τους τύπους να είναι σαν να είναι συνεχείς.
Το MPI προσφέρει πολλές μεθόδους για την δημιουργία προσαρμοσμένων τύπων δεδομένων:
- Συνεχείς
- Πίνακες
- Δείκτες
- Δομές Δεδομένων

C Data Types
`MPI_CHAR MPI_SHORT MPI_INT MPI_LONG MPI_UNSIGNED_CHAR MPI_UNSIGNED_SHORT MPI_UNSIGNED_LONG MPI_UNSIGNED MPI_FLOAT MPI_DOUBLE MPI_LONG_DOUBLE MPI_BYTE MPI_PACKED`

Ρουτίνες Προσαρμοσμένων Τύπων Δεδομένων

MPI_Type_contiguous

Ο πιο απλός κατασκευαστής. Δημιουργεί έναν νέο τύπο δεδομένων εκτελώντας count αντίγραφα από ήδη υπάρχοντες τύπους δεδομένων.

MPI_Type_contiguous (count,oldtype,&newtype)

MPI_Type_vector MPI_Type_hvector

Ίδιο με τον συνεχόμενο, απλά επιτρέπει τα κενά ανάμεσα στις θέσεις. Η MPI_Type_hvector είναι ίδια με την MPI_Type_vector εκτός του ότι το κενό προσδιορίζεται σε bytes.

MPI_Type_vector (count,blocklength,stride,oldtype,&newtype)

MPI_Type_indexed MPI_Type_hindexed

Ένας πίνακας μετατοπίσεων του εισερχόμενου τύπου δεδομένων παρέχεται σαν χάρτης για τον καινούριο τύπο. Η MPI_Type_hindexed είναι ίδια με την MPI_Type_indexed εκτός του ότι το offset προσδιορίζεται σε bytes.

MPI_Type_indexed (count,blocklens[],offsets[],old_type,&newtype)

MPI_Type_struct

Ο νέος τύπος δεδομένων διαμορφώνεται σύμφωνα με μια συγεκριμένη προκαθορισμένη μορφή των προκαθορισμένων τύπων που μπαίνουν σαν παράμετροι.

MPI_Type_struct (count,blocklens[],offsets[],old_types,&newtype)

MPI_Type_extent

Επιστρέφει το μέγεθος σε bytes του συγκεκριμένου τύπου δεδομένων. Χρήσιμο για τις υπορουτίνες του MPI οι οποίες χρειάζονται ένα offset σε bytes.

MPI_Type_extent (datatype,&extent)

MPI_Type_commit

Δημιουργεί τους νέους τύπους στο σύστημα. Χρειάζεται για όλους τους προσαρμοσμένους τύπους δεδομένων.

MPI_Type_commit (&datatype)

MPI_Type_free

Αποδεσμεύει το συγκεκριμένο αντικείμενο αυτού του τύπου δεδομένων. Η χρήση αυτής της ρουτίνας είναι πολύ σημαντική για την εκκαθάριση της μνήμης σε περίπτωση που δημιουργηθούν πολλά αντικείμενα τύπων δεδομένων.

MPI_Type_free (&datatype)

Παραδείγματα: Προσαρμοσμένοι Τύποι Δεδομένων

Δημιουργία ενός τύπου δεδομένων που αναπαριστά μία γραμμή ενός πίνακα και διαμοιρασμός διαφορετικής σειράς σε κάθε διεργασία.

C Language - Contiguous Derived Data Type Example

#include "mpi.h"
#include <stdio.h>
#define SIZE 4

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, source=0, dest, tag=1, i;
float a[SIZE][SIZE] =
{1.0, 2.0, 3.0, 4.0,
5.0, 6.0, 7.0, 8.0,
9.0, 10.0, 11.0, 12.0,
13.0, 14.0, 15.0, 16.0};
float b[SIZE];

MPI_Status stat;
MPI_Datatype rowtype;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

MPI_Type_contiguous(SIZE, MPI_FLOAT, &rowtype);
MPI_Type_commit(&rowtype);

if (numtasks == SIZE) {
if (rank == 0) {
for (i=0; i<numtasks; i++)
MPI_Send(&a[i][0], 1, rowtype, i, tag, MPI_COMM_WORLD);
}

MPI_Recv(b, SIZE, MPI_FLOAT, source, tag, MPI_COMM_WORLD, &stat);
printf("rank= %d b= %3.1f %3.1f %3.1f %3.1f\n",
rank,b[0],b[1],b[2],b[3]);
}
else
printf("Must specify %d processors. Terminating.\n",SIZE);

MPI_Type_free(&rowtype);
MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 0  b= 1.0 2.0 3.0 4.0
rank= 1  b= 5.0 6.0 7.0 8.0
rank= 2  b= 9.0 10.0 11.0 12.0
rank= 3  b= 13.0 14.0 15.0 16.0

Παραδείγματα: Προσαρμοσμένοι Τύποι Δεδομένων Vector

Δημιουργία ενός τύπου δεδομένων που αναπαριστά μία στήλη ενός πίνακα και διαμοιρασμός διαφορετικής στήλης σε κάθε διεργασία.

C Language - Vector Derived Data Type Example

#include "mpi.h"
#include <stdio.h>
#define SIZE 4

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, source=0, dest, tag=1, i;
float a[SIZE][SIZE] =
{1.0, 2.0, 3.0, 4.0,
5.0, 6.0, 7.0, 8.0,
9.0, 10.0, 11.0, 12.0,
13.0, 14.0, 15.0, 16.0};
float b[SIZE];

MPI_Status stat;
MPI_Datatype columntype;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

MPI_Type_vector(SIZE, 1, SIZE, MPI_FLOAT, &columntype);
MPI_Type_commit(&columntype);

if (numtasks == SIZE) {
if (rank == 0) {
for (i=0; i<numtasks; i++)
MPI_Send(&a[0][i], 1, columntype, i, tag, MPI_COMM_WORLD);
}

MPI_Recv(b, SIZE, MPI_FLOAT, source, tag, MPI_COMM_WORLD, &stat);
printf("rank= %d b= %3.1f %3.1f %3.1f %3.1f\n",
rank,b[0],b[1],b[2],b[3]);
}
else
printf("Must specify %d processors. Terminating.\n",SIZE);

MPI_Type_free(&columntype);
MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 0  b= 1.0 5.0 9.0 13.0
rank= 1  b= 2.0 6.0 10.0 14.0
rank= 2  b= 3.0 7.0 11.0 15.0
rank= 3  b= 4.0 8.0 12.0 16.0

Παραδείγματα: Προσαρμοσμένοι Τύποι Δεδομένων με Δείκτες

Δημιουργία ενός τύπου δεδομένων εξάγοντας τις τιμές ενός πίνακα σε βαθμωτές μεταβλητές και μοιράζοντας αυτές σε όλες τις διεργασίες.

C Language - Indexed Derived Data Type Example

#include "mpi.h"
#include <stdio.h>
#define NELEMENTS 6

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, source=0, dest, tag=1, i;
int blocklengths[2], displacements[2];
float a[16] =
{1.0, 2.0, 3.0, 4.0, 5.0, 6.0, 7.0, 8.0,
9.0, 10.0, 11.0, 12.0, 13.0, 14.0, 15.0, 16.0};
float b[NELEMENTS];

MPI_Status stat;
MPI_Datatype indextype;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

blocklengths[0] = 4;
blocklengths[1] = 2;
displacements[0] = 5;
displacements[1] = 12;

MPI_Type_indexed(2, blocklengths, displacements, MPI_FLOAT, &indextype);
MPI_Type_commit(&indextype);

if (rank == 0) {
for (i=0; i<numtasks; i++)
MPI_Send(a, 1, indextype, i, tag, MPI_COMM_WORLD);
}

MPI_Recv(b, NELEMENTS, MPI_FLOAT, source, tag, MPI_COMM_WORLD, &stat);
printf("rank= %d b= %3.1f %3.1f %3.1f %3.1f %3.1f %3.1f\n",
rank,b[0],b[1],b[2],b[3],b[4],b[5]);

MPI_Type_free(&indextype);
MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 0  b= 6.0 7.0 8.0 9.0 13.0 14.0
rank= 1  b= 6.0 7.0 8.0 9.0 13.0 14.0
rank= 2  b= 6.0 7.0 8.0 9.0 13.0 14.0
rank= 3  b= 6.0 7.0 8.0 9.0 13.0 14.0

Παραδείγματα: Προσαρμοσμένοι Τύποι Δεδομένων με Δομές

Δημιουργία ενός τύπου δεδομένων που αναπαριστά ένα σωματίδιο και μοίρασμα ενός πίνακα σωματιδίων σε όλες τις διεργασίες.

C Language - Struct Derived Data Type Example

#include "mpi.h"
#include <stdio.h>
#define NELEM 25

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, source=0, dest, tag=1, i;

typedef struct {
float x, y, z;
float velocity;
int n, type;
} Particle;
Particle p[NELEM], particles[NELEM];
MPI_Datatype particletype, oldtypes[2];
int blockcounts[2];

/* MPI_Aint type used to be consistent with syntax of */
/* MPI_Type_extent routine */
MPI_Aint offsets[2], extent;

MPI_Status stat;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

/* Setup description of the 4 MPI_FLOAT fields x, y, z, velocity */
offsets[0] = 0;
oldtypes[0] = MPI_FLOAT;
blockcounts[0] = 4;

/* Setup description of the 2 MPI_INT fields n, type */
/* Need to first figure offset by getting size of MPI_FLOAT */
MPI_Type_extent(MPI_FLOAT, &extent);
offsets[1] = 4 * extent;
oldtypes[1] = MPI_INT;
blockcounts[1] = 2;

/* Now define structured type and commit it */
MPI_Type_struct(2, blockcounts, offsets, oldtypes, &particletype);
MPI_Type_commit(&particletype);

/* Initialize the particle array and then send it to each task */
if (rank == 0) {
for (i=0; i<NELEM; i++) {
particles[i].x = i * 1.0;
particles[i].y = i * -1.0;
particles[i].z = i * 1.0;
particles[i].velocity = 0.25;
particles[i].n = i;
particles[i].type = i % 2;
}
for (i=0; i<numtasks; i++)
MPI_Send(particles, NELEM, particletype, i, tag, MPI_COMM_WORLD);
}

MPI_Recv(p, NELEM, particletype, source, tag, MPI_COMM_WORLD, &stat);

/* Print a sample of what was received */
printf("rank= %d %3.2f %3.2f %3.2f %3.2f %d %d\n", rank,p[3].x,
p[3].y,p[3].z,p[3].velocity,p[3].n,p[3].type);

MPI_Type_free(&particletype);
MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 0   3.00 -3.00 3.00 0.25 3 1
rank= 2   3.00 -3.00 3.00 0.25 3 1
rank= 1   3.00 -3.00 3.00 0.25 3 1
rank= 3   3.00 -3.00 3.00 0.25 3 1

Ρουτίνες Διαχείρισης Ομάδων και Επικοινωνιών

Ομάδες (group) και Επικοινωνίες (Communicators):

Ένα group είναι ένα ταξινομημένο σύνολο από διεργασίες. Κάθε διεργασία σε ένα group σχετίζεται με ένα μοναδικό ακέραιο rank. Οι τιμές του rank ξεκινούν από το μηδέν και φτάνουν μέχρι N-1, όπου N είναι o αριθμός των διεργασιών μέσα στο group. Στο MPI, ένα group αναπαριστάται μέσα στην μνήμη του συστήματος σαν ένα αντικείμενο. Είναι προσπελάσιμο από τον προγραμματιστή μόνο μέσω ενός δείκτη. Ένα group σχετίζεται πάντα με έναν communicator.
Ένας communicator εσωκλείει ένα group διεργασιών οι οποίες μπορεί να επικοινωνήσουν μεταξύ τους. Όλα τα μηνύματα του MPI πρέπει να ορίσουν έναν communicator. Πολύ απλά, ο communicator είναι μια πρόσθετη ετικέτα η οποία πρέπει να περιλαμβάνεται σε όλες τις κλήσεις του MPI. Όπως τα group, οι communicators αναπαριστώνται μέσα στην μνήμη του συστήματος σαν αντικείμενα και είναι προσπελάσιμα από τον προγραμματιστή μέσω δείκτη. Για παράδειγμα, ο δείκτης ενός communicator που δείχνει σε όλες τις διεργασίες είναι ο MPI_COMM_WORLD.
Από την πλευρά του προγραμματιστή, group και communicator είναι το ίδιο. Οι ρουτίνες του group χρησιμοποιούνται κυρίως για να ορίσουν ποια διεργασία θα χρησιμοποιηθεί για να κατασκευάσει έναν communicator.

Κύριοι Στόχοι των Αντικειμένων group και communicator:

Επιτρέπει την οργάνωση διεργασιών, βασισμένοι ανάλογα με την συνάρτηση, σε ομάδες διεργασιών.
Επιστρέπει συλλογικές λειτουργίες επικοινωνιών ανάμεσα σε υποσύνολα διεργασιών που σχετίζονται μεταξύ τους.
Παρέχει την βάση για την διαμόρφωση εικονικών τοπολογιών από τον χρήστη.
Παρέχει ασφαλή επικοινωνία.

Προγραμματιστικοί Περιορισμοί και Συμβουλές:

Τα group/communicators είναι δυναμικά - μπορούν να δημιουργηθούν και να καταστραφούν κατά την εκτέλεση του προγράμματος.
Οι διεργασίες μπορούν να είναι σε περισσότερα από ένα group/communicator. Θα έχουν ένα μοναδικό rank σε κάθε group/communicator.
Το MPI παρέχει πάνω από 40 ρουτίνες για τα group, communicators, και τις εικονικές τοπολογίες.
Τυπική Χρήση:
1. Επιστροφή δείκτη για το group MPI_COMM_WORLD με την χρήση του MPI_Comm_group
2. Δημιουργία νέων group σαν υποσύνολο του καθολικού group με την χρήση του MPI_Group_incl
3. Δημιουργία νέου communicator για ένα group με την χρήση του MPI_Comm_create
4. Προσδιορισμός του rank σε έναν νέο communicator με την χρήση του MPI_Comm_rank
5. Διαχείριση επικοινωνιών με την χρήση οποιασδήποτε ρουτίνας μεταβίβασης μηνυμάτων του MPI
6. Μετά το τέλος, ελευθερώνει όλους τους communicator και τα group (προεραιτικό) με την χρήση του MPI_Comm_free και MPI_Group_free

Ρουτίνες Διαχείρισης Ομάδων και Επικοινωνιών

Δημιουργία δύο διαφορετικών groups για ξεχωριστή ανταλλαγή πληροφοριών. Απαιτεί την δημιουργία νέων communicators επίσης.

C Language - Group and Communicator Routines Example

#include "mpi.h"
#include <stdio.h>
#define NPROCS 8

int main(argc,argv)
int argc;
char *argv[]; {
int rank, new_rank, sendbuf, recvbuf, numtasks,
ranks1[4]={0,1,2,3}, ranks2[4]={4,5,6,7};
MPI_Group orig_group, new_group;
MPI_Comm new_comm;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

if (numtasks != NPROCS) {
printf("Must specify MP_PROCS= %d. Terminating.\n",NPROCS);
MPI_Finalize();
exit(0);
}

sendbuf = rank;

/* Extract the original group handle */
MPI_Comm_group(MPI_COMM_WORLD, &orig_group);

/* Divide tasks into two distinct groups based upon rank */
if (rank < NPROCS/2) {
MPI_Group_incl(orig_group, NPROCS/2, ranks1, &new_group);
}
else {
MPI_Group_incl(orig_group, NPROCS/2, ranks2, &new_group);
}

/* Create new new communicator and then perform collective communications */
MPI_Comm_create(MPI_COMM_WORLD, new_group, &new_comm);
MPI_Allreduce(&sendbuf, &recvbuf, 1, MPI_INT, MPI_SUM, new_comm);

MPI_Group_rank (new_group, &new_rank);
printf("rank= %d newrank= %d recvbuf= %d\n",rank,new_rank,recvbuf);

MPI_Finalize();
}

Δείγμα εξόδου προγράμματος:

rank= 7 newrank= 3 recvbuf= 22
rank= 0 newrank= 0 recvbuf= 6
rank= 1 newrank= 1 recvbuf= 6
rank= 2 newrank= 2 recvbuf= 6
rank= 6 newrank= 2 recvbuf= 22
rank= 3 newrank= 3 recvbuf= 6
rank= 4 newrank= 0 recvbuf= 22
rank= 5 newrank= 1 recvbuf= 22

Εικονικές Τοπολογίες

Τι είναι;

Σε όρους του MPI, μία εικονική τοπολογία είναι η λογική οργάνωση διεργασιών σε ένα γεωμετρικό σχήμα.
Οι δύο κύριοι τύποι τοπολογιών που υποστηρίζονται από το MPI είναι η καρτεσιανή και το γράφημα.
Οι τοπολογίες του MPI είναι εικονικές - μπορεί να μην υπάρχει καμιά φυσική σύνδεση του μηχανήματος και της τοπολογίας διεργασιών.
Οι εικονικές τοπολογίες δημιουργούνται πάνω σε MPI communicators και groups.
Πρέπει να προγραμματιστούν από προγραμματιστές εφαρμογών.

Γιατί να τις χρησιμοποιήσουμε;

Άνεση
- Οι εικονικές τοπολογίες μπορεί να είνα χρήσιμες για εφαρμογές με συγκεκριμένα σχήματα επικοινωνίας - τα οποία αναπαριστούν συγκεκριμένη τοπολογία.
- Για παράδειγμα, μία καρτεσιανή τοπολογία μπορεί να αποδειχτεί κατάλληλη για μια εφαρμογή η οποία απαιτεί επικοιωνίες σε 4 κατευθύνσεις για δεδομένα βασισμένα σε πλέγμα.
Αποδοτικότητα Επικοινωνίας
- Μερικές αρχιτεκτονικές μπορούν να επιβάλουν ποινές για επικοινωνίες μεταξύ πολύ μακρινών κόμβων.
- Μια ιδιαίτερη υλοποίηση μπορεί να βελτιστοποιήσει την χαρτογράφηση των διεργασιών βασισμένη στα φυσικά χαρακτηριστικά ενός δοσμένου φυσικού μηχανήματος.
- Η χαρτογράφηση των διεργασιών σε μια εικονική τοπολογία του MPI εξαρτάται από την υλοποίηση του MPI, και μπορεί να αγνοηθεί τελείως.

Παράδειγμα:

Μια απλοποιημένη διαδικασία χαρτογράφησης σε μια καρτεσιανή εικονική τοπολογία φαίνεται παρακάτω:

Ρουτίνες Εικονικών Τοπολογιών

Δημιουργία μιας 4 x 4 καρτεσιανής τοπολογίας από 16 διεργασίες και ανταλλαγή του rank κάθε διεργασίας με τους 4 γείτονες της.

C Language - Cartesian Virtual Topology Example

#include "mpi.h"
#include <stdio.h>
#define SIZE 16
#define UP 0
#define DOWN 1
#define LEFT 2
#define RIGHT 3

int main(argc,argv)
int argc;
char *argv[]; {
int numtasks, rank, source, dest, outbuf, i, tag=1,
inbuf[4]={MPI_PROC_NULL,MPI_PROC_NULL,MPI_PROC_NULL,MPI_PROC_NULL,},
nbrs[4], dims[2]={4,4},
periods[2]={0,0}, reorder=0, coords[2];

MPI_Request reqs[8];
MPI_Status stats[8];
MPI_Comm cartcomm;

MPI_Init(&argc,&argv);
MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

if (numtasks == SIZE) {
MPI_Cart_create(MPI_COMM_WORLD, 2, dims, periods, reorder, &cartcomm);
MPI_Comm_rank(cartcomm, &rank);
MPI_Cart_coords(cartcomm, rank, 2, coords);
MPI_Cart_shift(cartcomm, 0, 1, &nbrs[UP], &nbrs[DOWN]);
MPI_Cart_shift(cartcomm, 1, 1, &nbrs[LEFT], &nbrs[RIGHT]);

outbuf = rank;

for (i=0; i<4; i++) {
dest = nbrs[i];
source = nbrs[i];
MPI_Isend(&outbuf, 1, MPI_INT, dest, tag,
MPI_COMM_WORLD, &reqs[i]);
MPI_Irecv(&inbuf[i], 1, MPI_INT, source, tag,
MPI_COMM_WORLD, &reqs[i+4]);
}

MPI_Waitall(8, reqs, stats);

printf("rank= %d coords= %d %d neighbors(u,d,l,r)= %d %d %d %d\n",
rank,coords[0],coords[1],nbrs[UP],nbrs[DOWN],nbrs[LEFT],
nbrs[RIGHT]);
printf("rank= %d inbuf(u,d,l,r)= %d %d %d %d\n",
rank,inbuf[UP],inbuf[DOWN],inbuf[LEFT],inbuf[RIGHT]);
}
else
printf("Must specify %d processors. Terminating.\n",SIZE);

MPI_Finalize();
}

Δείγμα εξόδου προγράμματος: (μερικώς)

rank= 0 coords= 0 0  neighbors(u,d,l,r)= -3 4 -3 1
rank= 0                inbuf(u,d,l,r)= -3 4 -3 1
rank= 1 coords= 0 1  neighbors(u,d,l,r)= -3 5 0 2
rank= 1                inbuf(u,d,l,r)= -3 5 0 2
rank= 2 coords= 0 2  neighbors(u,d,l,r)= -3 6 1 3
rank= 2                inbuf(u,d,l,r)= -3 6 1 3
        . . . . .

rank= 14 coords= 3 2  neighbors(u,d,l,r)= 10 -3 13 15
rank= 14                inbuf(u,d,l,r)= 10 -3 13 15
rank= 15 coords= 3 3  neighbors(u,d,l,r)= 11 -3 14 -3
rank= 15                inbuf(u,d,l,r)= 11 -3 14 -3

Μια σύντομη αναφορά στο MPI-2

Ιστορία:

Σκόπιμα, το MPI δεν αναφέρεται σε αρκετά "δύσκολα¨ ζητήματα. Για λόγους ευκολίας, αυτά τα ζητήματα διαφοροποιήθηκαν σε μια δεύτερη έκδοση, την MPI-2.
Τον Μάρτιο του 1995, ακολουθούμενη την έκδοση του αρχικού MPI, το MPI Forum άρχισε την συζήτηση βελτιώσεων για το πρότυπο του MPI. Συζητήθηκαν τα εξής:
- Δεκέμβριος 1995: Συνέδριο Supercomputing '95 - Οι Birds of a Feather συναντιώνται να συζητήσουν πιθανές επεκτάσεις του MPI.
- Νοέμβριος 1996: Συνέδριο Supercomputing '96 - Ένα προσχέδιοο του MPI-2 είναι διαθέσιμο. Υπήρξαν δημόσια σχόλια. Συνάντηση για την συζήτηση επεκτάσεων του MPI-2.
- Το προσχέδιο που παρουσιάστηκε στο συνέδριο Supercomputing '96 έγινε λίγο μετά το πρότυπο MPI-2.
Δεν παρέχουν όλες οι βιβλιοθήκες μια πλήρη υλοποίηση του MPI-2.

Σημεία Κλειδιά των νέων Λειτουργιών:

Δυναμικές Διεργασίες - πρόσθετα που αφαιρούν το μοντέλο στατικών διεργασιών του MPI. Παρέχει ρουτίνες για την δημιουργία νέων διεργασιών.
Μονόδρομες Επικοινωνίες - παρέχει ρουτίνες για μονόδρομες επικοινωνίες. Περιλαμβάνει λειτουργίες κοινής μνήμης (put/get) και απομακρυσμένες λειτουργίες συσσώρευσης.
Εκτεταμένες Συλλογικές λειτουργίες -επιστρέπει μη-ανασταλτικές συλλογικές λειτουργίες και την δημιουργία εφαρμογών με συλλογικές λειτουργίες σε εσωτερικούς communicators
Εξωτερικές Διεπαφές - Ορίζει ρουτίνες που επιτρέπουν τους προγραμματιστές να προγραμματίσουν ένα επίπεδο πάνω από το MPI, όπως debuggers και profilers.
Πρόσθετες Συνδέσεις της Γλώσσας - περιγράφει τις συνδέσεις της C++.
Παράλληλη I/O - περιγράφει την υποστήριξη παράλληλων λειτουργιών I/O.

Αναφορές και Περισσότερες Πληροφορίες

Το αρχικό κείμενο είναι του Blaise Barney, lawrence Livermore Laboratory, USA. Η μετάφραση, καθώς και ορισμένες προσαρμογές και τροποποιήσεις οφείλονται στο Kώστα Μαργαρίτη, Πανεπιστήμιο Μακεδονίας.
MPI web site http://www-unix.mcs.anl.gov/mpi
"Using MPI", Gropp, Lusk and Skjellum. MIT Press, 1994.
"A User's Guide to MPI", Peter S. Pacheco. Department of Mathematics, University of San Francisco.
Γενικότερο υλικό μπορείτε να βρείτε στο pdplab.it.uom.gr

Παράρτημα: Ευρετήριο Ρουτινών του MPI-1

Οι σελίδες πάρθηκαν από μια υλοποίηση της IBM και μπορεί να διαφέρουν από άλλες υλοποιήσεις σε διαφορετικές πλατφόρμες.

Environment Management Routines

MPI_Abort MPI_Errhandler_create MPI_Errhandler_free

MPI_Errhandler_get MPI_Errhandler_set MPI_Error_class

MPI_Error_string MPI_Finalize MPI_Get_processor_name

MPI_Init MPI_Initialized MPI_Wtick

MPI_Wtime

Point-to-Point Communication Routines

MPI_Bsend MPI_Bsend_init MPI_Buffer_attach

MPI_Buffer_detach MPI_Cancel MPI_Get_count

MPI_Get_elements MPI_Ibsend MPI_Iprobe

MPI_Irecv MPI_Irsend MPI_Isend

MPI_Issend MPI_Probe MPI_Recv

MPI_Recv_init MPI_Request_free MPI_Rsend

MPI_Rsend_init MPI_Send MPI_Send_init

MPI_Sendrecv MPI_Sendrecv_replace MPI_Ssend

MPI_Ssend_init MPI_Start MPI_Startall

MPI_Test MPI_Test_cancelled MPI_Testall

MPI_Testany MPI_Testsome MPI_Wait

MPI_Waitall MPI_Waitany MPI_Waitsome

Collective Communication Routines

MPI_Allgather MPI_Allgatherv MPI_Allreduce

MPI_Alltoall MPI_Alltoallv MPI_Barrier

MPI_Bcast MPI_Gather MPI_Gatherv

MPI_Op_create MPI_Op_free MPI_Reduce

MPI_Reduce_scatter MPI_Scan MPI_Scatter

MPI_Scatterv

Process Group Routines

MPI_Group_compare MPI_Group_difference MPI_Group_excl

MPI_Group_free MPI_Group_incl MPI_Group_intersection

MPI_Group_range_excl MPI_Group_range_incl MPI_Group_rank

MPI_Group_size MPI_Group_translate_ranks MPI_Group_union

Communicators Routines

MPI_Comm_compare MPI_Comm_create MPI_Comm_dup

MPI_Comm_free MPI_Comm_group MPI_Comm_rank

MPI_Comm_remote_group MPI_Comm_remote_size MPI_Comm_size

MPI_Comm_split MPI_Comm_test_inter MPI_Intercomm_create

MPI_Intercomm_merge

Derived Types Routines

MPI_Type_commit MPI_Type_contiguous MPI_Type_count

MPI_Type_extent MPI_Type_free MPI_Type_hindexed

MPI_Type_hvector MPI_Type_indexed MPI_Type_lb

MPI_Type_size MPI_Type_struct MPI_Type_ub

MPI_Type_vector

Virtual Topology Routines

MPI_Cart_coords MPI_Cart_create MPI_Cart_get

MPI_Cart_map MPI_Cart_rank MPI_Cart_shift

MPI_Cart_sub MPI_Cartdim_get MPI_Dims_create

MPI_Graph_create MPI_Graph_get MPI_Graph_map

MPI_Graph_neighbors MPI_Graph_neighbors_count MPI_Graphdims_get

MPI_Topo_test

Miscellaneous Routines

MPI_Address MPI_Attr_delete MPI_Attr_get

MPI_Attr_put MPI_DUP_FN MPI_Keyval_create

MPI_Keyval_free MPI_NULL_COPY_FN MPI_NULL_DELETE_FN

MPI_Pack MPI_Pack_size MPI_Pcontrol

MPI_Unpack

Environment Management Routines
MPI_Abort	MPI_Errhandler_create	MPI_Errhandler_free
MPI_Errhandler_get	MPI_Errhandler_set	MPI_Error_class
MPI_Error_string	MPI_Finalize	MPI_Get_processor_name
MPI_Init	MPI_Initialized	MPI_Wtick
MPI_Wtime
Point-to-Point Communication Routines
MPI_Bsend	MPI_Bsend_init	MPI_Buffer_attach
MPI_Buffer_detach	MPI_Cancel	MPI_Get_count
MPI_Get_elements	MPI_Ibsend	MPI_Iprobe
MPI_Irecv	MPI_Irsend	MPI_Isend
MPI_Issend	MPI_Probe	MPI_Recv
MPI_Recv_init	MPI_Request_free	MPI_Rsend
MPI_Rsend_init	MPI_Send	MPI_Send_init
MPI_Sendrecv	MPI_Sendrecv_replace	MPI_Ssend
MPI_Ssend_init	MPI_Start	MPI_Startall
MPI_Test	MPI_Test_cancelled	MPI_Testall
MPI_Testany	MPI_Testsome	MPI_Wait
MPI_Waitall	MPI_Waitany	MPI_Waitsome
Collective Communication Routines
MPI_Allgather	MPI_Allgatherv	MPI_Allreduce
MPI_Alltoall	MPI_Alltoallv	MPI_Barrier
MPI_Bcast	MPI_Gather	MPI_Gatherv
MPI_Op_create	MPI_Op_free	MPI_Reduce
MPI_Reduce_scatter	MPI_Scan	MPI_Scatter
MPI_Scatterv
Process Group Routines
MPI_Group_compare	MPI_Group_difference	MPI_Group_excl
MPI_Group_free	MPI_Group_incl	MPI_Group_intersection
MPI_Group_range_excl	MPI_Group_range_incl	MPI_Group_rank
MPI_Group_size	MPI_Group_translate_ranks	MPI_Group_union
Communicators Routines
MPI_Comm_compare	MPI_Comm_create	MPI_Comm_dup
MPI_Comm_free	MPI_Comm_group	MPI_Comm_rank
MPI_Comm_remote_group	MPI_Comm_remote_size	MPI_Comm_size
MPI_Comm_split	MPI_Comm_test_inter	MPI_Intercomm_create
MPI_Intercomm_merge
Derived Types Routines
MPI_Type_commit	MPI_Type_contiguous	MPI_Type_count
MPI_Type_extent	MPI_Type_free	MPI_Type_hindexed
MPI_Type_hvector	MPI_Type_indexed	MPI_Type_lb
MPI_Type_size	MPI_Type_struct	MPI_Type_ub
MPI_Type_vector
Virtual Topology Routines
MPI_Cart_coords	MPI_Cart_create	MPI_Cart_get
MPI_Cart_map	MPI_Cart_rank	MPI_Cart_shift
MPI_Cart_sub	MPI_Cartdim_get	MPI_Dims_create
MPI_Graph_create	MPI_Graph_get	MPI_Graph_map
MPI_Graph_neighbors	MPI_Graph_neighbors_count	MPI_Graphdims_get
MPI_Topo_test
Miscellaneous Routines
MPI_Address	MPI_Attr_delete	MPI_Attr_get
MPI_Attr_put	MPI_DUP_FN	MPI_Keyval_create
MPI_Keyval_free	MPI_NULL_COPY_FN	MPI_NULL_DELETE_FN
MPI_Pack	MPI_Pack_size	MPI_Pcontrol
MPI_Unpack