Treballs paral·lels MPI. Cluster de Computació

Treballs paral·lels MPI

Treballs Paral·lels

Manar treballs paral·lels tipus MPI usant Grid Engine consisteix principalment a triar un entorn paral·lel corresponent i definir el rang de nombres de slots (nuclis CPU) que requereix el treball.

L'elecció de l'entorn parallelo està determinat per l'opció de línia de comandos -pe .

Per a manar per exemple un treball d'openmpi que requereix 100 slots executem

$ qsub -pe openmpi 100 ./mi_trabajo_mpi.sh

o usem un rang

$ qsub -pe openmpi 100-200 ./mi_trabajo_mpi.sh

També és possible especificar l'entorn paral·lel en el script del nostre treball introduint una línia com

#$ -pe openmpi 100

Anem a veure uns exemples per a cadascun dels entorns MPI instal·lats en ClusterUA.

Una llista dels entorn aconseguim executant

[hpuser@login ]$ qconf -spl

impi

mvapich

mvapich2

openmpi

OpenMPI

L'entorn d'OpenMPI per a Grid Engine és openmpi. Després d'haver compilat el nostre executable amb openmpi amb, per exemple:

$ module lloeu openmpi-gcc

$ mpicc MPI01.c -o MPI01_openmpi_gcc

Un simple script per a manar el treball usant 32 slots pot ser:

#!/bin/bash
#$ -N openmpi-gcc
#$ -o openmpi-gcc.$JOB_ANEU.out
#$ -i openmpi-gcc.$JOB_ANEU.err
#$ -pe openmpi 32
#$ -cwd
. /etc/profile.d/modules.sh
module lloeu openmpi-gcc
mpirun -np $NSLOTS /home/hpuser/mpi/MPI01_openmpi_gcc

Per a usar el compilador intel solament cal substituir el mòdul openmpi-gcc per openmpi-intel i compilar el codi font amb mpiicc.

MVAPICH

L'entorn d'OpenMPI per a Grid Engine és mvapich. Després d'haver compilat el nostre executable amb openmpi amb (per exemple):

$ module lloeu mvapich-gcc

$ mpicc MPI01.c -o MPI01_mvapich_gcc

Podem manar el treball amb el següent script per a 48 slots:

#!/bin/bash
#$ -N mvapich-gcc
#$ -o mvapich-gcc.$JOB_ANEU.out
#$ -i mvapich-gcc.$JOB_ANEU.err
#$ -pe mvapich 48
#$ -cwd
. /etc/profile.d/modules.sh
module lloeu mvapich-gcc
mpirun -machinefile $TMPDIR/machines -np $NSLOTS /home/hpuser/mpi/MPI01_mvapich_gcc

MVAPICH2

L'entorn d'OpenMPI per a Grid Engine és mvapich2. Després d'haver compilat el nostre executable amb openmpi amb (per exemple):

$ module lloeu mvapich2-gcc

$ mpicc MPI01.c -o MPI01_mvapich2_gcc

Podem manar el treball amb el següent script per a 48 slots:

#!/bin/bash
#$ -N mvapich2-gcc
#$ -o mvapich2-gcc.$JOB_ANEU.out
#$ -i mvapich2-gcc.$JOB_ANEU.err
#$ -pe mvapich2 24
#$ -cwd
. /etc/profile.d/modules.sh
module lloeu mvapich2-gcc
mpirun -np $NSLOTS /home/hpuser/mpi/MPI01_mvapich2_gcc

Intel MPI

L'entorn d'OpenMPI per a Grid Engine és impi. Després d'haver compilat el nostre executable amb openmpi amb (per exemple):

$ module lloeu impi

$ mpiicc MPI01.c -o MPI01_impi

Podem manar el treball amb el següent script per a 48 slots:

#!/bin/bash
#$ -N impi
#$ -o impi.$JOB_ANEU.out
#$ -i impi.$JOB_ANEU.err
#$ -pe impi 48
#$ -cwd
. /etc/profile.d/modules.sh
module lloeu impi
export MPD_AMB_EXT="sge_$JOB_ANEU.$SGE_TASK_ANEU"
mpiexec -np $NSLOTS /home/hpuser/mpi/MPI01_impi

Grid Engine s'ocupa d'arrancar i apagar els dimonis mpd en els nodes. Per açò s'usar mpiexec per a executar el treball.

Intel MPI amb Trace Analyzer and Collector

Per a usar l'Intel Trace Analyzer and Collector primer hem de compilar el nostre programa amb l'opció %u201C-trace%u201D.

$ module lloeu icc

$ module lloeu trace

$ mpiicc -trace ./MPI01.c -o MPI01_impi_trace

Per a crear el perfil de trace modifiquem el nostre script de treball de Grid Engine carregant el mòdul itac i afegint l'opció %u201C-trace%u201D com a opció del mpiexec :

#!/bin/bash
#$ -N impi
#$ -o impi.$JOB_ANEU.out
#$ -i impi.$JOB_ANEU.err
#$ -pe impi 48
#$ -cwd
. /etc/profile.d/modules.sh
module lloeu impi
module lloeu itac
export MPD_AMB_EXT="sge_$JOB_ANEU.$SGE_TASK_ANEU"
mpiexec -trace -np $NSLOTS /home/hpuser/mpi/MPI01_impi_trace

En quan haja acabat el programa trobarem fitxers trace amb el nom MPI01_impi_trace.stf.f* i un fitxer MPI01_impi_trace.stf.

Treballs paral·lels MPI. Cluster de Computació - IUII

Cluster de Computació - IUII