Книга является практическим руководством для разработки прикладного программного обеспечения параллельных многопроцессорных систем. Приводятся сведения об архитектуре высокопроизводительных систем параллельного программирования – MPI (Message Passing Interface), PVM (Parallel Virtual Machine), HPF (High Performance Fortran). Излагается методика параллельного программирования для создания своих эффективных параллельных (и векторизованных) программ. Представленные примеры помогут разобраться в тонкостях работы многопроцессорных систем, а задания-упражнения для самостоятельной работы – закрепить изложенный материал. В приложениях описываются способы отладки параллельных кластеров, методы исследования производительности, дан обзор средств визуализации исполнения многопроцессорных приложений. Для программистов, преподавателей и студентов, чья деятельность связана с высокопроизводительными вычислениями