忍者ブログ
日々の研究生活のメモ書きなど
前回書いたMPIの記事はあまりにめちゃくちゃだった・・・
今回もめちゃくちゃです

一応、既存のコードの並列化自体はできて、並列処理はできました
(そもそも既存のコードが遅いので、、まだまだ改善の余地がありますが)

もっと早くする方法について色々と調べて行くと「master/slave方式」というのが見つかった




通常並列化するときは

例えば何かある値をn個計算するとして逐次コードだと、
for(i=0; i<n; i++){
// 何か計算
}
みたいにしてやる


これをncore個のcoreで並列化するときは、サイクリック配置
for(i=0; i<n; i=i+(ncore)){
// 何か計算
// MPI_Gatherで集める または printfとか
}
または、ブロック配置では
for(i=(myrank*ncore); i<(myrank+1)*ncore; i++){
// myrankはそのプロセスのrank
// 何か計算
// MPI_Gatherで集める または printfとか
}
みたいな感じか?(上ので合ってるかはわからんけど)
他にもこれらを組み合わせたブロックサイクリック配置というのがあるらしい

どうやって逐次コードを並列化するかはその計算処理自体に依存するのでケースバイケース





一方でmaster/slaveでは、myrank==0のプロセスは他の監視するためだけに使う
myrank!=0のプロセスは何かの処理や計算をする

言うのは簡単だけど、これを実装するのがなかなか大変・・・
サンプルコードも色々と探したけど、そのまま活用できそうなのが見つからない
もうちょっと書くと、計算に必要なパラメーターをmasterがsend(MPI_Send)して、slaveがreceive(MPI_Recv)して計算を走らせる
計算が終わったらslaveがmasterに値をsendして、masterが値をreceiveする
そのslaveは次の計算ができるので、また走らせて・・・というのを管理していく
masterはいつでも受信できるように
MPI_Recv(&result, 1, MPI_DOUBLE, MPI_ANY_SOURCE, MPI_ANY_TAG, MPI_COMM_WORLD, &status);
のようにANYを使う

たぶんこういう理解で合ってるはず・・・

大まかなmaster/slave方式は以下のコードを見てもらえるとわかるはず
myidという変数で場合分けしてる
■ 参考 : code_mpi_exp/test_mpi5.c

他の例もある(githubでも割と探した)
■ 参考 : Parallel programming: an MPI example

■ 参考 : pi-pp/serie_4/master_slave_template.c

■ 参考 : pi-pp/serie_4/mpi-master-slave-template.c

一つ上のとすごく似ているが微妙に違う

■ 参考 : ValiTDS/valiTDS/gcd.c

ポルトガル語で説明が書いてあるけど、要するに3つの整数の最小公倍数を探す計算らしい


■ 参考 : Master/slave programs in MPI

動くコードがすべて書いてくれている
ありがたい


■ 参考 : /* 1からこの数までの和を求める */

どういう経路で見つけたページか忘れたけどすべてのコードが書いてある
コピペで完全に動いてビビった





他のサンプルコードは、「MPI 並列化 "サンプルコード" C言語 -pdf」とかで検索しても全然見つからない
その検索で見つけた興味深い記事をメモしておく

■ 参考 : Message Passing Interface (MPI) 統合スレ

ネット上にマジでまとまった情報がないから2chに行ってみた
2004年からある老舗だが、あまり活発ではないらしい
とりあえず一度全部さっと目を通しておくとMPIのソースコードには慣れられる


■ 参考 : link集/MPI

2009年で更新が止まっている


■ 参考 : MPI Programming samples

リンク集の中にあった東工大のサンプルコードページ
見つけたサイトの中ではかなり有意義なページ
実際にコピペでは動かないものがあるので注意



■ 参考 : MPI Documents

日本語のpdfもあるが、1997年のものだった
少しだけsample codeがある

■ 参考 : Web pages for MPI and MPE

上記のページのdocumentは少し検索しずらかったり、読みにくい
web page版があった






色々と調べて感じたのが、MPIによる並列化ってまだ今も使われている技術なんだろうか・・・
並列化って今はもっと他のライブラリとかを使ってたりするのだろう
ちょっと不安だけど、まぁもうちょっとやりこんでみる・・・・




(2016/10/10 追記)

今更だけど、すごくよくまとまったページを見つけた

■ 参考 : PCクラスタ超入門 講習会テキスト


この中で特に「MPIによる並列プログラミングの基礎」というのが役に立ちそう
他のドキュメントはまだ見てないけど、高速な並列化をするために重要なことが書かれていそう・・・ まだ見てないけど




(2017/06/18 追記)

たまたま↑のページを見に行ったら、ページがなくなっていた
オーマイガッ
















PR
この記事にコメントする
Name
Title
Color
E-Mail
URL
Comment
Password   Vodafone絵文字 i-mode絵文字 Ezweb絵文字
プロフィール
HN:coffee
職業:物理屋(自称)
趣味:映画鑑賞、登山
出身:大阪府の南の田舎
自己紹介:
#include <stdio.h>
#include "MyProfile.h"

#define TWITTER coffee_pote

#ifdef RICH_FLAG
// ↑いつも支援いただきありがとうございます m(_ _)m
#define WISH_LIST
amazonのほしい物リスト
#endif


int main(void){

printf("\n");
printf("あけましておめでとうございます\n");
printf("今年もどうぞよろしくお願いします\n");
printf("\n");
printf("猿でもわかるgnuplot を執筆中\\
少し追記しました\n");
/* 最終更新 2018/01/01 */
return 0;

}
カウンター
ブログ内検索
ツイートするボタン
リンク
相互リンク募集中です (Twitterにてお知らせください)

Demo scripts for gnuplot version 5
(gnuplotのさまざまなデモ画像と作り方がまとめられている、眺めているだけでできるようになった気分になれる)

gnuplotスクリプトの解説
(米澤進吾さんの個人ページ、gnuplotと言えばこのかた)

gnuplot のページ
(Takeno Lab、うちのブログがリンクされていたのでリンク返し)

とある物理の院生日誌~院生は社会へ旅立った~
(研究室の先輩の個人ブログ)

英語例文を見て自然に英語・英会話を学ぶ
(楠本慶ニさんの個人ページ、様々な情報の密度の高さに感動)

Twitterから映画の評価が分かる & 映画の鑑賞記録が残せる coco
(映画の感想をまとめられるサイト、いつもお世話になっています)

Astronomy Picture of the Day Archive
(天文や宇宙関連の最新の話題について画像とともにNASAが説明しているページ)

今日のほしぞら
(任意の時刻の空で見える星を表示してくれる、国立天文台が管理している)

GNUPLOTとアニメーション
(応用の項目の「見せてあげよう!ラピュタの雷を!!」あたりからすごすぎる)

読書メーター
(読んだ本をリストできる便利なサイト)

Flickr

Template "simple02" by Emile*Emilie
忍者ブログ [PR]