物理学者(ポスドク)による日々の研究生活のメモ書きです ( python/emacs/html/Japascript/シェルスクリプト/TeX/Mac/C言語/Linux/git/tmux/R/ポケモンGO)
前回書いたMPIの記事はあまりにめちゃくちゃだった・・・
今回もめちゃくちゃです
一応、既存のコードの並列化自体はできて、並列処理はできました
(そもそも既存のコードが遅いので、、まだまだ改善の余地がありますが)
もっと早くする方法について色々と調べて行くと「master/slave方式」というのが見つかった
通常並列化するときは
例えば何かある値をn個計算するとして逐次コードだと、
これをncore個のcoreで並列化するときは、サイクリック配置
他にもこれらを組み合わせたブロックサイクリック配置というのがあるらしい
どうやって逐次コードを並列化するかはその計算処理自体に依存するのでケースバイケース
一方でmaster/slaveでは、myrank==0のプロセスは他の監視するためだけに使う
myrank!=0のプロセスは何かの処理や計算をする
言うのは簡単だけど、これを実装するのがなかなか大変・・・
サンプルコードも色々と探したけど、そのまま活用できそうなのが見つからない
もうちょっと書くと、計算に必要なパラメーターをmasterがsend(MPI_Send)して、slaveがreceive(MPI_Recv)して計算を走らせる
計算が終わったらslaveがmasterに値をsendして、masterが値をreceiveする
そのslaveは次の計算ができるので、また走らせて・・・というのを管理していく
masterはいつでも受信できるように
MPI_Recv(&result, 1, MPI_DOUBLE, MPI_ANY_SOURCE, MPI_ANY_TAG, MPI_COMM_WORLD, &status);
のようにANYを使う
たぶんこういう理解で合ってるはず・・・
大まかなmaster/slave方式は以下のコードを見てもらえるとわかるはず
myidという変数で場合分けしてる
■ 参考 : code_mpi_exp/test_mpi5.c
他の例もある(githubでも割と探した)
■ 参考 : Parallel programming: an MPI example
■ 参考 : pi-pp/serie_4/master_slave_template.c
■ 参考 : pi-pp/serie_4/mpi-master-slave-template.c
↑
一つ上のとすごく似ているが微妙に違う
■ 参考 : ValiTDS/valiTDS/gcd.c
↑
ポルトガル語で説明が書いてあるけど、要するに3つの整数の最小公倍数を探す計算らしい
■ 参考 : Master/slave programs in MPI
↑
動くコードがすべて書いてくれている
ありがたい
■ 参考 : /* 1からこの数までの和を求める */
↑
どういう経路で見つけたページか忘れたけどすべてのコードが書いてある
コピペで完全に動いてビビった
他のサンプルコードは、「MPI 並列化 "サンプルコード" C言語 -pdf」とかで検索しても全然見つからない
その検索で見つけた興味深い記事をメモしておく
■ 参考 : Message Passing Interface (MPI) 統合スレ
↑
ネット上にマジでまとまった情報がないから2chに行ってみた
2004年からある老舗だが、あまり活発ではないらしい
とりあえず一度全部さっと目を通しておくとMPIのソースコードには慣れられる
■ 参考 : link集/MPI
↑
2009年で更新が止まっている
■ 参考 : MPI Programming samples
↑
リンク集の中にあった東工大のサンプルコードページ
見つけたサイトの中ではかなり有意義なページ
実際にコピペでは動かないものがあるので注意
■ 参考 : MPI Documents
↑
日本語のpdfもあるが、1997年のものだった
少しだけsample codeがある
■ 参考 : Web pages for MPI and MPE
↑
上記のページのdocumentは少し検索しずらかったり、読みにくい
web page版があった
色々と調べて感じたのが、MPIによる並列化ってまだ今も使われている技術なんだろうか・・・
並列化って今はもっと他のライブラリとかを使ってたりするのだろう
ちょっと不安だけど、まぁもうちょっとやりこんでみる・・・・
(2016/10/10 追記)
今更だけど、すごくよくまとまったページを見つけた
■ 参考 : PCクラスタ超入門 講習会テキスト
この中で特に「MPIによる並列プログラミングの基礎」というのが役に立ちそう
他のドキュメントはまだ見てないけど、高速な並列化をするために重要なことが書かれていそう・・・ まだ見てないけど
(2017/06/18 追記)
たまたま↑のページを見に行ったら、ページがなくなっていた
オーマイガッ
ツイート
今回もめちゃくちゃです
一応、既存のコードの並列化自体はできて、並列処理はできました
(そもそも既存のコードが遅いので、、まだまだ改善の余地がありますが)
もっと早くする方法について色々と調べて行くと「master/slave方式」というのが見つかった
通常並列化するときは
例えば何かある値をn個計算するとして逐次コードだと、
for(i=0; i<n; i++){
// 何か計算
}
みたいにしてやる// 何か計算
}
これをncore個のcoreで並列化するときは、サイクリック配置
for(i=0; i<n; i=i+(ncore)){
// 何か計算
// MPI_Gatherで集める または printfとか
}
または、ブロック配置では// 何か計算
// MPI_Gatherで集める または printfとか
}
for(i=(myrank*ncore); i<(myrank+1)*ncore; i++){
// myrankはそのプロセスのrank
// 何か計算
// MPI_Gatherで集める または printfとか
}
みたいな感じか?(上ので合ってるかはわからんけど)// myrankはそのプロセスのrank
// 何か計算
// MPI_Gatherで集める または printfとか
}
他にもこれらを組み合わせたブロックサイクリック配置というのがあるらしい
どうやって逐次コードを並列化するかはその計算処理自体に依存するのでケースバイケース
一方でmaster/slaveでは、myrank==0のプロセスは他の監視するためだけに使う
myrank!=0のプロセスは何かの処理や計算をする
言うのは簡単だけど、これを実装するのがなかなか大変・・・
サンプルコードも色々と探したけど、そのまま活用できそうなのが見つからない
もうちょっと書くと、計算に必要なパラメーターをmasterがsend(MPI_Send)して、slaveがreceive(MPI_Recv)して計算を走らせる
計算が終わったらslaveがmasterに値をsendして、masterが値をreceiveする
そのslaveは次の計算ができるので、また走らせて・・・というのを管理していく
masterはいつでも受信できるように
MPI_Recv(&result, 1, MPI_DOUBLE, MPI_ANY_SOURCE, MPI_ANY_TAG, MPI_COMM_WORLD, &status);
のようにANYを使う
たぶんこういう理解で合ってるはず・・・
大まかなmaster/slave方式は以下のコードを見てもらえるとわかるはず
myidという変数で場合分けしてる
■ 参考 : code_mpi_exp/test_mpi5.c
他の例もある(githubでも割と探した)
■ 参考 : Parallel programming: an MPI example
■ 参考 : pi-pp/serie_4/master_slave_template.c
■ 参考 : pi-pp/serie_4/mpi-master-slave-template.c
↑
一つ上のとすごく似ているが微妙に違う
■ 参考 : ValiTDS/valiTDS/gcd.c
↑
ポルトガル語で説明が書いてあるけど、要するに3つの整数の最小公倍数を探す計算らしい
■ 参考 : Master/slave programs in MPI
↑
動くコードがすべて書いてくれている
ありがたい
■ 参考 : /* 1からこの数までの和を求める */
↑
どういう経路で見つけたページか忘れたけどすべてのコードが書いてある
コピペで完全に動いてビビった
他のサンプルコードは、「MPI 並列化 "サンプルコード" C言語 -pdf」とかで検索しても全然見つからない
その検索で見つけた興味深い記事をメモしておく
■ 参考 : Message Passing Interface (MPI) 統合スレ
↑
ネット上にマジでまとまった情報がないから2chに行ってみた
2004年からある老舗だが、あまり活発ではないらしい
とりあえず一度全部さっと目を通しておくとMPIのソースコードには慣れられる
■ 参考 : link集/MPI
↑
2009年で更新が止まっている
■ 参考 : MPI Programming samples
↑
リンク集の中にあった東工大のサンプルコードページ
見つけたサイトの中ではかなり有意義なページ
実際にコピペでは動かないものがあるので注意
■ 参考 : MPI Documents
↑
日本語のpdfもあるが、1997年のものだった
少しだけsample codeがある
■ 参考 : Web pages for MPI and MPE
↑
上記のページのdocumentは少し検索しずらかったり、読みにくい
web page版があった
色々と調べて感じたのが、MPIによる並列化ってまだ今も使われている技術なんだろうか・・・
並列化って今はもっと他のライブラリとかを使ってたりするのだろう
ちょっと不安だけど、まぁもうちょっとやりこんでみる・・・・
(2016/10/10 追記)
今更だけど、すごくよくまとまったページを見つけた
■ 参考 : PCクラスタ超入門 講習会テキスト
この中で特に「MPIによる並列プログラミングの基礎」というのが役に立ちそう
他のドキュメントはまだ見てないけど、高速な並列化をするために重要なことが書かれていそう・・・ まだ見てないけど
(2017/06/18 追記)
たまたま↑のページを見に行ったら、ページがなくなっていた
オーマイガッ
PR
この記事にコメントする
プロフィール
HN:coffee
職業:物理屋(自称)
趣味:映画鑑賞、登山
出身:大阪府の南の田舎
自己紹介:
import MyProfile
import coffee_pote from TWITTER
import amazonのほしい物リスト from WISH_LIST
print "先月子供が産まれました!"
# 最終更新 2022/10/25
職業:物理屋
趣味:映画鑑賞、登山
出身:大阪府の南の田舎
自己紹介:
import MyProfile
import coffee_pote from TWITTER
import amazonのほしい物リスト from WISH_LIST
print "先月子供が産まれました!"
# 最終更新 2022/10/25
カテゴリー
ブログ内検索
リンク
相互リンク募集中です
(Twitterにてお知らせください)
Demo scripts for gnuplot version 5 (gnuplotのさまざまなデモ画像と作り方がまとめられている、眺めているだけでできるようになった気分になれる)
gnuplotスクリプトの解説 (米澤進吾さんの個人ページ、gnuplotと言えばこのかた)
gnuplot のページ (Takeno Lab、うちのブログがリンクされていたのでリンク返し)
Twitterから映画の評価が分かる & 映画の鑑賞記録が残せる coco (映画の感想をまとめられるサイト、いつもお世話になっています)
Astronomy Picture of the Day Archive (天文や宇宙関連の最新の話題について画像とともにNASAが説明しているページ)
今日のほしぞら (任意の時刻の空で見える星を表示してくれる、国立天文台が管理している)
GNUPLOTとアニメーション (応用の項目の「見せてあげよう!ラピュタの雷を!!」あたりからすごすぎる)
読書メーター (読んだ本をリストできる便利なサイト)
flickr難民の写真置き場 (20XX年、flickrは有料化の炎に包まれた。あらゆるflickr無料ユーザーは絶滅したかに見えた。 しかし、tumblr移住民は死に絶えてはいなかった。)
教授でもできるMac OS X へのLaTeX, X11, gccのインストレーションと環境設定 (阪大の山中卓さんのwebページ、タイトルにセンスが溢れている、内容は超充実してる、特にTeX関連、学振DCとかPDの申請書類作成時にはお世話になっております)
英語論文執筆用の例文検索サービス (とんでもないものを見つけてしまった・・・・ arXivに収録されている 811,761報の 英語論文から,例文を検索するための検索エンジン)
Demo scripts for gnuplot version 5 (gnuplotのさまざまなデモ画像と作り方がまとめられている、眺めているだけでできるようになった気分になれる)
gnuplotスクリプトの解説 (米澤進吾さんの個人ページ、gnuplotと言えばこのかた)
gnuplot のページ (Takeno Lab、うちのブログがリンクされていたのでリンク返し)
Twitterから映画の評価が分かる & 映画の鑑賞記録が残せる coco (映画の感想をまとめられるサイト、いつもお世話になっています)
Astronomy Picture of the Day Archive (天文や宇宙関連の最新の話題について画像とともにNASAが説明しているページ)
今日のほしぞら (任意の時刻の空で見える星を表示してくれる、国立天文台が管理している)
GNUPLOTとアニメーション (応用の項目の「見せてあげよう!ラピュタの雷を!!」あたりからすごすぎる)
読書メーター (読んだ本をリストできる便利なサイト)
flickr難民の写真置き場 (20XX年、flickrは有料化の炎に包まれた。あらゆるflickr無料ユーザーは絶滅したかに見えた。 しかし、tumblr移住民は死に絶えてはいなかった。)
教授でもできるMac OS X へのLaTeX, X11, gccのインストレーションと環境設定 (阪大の山中卓さんのwebページ、タイトルにセンスが溢れている、内容は超充実してる、特にTeX関連、学振DCとかPDの申請書類作成時にはお世話になっております)
英語論文執筆用の例文検索サービス (とんでもないものを見つけてしまった・・・・ arXivに収録されている 811,761報の 英語論文から,例文を検索するための検索エンジン)
最新記事
(11/20)
(03/05)
(02/29)
(02/21)
(02/21)
(02/21)
(02/21)
(01/13)
(01/05)
(01/05)