Kouhei Sutou
kou****@clear*****
2013年 5月 22日 (水) 16:50:31 JST
須藤です。 In <CANM+HheyfsOhgXkV0O+EKYx8ycKZs0-_-4RHA****@mail*****> "[groonga-dev,01417] Re: mysqldがクラッシュした後のmrnファイルのロックについて" on Tue, 21 May 2013 20:04:30 +0900, Naoya Murakami <visio****@gmail*****> wrote: > が、今回は、mysqld.logにも、groonga.logにも何もでずに、mysqldが再起動されているので、 > おそらくは、メモリ不足によるOOM killerの仕業かなと考えました。 > 瞬間的に、メモリが大きくなりすぎてしまったのかもしれません。 > > こうなると、あきらかにメモリ不足が問題かと思いますが、 > とりあえずは、瞬間的にメモリが大きくなりすぎてOOM killerにmysqldが > 殺されることが防ぐことができればいいかなと、一時的にスワップを > もりっと８０GBほど追加させました。 > > これにより、今のところ、インデックス構築、大量データ更新時にmysqldの再起動が > 多発することが回避できました。 よかったです！ 結果を教えてもらってうれしいです。 このメーリングリストで困ったことを相談してくれるのも、問題修 正のきっかけになるのでうれしいのですが、うまく動いているとい う情報も教えてもらえると励みになるのでうれしいんですよね！ > また、数千万レコードの１テーブルの場合、インデックス構築が２日程度かかっていましたが、 > １０テーブル程に分割して、並列してやれば、数時間で終わるようになりました！ > どうも、ありがとうございました。 それはよかったです。 レコード数というよりも並列に実行できるようにしたのが効いたん でしょうね。レコード数が増えるとレコードの追加が多少遅くなる というのはたしかにあるのですが。。。 2年くらい前の資料ですが↓の「ベンチマーク（構築時間）」を見 ると、1件あたりの登録時間が徐々に増えていっています。ただ、 このときは100万件までしかデータをとっていないので、1000万件 などもっと増やしたときに性能にどう影響するかは示せていないの ですが。。。（PDF注意） http://groonga.org/ja/publication/presentation/groonga-night-2-the-future-notes.pdf > あ、あと、データを分割しているときに気づいたのですが、ラッパーモードでdisable keysした > 状態で、 レコードをdeleteすると、必ず、mysqldがクラッシュする事象が発生しました。 > > 当方の環境不備によるものかわかりませんが、とりあえず、ご報告いたします。 > マニアックなケースなので、影響は低いと思いますが、後ほど別メールで、再現手順をお送りいたします。 ありがとうございます！ > 更新時のmpstat -P ALL > 02時58分31秒 CPU %usr %nice %sys %iowait %irq %soft %steal > %guest %idle > 02時58分31秒 all 22.35 0.00 1.51 2.54 0.00 0.13 0.00 > 0.00 73.48 > 02時58分31秒 0 61.42 0.00 4.09 4.88 0.00 0.81 0.00 > 0.00 28.79 > 02時58分31秒 1 21.49 0.00 1.33 2.83 0.00 0.00 0.00 > 0.00 74.35 > 02時58分31秒 2 21.67 0.00 1.28 1.89 0.00 0.00 0.00 > 0.00 75.15 > 02時58分31秒 3 30.84 0.00 1.57 2.54 0.00 0.00 0.00 > 0.00 65.05 > 02時58分31秒 4 13.60 0.00 1.63 3.84 0.00 0.00 0.00 > 0.00 80.93 > 02時58分31秒 5 8.66 0.00 0.66 1.19 0.00 0.00 0.00 > 0.00 89.49 > 02時58分31秒 6 12.14 0.00 0.87 2.31 0.00 0.18 0.00 > 0.00 84.50 > 02時58分31秒 7 9.15 0.00 0.64 0.84 0.00 0.00 0.00 > 0.00 89.36 追加情報もありがとうございます！ CPUはまだもう少し余裕がありそうですね。 -- 須藤 功平 <kou****@clear*****> 株式会社クリアコード <http://www.clear-code.com/> (03-6231-7270) groongaサポート: http://groonga.org/ja/support/ パッチ採用はじめました: http://www.clear-code.com/recruitment/ コミットへのコメントサービスはじめました: http://www.clear-code.com/services/commit-comment.html
