Naoya Murakami
visio****@gmail*****
2013年 6月 3日 (月) 02:32:49 JST
お世話になっております。村上です。 mroonga3.04をMyISAMのラッパーモードで利用しています。 データのDELETE,INSERT時にmmap Cannot allocate memoryが発生して困っています。 以前、インデックス構築時にmmap failed!が発生していたときに、相談させてていただいたときは、 1.vm.overcommit_memory = 1の設定 2.swapを増加(スワップ64GB、実メモリ32GB) 3.テーブル分割数の見直し(1テーブル数十万レコード〜数百万レコード、数GB〜数十GB程度までにし、数十テーブルずつspiderでローカルリンク) で改善することができました。 しかし、インデックスを有効にしたまま、データのDELETE,INSERTをしていると、mmap Cannot allocate memoryが発生するようになってしまいました。 更新中にクラッシュすると、spiderでリンクしているテーブルすべてにcheck table、壊れていたら、repair table でまた1日超かかってしまって困っています。 1回目は、負荷をかけすぎたのかなと、repair tableした後、2回目は、並列数を低くして実行したたもの、10分程度で事象が再発しました。 これは、もう、ハードのリソース不足というしかないんでしょうか? 更新の量はたいした量でなくても、発生しましたが。。テーブルサイズに対してメモリが足りないのでしょうか? 何か、調査方法、解決方法はないでしょうか? 方法がなければ、苦労して構築した数百GBのインデックスをまた削除して、 レコード追加してから、インデックスを再構築するぐらいしかないですかね。 また、1週間ぐらいかかりそうですが。。 ・groonga.log抜粋 2013-06-03 01:43:53.189474|n|c27fc700|split (16384) encsize=393485 2013-06-03 01:43:57.588864|A|c283d700|mmap(4194304,600,12587008)=Cannot allocate memory <13627740160> 2013-06-03 01:43:57.590934|A|c283d700|/usr/lib64/libgroonga.so.0(+0x12e5fb) [0x7fc7c360a5fb] 2013-06-03 01:43:57.590947|A|c283d700|/usr/lib64/libgroonga.so.0(grn_io_seg_map_+0xb8) [0x7fc7c360e848] 2013-06-03 01:43:57.590952|A|c283d700|/usr/lib64/libgroonga.so.0(grn_io_win_map2+0x1004) [0x7fc7c3610294] 2013-06-03 01:43:57.590955|A|c283d700|/usr/lib64/libgroonga.so.0(+0x114e35) [0x7fc7c35f0e35] 2013-06-03 01:43:57.590958|A|c283d700|/usr/lib64/libgroonga.so.0(+0x11e4cd) [0x7fc7c35fa4cd] 2013-06-03 01:43:57.590961|A|c283d700|/usr/lib64/libgroonga.so.0(grn_ii_delete_one+0x16b) [0x7fc7c35fe4ab] 2013-06-03 01:43:57.590964|A|c283d700|/usr/lib64/libgroonga.so.0(grn_ii_column_update+0x907) [0x7fc7c36069e7] 2013-06-03 01:43:57.590967|A|c283d700|/usr/lib64/libgroonga.so.0(grn_column_index_update+0x3a) [0x7fc7c350aeea] 2013-06-03 01:43:57.590971|A|c283d700|/usr/local/mysql-5.5.14-spider-3.0-vp-0.18-hs-1.2-q4m-0.95-linux-x86_64-glibc25/lib/plugin/ha_mroonga.so(_ZN10ha_mroonga24wrapper_delete_row_indexEPKh+0x20e) [0x7fc7c3934a9e] ・・・ この後も、多数Cannot allocate memoryがでています。 2013-06-03 01:43:57.598247|A|c283d700|mmap(262144,599,575705088)=Cannot allocate memory <13627740160> 2013-06-03 01:43:57.599186|A|c283d700|/usr/lib64/libgroonga.so.0(+0x12e5fb) [0x7fc7c360a5fb] ・mysqld.log 130603 1:45:59 - mysqld got signal 11 ; This could be because you hit a bug. It is also possible that this binary 以上、よろしくお願いします。