実は忍者ツールズでは一部自作サーバーを使っているサービスがあります。
[忍者アナライズ]
Hadoopに最適化したサーバーで、HDFS、HBase等が動いているサーバーです。
そして、今回新たにサーバーリプレースに合わせて新自作サーバーを構築しました。
このサーバーが適用されるサービスはほぼすべて。
バックエンドシステムの更新を行う過程において導入を決めました。
参考にしたのはサイバーエージェントさんの通称「ミルフィーユ」サーバー
[アメーバを支える自作サーバのいままでとこれから]
しかし、これを真似して導入するにはいくつかの問題がありました。
■NINJA TOOLSで使っているサーバー
ところで現在、忍者アナライズの一部以外はとあるメーカーのサーバーを使用しています。
BTOのサーバーをできるだけ安く買い、忍者ツールズに最適化してサービス投入をしています。
メーカー製サーバーの利点として
しかし、完全に安いかというとそうではありませんでした。
特に特殊な構成になると価格が跳ね上がってしまうものです。
■一代目自作サーバー≪Hattori≫
Hadoop最適化サーバーとして設計しました。
要件としては
・ディスクをできるだけ載せる ( 容量的にも台数的にも )
・RAIDはいらない
・CPU/メモリはできるだけ載せる
というものです。
そして、出来上がったのがこちら
HadoopのNamenodeはメーカー製サーバーを利用しています。
命名は弊社インフラエンジニアのtsunokawaです。
もちろん、ある意味忍者の代名詞である「服部半蔵」からのネーミングです。
■二代目自作サーバー≪Hanzo≫
さて、本格的に自作サーバーを展開するにあたり、集積度を上げることと
汎用性を高めること、メーカー製サーバーより安く仕上げることを考えて設計を行いました。
もちろん、保守はありませんので、故障したら即まるごと交換です。
さて、ここで最初に紹介したサイバーエージェントさんの「ミルフィーユ」を真似することでの問題点ですが、
さて、まずはそれぞれの問題点を潰すことから考えましょう。
[忍者アナライズ]
Hadoopに最適化したサーバーで、HDFS、HBase等が動いているサーバーです。
そして、今回新たにサーバーリプレースに合わせて新自作サーバーを構築しました。
このサーバーが適用されるサービスはほぼすべて。
バックエンドシステムの更新を行う過程において導入を決めました。
参考にしたのはサイバーエージェントさんの通称「ミルフィーユ」サーバー
[アメーバを支える自作サーバのいままでとこれから]
しかし、これを真似して導入するにはいくつかの問題がありました。
■NINJA TOOLSで使っているサーバー
ところで現在、忍者アナライズの一部以外はとあるメーカーのサーバーを使用しています。
BTOのサーバーをできるだけ安く買い、忍者ツールズに最適化してサービス投入をしています。
メーカー製サーバーの利点として
- 保守がある
- 安定した品質
- ラックマウントしやすい
しかし、完全に安いかというとそうではありませんでした。
特に特殊な構成になると価格が跳ね上がってしまうものです。
■一代目自作サーバー≪Hattori≫
Hadoop最適化サーバーとして設計しました。
要件としては
・ディスクをできるだけ載せる ( 容量的にも台数的にも )
・RAIDはいらない
・CPU/メモリはできるだけ載せる
というものです。
そして、出来上がったのがこちら
CPU | Intel Xeon X3440 ( 4C/8T 2.53GHz ) |
メモリ | 16GB ( 4GB * 4 ) |
HDD | 2TB * 4 ( RAIDなし ) |
ラック占有 | 1U ( Short Length / 440mm ) |
HadoopのNamenodeはメーカー製サーバーを利用しています。
命名は弊社インフラエンジニアのtsunokawaです。
もちろん、ある意味忍者の代名詞である「服部半蔵」からのネーミングです。
■二代目自作サーバー≪Hanzo≫
さて、本格的に自作サーバーを展開するにあたり、集積度を上げることと
汎用性を高めること、メーカー製サーバーより安く仕上げることを考えて設計を行いました。
もちろん、保守はありませんので、故障したら即まるごと交換です。
さて、ここで最初に紹介したサイバーエージェントさんの「ミルフィーユ」を真似することでの問題点ですが、
- 遠隔操作がしにくい
- 搭載可能メモリ量が多くない
- サーバーグレードのパーツが使いにくい
- PCIeが殺されてしまう
- 真似するだけじゃ芸がない
さて、まずはそれぞれの問題点を潰すことから考えましょう。
この記事で自作サーバーの完成をお伝えしたのですが、やっぱり反響が大きかったので、製作過程を数日にわたってアップしていきますねー。
早速、ちょっと暴露。
公開している自作サーバー、実は同じものは8台しか作ってませんw
ここを見ると、シャーシは12台分。。。残りの4台はどこへ消えたのでしょう。。。ねぇ?w
答えは「つづき」に^^
答えは次回以降に^^;
さて、この自作サーバーですが、当初は以下の通りのコンセプトで製作が始まりました。
括弧書きで、最初の自分の感想もw
・1Uハーフサイズが密集度に関していい感じだよね。
(1Uハーフの自作サーバー、多いみたいだしなー。)
・HDDのせられるだけ、全部2TBで。
(実生活じゃ全然導入してない。。。製品選定どうしよ^^;)
・Hadoopに使うから、RAIDはいらないよ。
(ぇ、大丈夫なの??? <= Hadoopをよく知らなかった)
・MapReduce用にコアは多い方がいいね、CPU。
(へ、へぇ、そういうものなんだ。。。汗)
・メモリとのバランスは調べないとわかんないから、とりあえずcoreあたり2GBくらいで。
(ふー、ふーん。。。滝汗)
・遠隔操作機能もついてるといいね、KVMのポート消費しないから。
(あぁ、これは同意。IPMI使ったことないけどどうにかなるっしょ)
こんな妄想を情シス他で語り合っていた訳です。
まぁでもね、とにもかくにも、まずは作ってみようじゃない?
早速、ちょっと暴露。
公開している自作サーバー、実は同じものは8台しか作ってませんw
ここを見ると、シャーシは12台分。。。残りの4台はどこへ消えたのでしょう。。。ねぇ?w
答えは次回以降に^^;
さて、この自作サーバーですが、当初は以下の通りのコンセプトで製作が始まりました。
括弧書きで、最初の自分の感想もw
・1Uハーフサイズが密集度に関していい感じだよね。
(1Uハーフの自作サーバー、多いみたいだしなー。)
・HDDのせられるだけ、全部2TBで。
(実生活じゃ全然導入してない。。。製品選定どうしよ^^;)
・Hadoopに使うから、RAIDはいらないよ。
(ぇ、大丈夫なの??? <= Hadoopをよく知らなかった)
・MapReduce用にコアは多い方がいいね、CPU。
(へ、へぇ、そういうものなんだ。。。汗)
・メモリとのバランスは調べないとわかんないから、とりあえずcoreあたり2GBくらいで。
(ふー、ふーん。。。滝汗)
・遠隔操作機能もついてるといいね、KVMのポート消費しないから。
(あぁ、これは同意。IPMI使ったことないけどどうにかなるっしょ)
こんな妄想を情シス他で語り合っていた訳です。
まぁでもね、とにもかくにも、まずは作ってみようじゃない?