ドリコムのInfrastructure as code

Copyright Drecom Co., Ltd. All Rights Reserved. 1

ドリコムのInfrastructure as Code

2014.05.23最新インフラエンジニア技術勉強会


名前ひらしー ( とか狂犬？とか ) 出身 : グンマー

所属サービス基盤本部サービス基盤部インフラグループ

職種インフラエンジニア


⁃ ドリコムのインフラ規模

⁃ Chef 運用

⁃ コード管理

⁃ テスト駆動インフラ


ドリコムのインフラ規模

⁃ 1 日の全アプリ合計 PV

⁃ 1 日の全アプリ合計 DAU1億以上

100万以上



⁃ サーバ台数

ホスティング

クラウド

約 300 台

約 1000 台



⁃ サーバ台数

1 ヶ月の増加台数

約 30 台～ 50 台



⁃ 上記サーバを診るインフラエンジニア



3 人



少人数で早く正確なインフラを回すには？



⁃ Chef 運用

⁃ コード管理



Chef の運用方法

米国 Chef 社 ( 旧 : Opscode 社 ) が開発オープンソースとして公開されている

サーバの構成管理を行うフレームワーク



⁃ 特徴Ruby で書ける ( 内部 DSL)

べき等性という考え方

Ruby エンジニアが多いため、　構築状況が共有しやすい



何度実行しても” nginx.conf.src” という Chef 管理のファイルと等しくなるべき

べき等性に沿った記述



Chef-ServerChef-Solo



Chef-Server 構成※Chef 社公式サイトから引

用



Chef-Solo 構成※Chef 社公式サイトから引

用



Chef-ServerChef-Solo



⁃ Why 以前は Chef-Server 構成だったが

クライアント 100 台を超えたあたりから CouchDB　　がボトルネックになった※Chef11 から PostgreSQL が採用された

Chef-Server と Chef-Client 連携による定期的収束を既存サーバに適用できなかった



⁃ Why プロビジョニング処理とサーバ情報の取得

という観点では Chef-Server が必要ない

現状 Chef-Solo とシェルスクリプト

　　の組み合わせで十分



ドリコムの Chef 開発フロー



レシピの開発


CI

DC

DC

DC

本番環境インフラメンバ

git push




GitLab


CI

DC

DC

DC

本番環境

GitLab


インフラメンバ



Jenkins



Vagrant

vagrant snapshot back

OS インストール直後のスナップショット

vagrant provision

Chef の実行



Foodcritic



serverspec

nginx の状態をテストする例


CI

DC

DC

DC

本番環境

GitLab

Jenkins Vagrant




CI

DC

DC

DC

本番環境

GitLab

Jenkins Vagrant




CI

DC

DC

DC

本番環境インフラメン

バ

GitLab

Jenkins Vagrant


git push


CI

DC

DC

DC


バ

GitLab

Jenkins Vagrant



Rundeckホスト名や IP アドレスを正規表現で検索


Zabbix-API にて取得済のホスト情報


Rundeck

ホスト毎の実行結果



CI

DC

DC

DC


バ

GitLab

Jenkins Vagrant




⁃ Chef 運用

⁃ コード管理



コード管理

３つの「○○ Driven

Infrastracture 」


コード管理

Issue Driven Infrastructure


コード管理

Pull Request Driven Infrastructure


コード管理

マサカリ Driven Infrastructure



⁃ Chef 運用

⁃ コード管理



テスト駆動インフラ

テスト項目書作業手順書

インフラ作業といえば…



serverspec で作業項目を記載

GitLab を使ってコードレビュー

開発環境で実行・テスト

本番環境で実行・テスト


　　　　

44

テストシナリオ (yaml)

drecom-serverspec実行する serverspec ファイルパス

テスト対象ホスト



　　　　

45

drecom-serverspec

テスト結果 ( コマンド出力 )

テスト項目 (describe)テスト対象サーバ



まとめ


少人数で早く正確なインフラを回すには？


⁃ 早

⁃ 正確

Chef によるプロビジョニング自動化

CI ツールと serverspec によるテスト自動

化

PDCA サイクルによる品質管理


PlanDoCheckAction

Chef,serverspec のコードレ

ビューChef,Rundeck による実行

serverspec 実行

Chef,serverspec コード修正


その他雑感


⁃ Chef-Server Chef-Server を有効に活用できている事例ってあ

る？

⁃ Rundeck リモートサーバのオペレーション管理が便利すぎるのに無名


ご静聴ありがとうございました！ !


会社概要

社名：証券コード：本社：

電話番号：社員数：設立年月日：資本金：

事業内容：

株式会社ドリコム3793 　東証マザーズ〒 153-0064東京都目黒区下目黒１丁目 8-1 　アルコタワー 17FTEL:03-6682-5700 　 FAX:03-6682-5711239 名（正社員・契約社員のみ）2001年 11 月 13 日1,124百万円(2014年 3 月末現在 )

ソーシャルゲーム事業ソーシャルラーニング事業アドソリューション事業

Copyright Drecom Co., Ltd. All Rights Reserved.

ドリコムのInfrastructure as code

Technology

solo copyright

copyright

rights reserved

server chef

server chef

chef