ap-northeast-1b かかかかか かかかかかかかかかかかかかか かか か
ap-northeast-1b からの脱却株式会社ネットマーケティング
久松 剛
話者紹介 管理本部インフラチームシニアマネージャー 広告事業、メディア事業 Omiai ・ Switch 、社内インフラの責任者 エンジニア採用担当補佐 慶應義塾大学政策メディア研究科博士
2000 年より村井純環境情報学部長・教授に師事 IT 革命から事業仕分けまで 在学時のテーマは動画転送、オーバーレイネットワークを用いた次世代インターネット
ap-northeast-1b というのがあるんです今どきのアカウント 長寿アカウント
※{a,b,c} のマッピングはアカウントによって違うとのこと※ ただ一般的に 1b のことを話すと共感される傾向
AWS と Omiai 2011 年 3 月 2 日 Tokyo リージョンサービス開始
http://aws.typepad.com/aws_japan/2011/03/now-open-aws-region-in-tokyo.html 当初は ap-northeast-1{a,b} でサービス
2012 年 9 月 12 日 ap-northeast-1c ローンチ https://forums.aws.amazon.com/ann.jspa?annID=1629
2014 年 6 月 17 日 General Purpose ( SSD )の追加
2012 年 8 月 Omiai インフラ構築開始
2012 年 10 月 2 日 AWS への移行完了
2015 年 12 月 X Day
サービス開始から抱えていた業 ap-northeast-1a と b でサービス開始
意識高い MAZ 運用・・・ Magnetic から始まったサーバ群
LVM を使わない限り 1TB が上限 そんなサーバに NFS が居た・・・
辛い ap-northeast-1b 最新技術は投入されにくい
今風のインスタンス 高スペック EBS
(当時)新規 VPC サブネットが切り出せず VPC のみサポートするマネージドサービスを享受できず
NFS が抱えた闇 ap-northeast-1b
障害があった際に正副が反転・・・
ディレクトリ構成が超深い && 多い magnetic
1TB 上限
そして X Day がやってきた
NFS を移行しようゴール
ゴール ap-northeast-1{a,c} に移りたい ボリュームの拡張 (1TB→4TB) 十分な IOPS NFS の利用はキープ
S3 に移行とかは工数と検証の問題が
考えられる手段 ( 当時 ) EBS Snapshot backup lsyncd で常時バックアップ 新規ボリュームをマウントして dd 地道に rsync
立ちはだかる ap-northeast-1b
EBS Snapshot Backup
超遅い
1TB のバックアップに 5-6 時間Magnetic 辛い
lsyncd
いつの間にか超遅くなってた深いディレクトリ構造( lsyncd はディレクトリ単位で監視する )
Magnetic 辛い
新規ボリュームを追加して dd
SSD が・・・無い
当時、 SSD は ap-northeast-1b に来ていなかった
今も io1 などはない・・・
地道に rsyncディレクトリ単位で分けて rsync を並列 3 本で実行
テストでは平均 3 時間で完了本番は 4 時間で終了・・・
logrotate の時間帯に当たったから?Magnetic のパフォーマンスは揺らぎやすい?
採用せざるを得ない
まとめ ap-northeast-1b は勢いで引っ越す
新しいインスタンスタイプ 新しいストレージタイプ VPC でしか使えないマネージドサービスの登場
古いタイプのソリューションは更新すべき
次号予告 続 AWS で NFS
今どきの AWS ストレージサービスを検証・適用してみた AWS Storage Gateway で S3 を NFS マウント
パフォーマンス 移行手順
EBS ボリュームをリアルタイム拡張 インスタンスタイプと制限事項と移行手順と
結局どうやって運用するか?