Top Banner
ソーシャルゲームの データ分析環境としてのAWS 2013-03-09 JAWS-UG三都物語 KLab株式会社 開発制作本部 データ分析グループ 越智 修司 13310日日曜日
16

ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

May 28, 2015

Download

Technology

OCHI Shuji
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

ソーシャルゲームのデータ分析環境としてのAWS

2013-03-09 JAWS-UG三都物語KLab株式会社 開発制作本部 データ分析グループ

越智 修司

13年3月10日日曜日

Page 2: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

自己紹介•越智 修司(神戸市長田区在住)

•開発制作本部 データ分析グループ所属• Felica/Edy,ガラケサイト,銀行アプリ,きせかえ• アプリ・サービスのプロトタイピング• 有名アーティスト・アイドルのファンクラブアプリ開発• 最近はデータ解析• python,Rなど

@ponpoko1968

13年3月10日日曜日

Page 3: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

はじめに

• この発表は個人の見解であり、所属する組織の公式見解ではありません。

13年3月10日日曜日

Page 4: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

作ったもの「クリップリーダー」

 電子書籍リーダー

• 自炊PDFに特化

• evernote連携

• 段組書籍

「勤怠くん」

勤怠メールを素早く送信

iPhone版(無料)

iPad版(85円)

13年3月10日日曜日

Page 5: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

21タイトル44サイト数千万PV/日/タイトル

KLabのソーシャルゲーム

13年3月10日日曜日

Page 6: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

データ分析グループ

横断的にデータの面倒を見る技術者集団

13年3月10日日曜日

Page 7: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

お知らせ

ブログ始めましたhttp://analysis.blog.jp.klab.com/

スタッフ募集中!!

13年3月10日日曜日

Page 8: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

データ分析グループの提供するサービス

• Webサイト

• 各種データのグラフが閲覧できます

• 速報メール• 前日のkpi速報値がメールで送信されます。

• データのダウンローダー• 各種データのダウンロード機能

13年3月10日日曜日

Page 9: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

分析システムコンテンツ側システム

S3

システム構成

Webserver

Contentsmaster

LogLog

MySQL

LogSales

01001001000111001100111011111011111111

01001001000111001100111011111011111111

EMR

RDS

EC2

Log

Sales

13年3月10日日曜日

Page 10: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

使っている要素技術• Python

• 運用に用いる• 豊富なライブラリ• 可読性・保守性

•R• 探索的な分析

13年3月10日日曜日

Page 11: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

工夫していること

• ログファイルのmsgpack化

• 一旦msgpack化することで検索・処理時間を軽減

msgpack web site (msgpack.org) より

13年3月10日日曜日

Page 12: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

分析システムコンテンツ側システム

S3

システム構成

Webserver

Contentsmaster

LogLog

MySQL

LogSales

01001001000111001100111011111011111111

01001001000111001100111011111011111111

EMR

RDS

EC2

Log

Sales

13年3月10日日曜日

Page 13: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

msgpack(2)

• EMR(Elastic Map-Reduce)で変換

• <app>.app.<Y-m-d>_hh.<dd>

• <dd>=hash(user_id) % 100

時刻 user_id URL(path) GET/POST param

13年3月10日日曜日

Page 14: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

使用例:PVベースのヒートマップ

• 全アクセスから1/100をサンプリング

(0:7)

(0:23)

Mon Tue Wed Thu Fri Sat Sun

23222120191817161514131211109876543210

13年3月10日日曜日

Page 15: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

課題• ゲームの高度化・市場の成熟化

• 競争激化

• データ分析のニーズが高まる

• インタラクティブなデータ分析のニーズ

• さらなる高速処理

• データ分析用DB Redshiftを検討中13年3月10日日曜日

Page 16: ソーシャルゲームのデータ分析基盤としてのAWS Jaws ug三都物語LT

ご清聴ありがとうございました

13年3月10日日曜日