ヒートマップによる高次元可視化のためのクラスタリング手 …DEIM Forum 2015 E2-4 ヒートマップによる高次元可視化のためのクラスタリング手法の比較

DEIM Forum 2015 E2-4

ヒートマップによる高次元可視化のためのクラスタリング手法の比較

熊谷 沙津希† 伊藤 貴之† 本橋 洋介‡

†お茶の水女子大学 理学部 情報科学科 〒112-0012 東京文京区大塚 2-1-1 ‡日本電気株式会社情報・ナレッジ研究所 〒211-8666 神奈川県川崎市中原区下沼部 1753

E-mail: †{satsuki, itot}@itolab.is.ocha.ac.jp, ‡[email protected]

あらまし 本報告では，高次元データの観察のためにヒートマップを適用した可視化手法を紹介するとともに，ヒ

ートマップの視認性を向上するために実装した2種類のクラスタリング手法を比較する．本手法では高次元データを

構成する次元間の距離を相関係数にもとづいて定義し，その定義によって算出される距離行列を用いて次元群をク

ラスタリングする．現時点の我々の実装ではクラスタリング手法に階層型クラスタリングと非階層型クラスタリン

グ(k-medoids法)を採用している．本報告では，2種類のクラスタリング結果がもたらす可視化結果を比較し，それぞ

れの手法の特徴と操作性について議論する．さらに，被験者実験による主観比較評価を実施した結果から，両者の

利点や課題を議論する．

キーワード ヒートマップ，可視化，クラスタリング

Comparison of clustering method for high-dimensional visualization by heat map

Satsuki KUMATANI† Takayuki ITOH† and Yosuke HASHIMOTO‡

†Department of Information Sciences, Faculty of Science, Ochanomizu University

2-1-1 Otsuka, Bunkyo-ku, Tokyo, 112-0012 Japan ‡Knowledge Discovery Research Laboratorys, NEC Corporation

1753, Shimonumabe, Nakahara-ku, Kawasaki, Kanagawa 211-8666, Japan E-mail: †{satsuki, itot}@itolab.is.ocha.ac.jp, ‡[email protected]

Abstract This paper introduces about analyzing of high-dimensional data by heatmap, and comparison of the two clustering methods from the visualization results. Now, this paper adapts the heatmap as a visualization technique, and analyzes the correlation between dimensions as the analysis of high-dimensional data. Next, this paper classifies the dimensions each other, and makes a trend analysis between clustered variables. In addition, this paper compares hierarchical and non-hierarchical clustering method by using two heatmaps that display those clustering results. and characteristics of each approach. We do users questionnaire, compare the two clustering methods by heat map, and discuss about the advantage and disadvantage of those clustering methods.

Keyword Heatmap，Visualization，Clustering 1. 概要 我々の日常生活や日常業務には非常に多種の高次

元データが存在し，その観察には可視化が有用である．

高次元データのための可視化手法は従来から多く発表

されているが，我々はその中でもヒートマップを用い

た可視化に注目している．ヒートマップは値の大きさ

を色で表現する手法である．ヒートマップを用いた可

視化には，数値の大小や範囲に画面領域が左右されな

い，数値を表現する点や線が画面上で絡み合わずに可

視化できるので視認性が低下しにくい，などの利点が

ある． 高次元データの分析過程における重要な点に次元

間の相関がある．高次元データの可視化においても，

相関にもとづいて次元群にクラスタリングを適用し，

クラスタを単位とした視覚表現を適用することで，相

関のある次元どうしの類似性や差異に注目することが

容易になる． 本報告では 2 種類のクラスタリング手法を高次元デ

ータに適用し，ヒートマップを用いて可視化した結果

について比較した結果を報告する．本研究ではクラス

タリング手法として，最長距離法に基づく階層型クラ

スタリングと，非階層型クラスタリングの一種である

k-medoids 法を用いる．本報告ではそれぞれのクラスタリング手法によって見られる特徴の違いを比較する

とともに，ユーザ主観評価結果からも両者の違いを議

論する．

2. 関連研究 高次元データの可視化手法として， Scatter Plot

Matrix (SPM) や Parallel Coordinates Plot (PCP) が旧来から広く用いられている．

SPM は n 次元データが与えられると，画面上を n×nの格子領域に区切り，各格子領域に散布図で表示する

ことで，任意の 2 次元間の相関を可視化する手法である．SPM には，次元数の増加によって個々の散布図のための表示領域が縮小し，結果として視認性が低下す

る，という問題点がある．この問題点を解決する手法

として，全ての散布図を表示するのではなく，可視化

する価値があると判断された散布図だけを選択表示あ

るいは拡大表示する，という考え方に基づく手法があ

る [1,2]． PCP は各次元に対応する座標軸を鉛直に並べ，各軸

を通過する折れ線を用いて各数値を表現可視化手法で

ある．SPM と比べて PCP には，3 次元以上にわたる相関を観察可能である，という利点がある．しかし次元

数の増加とともに，非常に横長な画面空間を要するよ

うになり，やはり視認性が低下する場合がある． 上記二つの可視化手法はいずれも，主に非時系列デ

ータを対象としている．時系列データを可視化する際

に我々には，画面空間の横軸に時刻を割り当てるとい

う非常に強い慣習があり，SPM や PCP はこれに適合しない．我々は非時系列データと時系列データの両方を

扱うため，本研究では SPM や PCP を使用しない． 画面空間の横軸に時刻を割り当てる形式で時系列

高次元データを可視化する手法として，折れ線グラフ

とヒートマップが広く用いられている．折れ線グラフ

はヒートマップに比べて，各次元における正確な数値

を読み取りやすい，また線の傾きから数値の上昇や下

降を読み取りやすい，などの利点がある．しかし，デ

ータを構成する個体数や次元数の増加とともに，折れ

線同士の絡み合いも増加し，視認性低下の原因となる．

これらの問題を解決するために，折れ線の表示数を対

話的に調節する手法が提案されている [3]．また，数値の範囲が大きく，かつ数値分布が不均一である場合に

は，画面領域を浪費するような可視化結果になること

が多い，という問題もある．

ヒートマップは値の大きさを色で表示する可視化

手法である．ヒートマップを用いた高次元データの可

視化には，データを構成する個体や次元を縦軸に沿っ

て一列に並べ，横軸に何らかの次元（時系列データの

場合には時刻）を割り当てて，両軸を分割して得られ

る各領域に色をつける．ヒートマップは次元数が高い

データにおいても，数値を表現する形状が画面上で重

なり絡み合うことがないため，視認性の維持が容易で

ある．さらに折れ線グラフと比較して，数値の範囲や

分布により表示領域を浪費するような可視化結果を生

じることもない． ヒートマップを用いた可視化では，個体や次元を縦

軸に沿って並べる順番によって，その効果が大きく変

わる．この順番を決定するための一手段として，類似

性にもとづいて個体や次元の分類や順列化を適用する

ことが考えられる．この方法にもとづいて時系列高次

元データを効果的に可視化する手法が発表されている

[4,5]．しかしこれらの手法では， k-means 法を単純に適用して個体や次元をクラスタリングしているため，

類似性は低いが関係性の高い次元を視覚的に比較する

ことが容易ではない．例えば負の相関を有する次元が

同一のクラスタに属することがないため，このような

次元を視覚的に比較することが容易ではない．

3. 次元間距離にもとづくヒートマップ表

示 前章で論じたヒートマップの問題点を解決するた

めに，次元間の類似性に着目するのではなく，類似性

に限定せずに任意の次元間距離を算出し，それに基づ

いて生成された距離行列を用いて次元をクラスタリン

グすることを考える．

3.1 次元間距離 我々は正の相関だけでなく負の相関を有する次元

間を観察したいと考え，相関係数にもとづいて次元間

距離を算出してクラスタリングに用いることにした．

ここで高次元データを構成する次元 𝑣 = {𝑣!… 𝑣!}とし，i 番目の次元は数値𝑣! = {𝑣!!… 𝑣!"}を持つとする．現時点の我々の実装ではピアソン相関係数を適用して，式

(1)から i 番目と j 番目の次元間の相関係数𝑑 𝑖, 𝑗 を算出する．

𝑑 𝑖, 𝑗 =𝑣!" − 𝑣! 𝑣!" − 𝑣!!

!!!

𝑣!" − 𝑣! !!!!! 𝑣!" − 𝑣!

!!!!!

         (1)

この値を式 (2)に適用することで， i 番目と j 番目の次元間の距離𝐿!,!を得る．

𝐿!,! = 1 − 𝑑 𝑖, 𝑗          (2)

以上の処理を全ての 2 次元ペアに対して適用することで，距離行列を得る．

続いてこの距離行列に，以下の 2 種類のクラスタリング手法のいずれかを用いて次元にクラスタリングを

施し，ヒートマップでの可視化に用いる．

3.2 階層型クラスタリング 階層型クラスタリングは距離の近い個体を 1 個ずつ

階層的に連結することで，個体をひとつなぎに連結す

る樹形図（デンドログラム）を形成し，ボトムアップ

的にクラスタを形成する手法である．本研究では最長

距離法を採用した階層型クラスタリングによって，次

元をクラスタに分割し，ヒートマップで可視化した．

可視化結果の例を図 1,2 に示す．この可視化結果では，高次元データを構成する各次元が画面の縦軸に沿って

上下に並んでいる．同一クラスタに属する次元群は間

隔を空けずにひと続きに並べて表示し，異なるクラス

タに属する次元間には間隔をあけて表示している．ま

たこの可視化結果では，1 個の次元だけで構成されるクラスタは表示しない，という制約を設けている．こ

れにより，どの他の次元とも強い相関を有さない次元

は可視化する価値がないとして，画面から割愛するこ

とができる．

3.3 非階層型クラスタリング 非階層型クラスタリングはユーザが設定したクラ

スタ数にトップダウン的に個体を分類する手法である．

本研究では k-medoids 法を採用している．k-medoids 法は k-means 法から派生したクラスタリング手法であり，距離行列を参照して個体を分類できる点が特徴である．

k-medoids法ではクラスタ𝐶の中心𝑣!を式 (3)により算出する．

𝑣! = 𝑚𝑖𝑛 𝐿!,!

!

!∋!!!!,!!!!

         (3)

可視化結果の例を図 3 に示す．この可視化結果でも図1,2 と同様に，同一クラスタに属する次元群は間隔を空けずにひと続きに並べて表示し，異なるクラスタに

属する次元間には間隔をあけて表示している．

4. クラスタリング手法の違いによる可視

化手法の操作性の比較 本章では，2 種類のクラスタリング手法における，

クラスタ数決定までの過程，計算の実行回数，そして

表示される次元数を比較した． 図 1～3 は全て売り上げに関する同一の高次元デー

タの可視化結果例であり，横軸は日照時間である．色

付けされ水平方向に伸びた一本の帯がひとつの次元を

表し，縦軸には次元を表す帯が順に並べられている．

青色に近いほど小さい値を表し，赤色に近いほど大き

い値を表す． 一般的な階層型クラスタリング手法では，個体間距

離の閾値をユーザが設定することでクラスタリング結

果を調節する．また k-medoids 法を含む多くの非階層型クラスタリング手法では，ユーザが明示的にクラス

タ数を指定する．本報告ではユーザがこれらの操作を

反復的に実行することで，視覚的に良好であるとユー

ザが主観的に評価するクラスタリング結果を得る過程

について考察する． 著者自身が上述の操作を反復してみた感触として

は，階層型クラスタリングを適用する方が，次元の相

関をより柔軟に観察できる．非階層型クラスタリング

ではクラスタ数である整数値を操作するのみであるの

に対して，階層型クラスタリングではユーザが実数値

でクラスタ併合のための閾値を設定するため，同一の

クラスタ数でも異なったクラスタリング結果を得るこ

とが容易である． またヒートマップによる高次元データの可視化で

は，次元数の増加に伴って帯の数も増加して画面上で

非常に小さく表示されるため，これが視認性を妨げる

要因になり得る．これを回避するには，どの次元とも

関連性の低い次元を画面表示から割愛することで，表

示される帯の数を適正化することが考えられる．現時

点の我々の実装では，1 個で 1 クラスタとなっている次元を画面表示から割愛することで，いずれかの次元

と相関を有する次元のみを可視化し，画面上の帯の数

を適正化している．この処理においても階層型クラス

タリングのほうが有利である．非階層型クラスタリン

グで同様な効果を得るためにはソフトクラスタリング

を採用する必要があると考えられる． 処理時間について考える．階層型クラスタリングの

処理は一般的に「デンドログラム構築＋閾値設定に対

応したクラスタ形成」の 2 ステップで構成される．現時点で我々が使用しているデータにおいて，処理時間

の大半はデンドログラム構築が占めるが，これは前処

理として 1 回だけ実施すればよい．結果として，閾値の対話操作設定にともなうクラスタリングの再実行に

要する処理時間はとても小さい．一方で非階層型クラ

スタリングでは，クラスタ数の対話操作設定のたびに

最初からクラスタリング処理をやり直さないといけな

いため，このままでは対話操作には不利である．これ

を解決するには例えば，想定される全てのクラスタ数

に対してあらかじめクラスタリング結果を出しておく，

というような非効率な前処理を実装する必要がある．

図 1 階層型クラスタリング実行結果例 (1)

(初期画面 )

図 2 階層型クラスタリング実行結果例 (2)

(クラスタ数=8)

図 3 非階層型クラスタリング実行結果例 (クラスタ数=6)

5. クラスタリング手法のユーザ比較評価 高次元データを構成する次元間の関係をユーザが

より容易に的確に分析できるようにするために，可視

化結果を導くためのクラスタリング手法を正しく選択

することが重要であると考える．また一般的に，可視

化結果を定量的基準のみで評価することは困難であり，

なんらかの主観評価を交えた議論が必要不可欠である．

そこで我々は，階層型クラスタリングおよび非階層型

クラスタリングを適用したヒートマップの可視化結果

に対して，被験者実験による主観比較評価を実施して

いる．質問事項として現状で以下の 5 項目を用意している． 1. 正の相関を見つけやすいヒートマップはどちら

か． 2. 負の相関を見つけやすいヒートマップはどちら

か． 3. クラスタとしての次元のまとまりが不自然に感

じられるヒートマップはどちらか． 4. どこにも属さなくてもいいのに，どこかのクラス

タに属してしまっている次元があるヒートマッ

プはどちらか． 5. 全体的にどちらのヒートマップが観察しやすい

か． なお，本評価の被験者は 6 人であり，既にヒートマップを扱っている被験者と，クラスタリングやヒートマ

ップになじみのない被験者の両方を含む．我々は図 1～3 に用いたデータに含まれる 4 つの項目の各々を画面の横軸に割り当て，主観的に良好であると判断した

クラスタリング結果から得られた可視化結果を被験者

に提示し，上記の質問を被験者に与えている．さらに

この比較評価をヒートマップの横軸を変えて 3 度行った． 本評価ではまず，図 1～3 の生成にも用いた売り上

げに関する高次元データの特定の変数（日照時間）を

割り当てて可視化結果を被験者に提示した．図 4 に被験者回答の集計結果を示す．

図 4 横軸に日照時刻を割り当てた場合の評価結果

この結果から，階層型クラスタリングによるヒート

マップの方が正の相関を見つけやすいと答えたのに対

し，非階層型クラスタリングの方が負の相関を見つけ

やすいと答え，質問 1 と質問 2 とで評価結果がわかれた．これは階層型クラスタリングによるヒートマップ

では被験者が対話操作により正の相関を視認できる結

果を採用しやすいためと考えられる．言いかえれば，

階層型クラスタリングによるヒートマップでは同じク

ラスタ内に負の相関を示す次元が表示されにくいため

と考えられる． また，非階層型クラスタリングによるヒートマップの方がクラスタとしての次元のまとまりが不自然に感

じられるという回答があった．具体的には，どのクラ

スタに属しても適切に見えない次元があるという意味

の回答であった．これは，非階層型クラスタリングは

強制的に所定数のクラスタ数を生成する必要があり，

相関の低い個体を同一クラスタに押し込める傾向があ

るためと考えられる． さらに，階層型クラスタリングによるヒートマップの方が客観的に全体的に観察しやすいという結果を得

た．被験者からは非階層型クラスタリングによるヒー

トマップの方が表示される次元数が多いため観察しに

くいという発言もあった．このことから，表示する次

元数を対話操作によって調節することの重要性が示唆

される． 続いて，同一のデータで横軸に別の変数（店舗コー

ド・最高気温）を割り当てて可視化結果を被験者に提

示した．図 5,6 に被験者回答の集計結果を示す．

図 5 横軸に店舗コードを割り当てた場合の評価結果

図 6 横軸に最高気温を割り当てた場合の評価結果 この結果からも同様に，半数以上が階層型クラスタ

リングによるヒートマップの方が正の相関を見つけや

すいと答え，非階層型クラスタリングの方が負の相関

を見つけやすいと答える傾向が見られた．また図 6 からもわかるように，横軸に最高気温を割り当てた場合

の質問 5 において，階層型のクラスタリングによるヒートマップを選んだ被験者と非階層型のクラスタリン

グによるヒートマップを選んだ被験者が同数であった．

これは横軸に最高気温を割り当てた場合のヒートマッ

プは全体的に色変化が単調であったため，両者のクラ

スタリング結果にあまり視覚的印象の差が見られなか

ったためと考えられる．

6. まとめと今後の課題 本報告では，高次元データを構成する次元間の関係

0% 20% 40% 60% 80% 100%

階層型

非階層型

なし

質問1 質問2 質問3 質問4 質問5

0% 50% 100%

階層型

非階層型

なし

質問1 質問2 質問3 質問4 質問5

0% 50% 100%

階層型

非階層型

なし

質問1 質問2 質問3 質問4 質問5

を観察するためにヒートマップを用いた可視化手法に

ついて紹介した．またヒートマップにおける視認性向

上のためにクラスタリングを適用する上で，最長距離

法にもとづく階層型クラスタリングと， k-medoids 法にもとづく非階層型クラスタリングの 2 種類を実装し，その比較について論じた． 今後の課題として，クラスタリング手法の比較評価

を網羅的に継続し，その結果をもとにクラスタリング

手法の改善，およびヒートマップによる可視化手法の

機能拡張をはかりたい． 現在実施しているユーザ比較評価は 1 種類の高次元

データのみを使用している．そこで，どの高次元デー

タに関しても同様なユーザ比較評価結果が出るのか，

データの用途や分析タスクの違いによってユーザ比較

評価結果にも違いが出るのか，といった点を議論した

い．そしてその結果をもとに，例えば階層型クラスタ

リングの長所と非階層型クラスタリングの長所を兼ね

備えた融合的な手法を実装する，などの形で改善を図

りたい． 現段階の我々の実装ではクラスタリングのための

閾値やクラスタ数をユーザが対話操作によって選んで

いる．一方でクラスタリング結果を評価することによ

って適切な閾値やクラスタ数を自動設定する方法が既

に多数報告されている．我々は現在，DBIndex (Davis Bouldin Index) を用いてクラスタリング結果を評価し，高く評価されたクラスタリング結果をユーザ比較評価

に用いている．このような定量評価と主観評価に本当

に相関があるのかを調査する必要がある．もし定量評

価結果の高いクラスタリング結果にもとづく可視化結

果が高い主観評価をもたらすのであれば，例えば前処

理としてクラスタリング結果を定量評価し，その結果

をもたらす閾値やクラスタ数を可視化手法の初期値に

する，というような実装が考えられる．もし定量評価

と主観評価に相関が見られないようであれば，主観的

に良好な可視化結果をもたらす定量評価手法について

検討する必要があると考える．

参 考 文 献 [1] D. J. Lehmann, G. Albuquerque, M. Eisenmann, M.

Magnor, H. Theisel, Selectiong Coherent and Relevant Plots in Large Scatterplot Matrices, Computer Graphics Forum, 31(6, 1895-1908, 2012.

[2] Y. Zheng, H. Suematsu, T. Itoh, R. Fujimaki, S. Morinaga, Y. Kawahara, Scatterplot layout for high-dimensional data visualization, Journal of Visualization, 10.1007/s12650-014-0230-5, 2014.

[3] S. Yagi, Y. Uchida, T. Itoh, A Polyline-Based Visualization Technique for Tagged Time-Varying Data, 16th International Conference on Information Visualisation (IV2012), pp. 106-111, 2012.

[4] A. Hayashi, T. Itoh, S. Nakamura, A Visual Analytics Tool for System Logs Adopting Variable

Recommendation and Feature-Based Filtering, 17th International Conference on Information Visualisation (IV2013), pp. 1-10, 2013.

[5] H. Suematsu, S. Yagi, T. Itoh, Y. Motohashi, K. Aoki, S. Morinaga, A Heatmap-Based Time-Varying Multi-Variate Data Visualization Unifying Numeric and Categorical Variables, 18th International Conference on Information Visualisation (IV2014), pp. 84-87, 2014.