3変数以上の共分散と相関係数の考え方｜分散共分散行列・相関行列の基本
当連載コラムの第5回「共分散と相関係数の考え方｜2変数データのばらつきと関係性をやさしく解説」では、変数が二つ（例えば製品の重量と強度）のケースについて、2変数間の関係を共分散と相関係数で表現することを説明しました。
では、変数が3つ以上（例えば、製品の重量、強度、電気抵抗など）の場合、変数間の関係はどのように整理すればよいでしょうか？
目次
１．2変数の場合の分散・共分散・相関係数の復習
まず、連載コラム第5回の内容を復習します。
変数xとyについて、それぞれn個のデータがあるとします。
変数xについての偏差平方和（deviation sum of squares）Sxxと母分散（population variance）Vxxは、以下の式で表されます。
（式1）
（式2）
同様にして、変数yについての偏差平方和Syyと母分散Vyyは以下の式で表されます。
（式3）
（式4）
次に、共分散を確認します。
変数xおよびyについての偏差積和（偏差相乗和）と共分散は以下の式となります。
（式5）
（式6）
さらに相関係数（correlation coefficient）は以下の式で計算されます。
（式7）
２．3変数以上の場合の分散共分散行列と相関行列
（1）3変数の場合の分散共分散行列
それでは、変数が3つ以上の場合はどうなるでしょうか？
基本的な考え方は、2変数ずつの組合せをすべて列挙し、行列の形で表現することです。
3変数の場合が理解できれば、より多くの変数を扱う場合への拡張もイメージしやすいので、まずは3変数（x、y、z）のケースを見てみましょう。
3変数の場合、自分自身との組合せも含めると、xとx、xとy、xとz、yとy、yとz、zとzの6種類があります。自分自身との組合せも含め、すべての変数の組合せを確認する、いわば総当たり戦のようなものと考えるとわかりやすいでしょう。
偏差平方和と偏差積和をSで、分散と共分散をVで表すと、Sxx、Sxy、Sxz、Syy、Syz、Szz、およびVxx、Vxy、Vxz、Vyy、Vyz、Vzzとなります。
3変数の場合の分散と共分散は、以下のように行列の形式で表されます。
この行列は「分散共分散行列」（variance-covariance matrix）と呼ばれ、多変量解析の書籍によく出てきますので覚えておきましょう。
（2）分散共分散行列が対称行列になる理由
非対角成分、例えば2行1列の要素は本来Vyxと書くべきですが、共分散を定義している式（5）と式（6）を見れば、VxyとVyxは同じ値になることがわかります。そのため、上記の行列では、同じ値であることを識別しやすくするためにVxyと書きました。
同様に、VzxとVxz、VzyとVyzもそれぞれ同じ値になるため、上記の行列ではVxz、Vyzと表しています。
これらのことから、この行列は対称行列であることがわかります。
（3）3変数の場合の相関行列
相関係数についても同様に、定義式（7）を用いて行列の形で表示することができます。
その結果得られる行列は「相関行列」（correlation matrix）と呼ばれています。この行列も対称行列です。
ここで対角項を取り出して調べてみると、式（7）より、
（式8）
となります。
RyyとRzzについても同様の計算ができますので、相関行列は最終的に以下のような行列になります。
非対角成分に入る相関係数は、2変数間の線形関係の向きと強さを、−1から＋1の範囲で表します。絶対値が1に近いほど線形関係が強く、0に近いほど線形関係が弱いことを示します。
なお、相関行列は、各変数を標準化したデータの分散共分散行列に相当します。
３．相関行列から読み取れる解釈
（1）3変数の場合の相関行列の読み方
当連載の第1回のコラム「多変量解析の基本『回帰分析』を初心者向けに解説」では、2変数の場合の相関係数について簡単に説明しましたが、3変数の場合の相関行列から何が読み取れるかを見てみましょう。
計算して得られた相関行列が以下の値だったとします。
変数xと変数yの相関係数は0.95なので、xとyには強い正の相関（xが増加するとyも増加する、またxが減少するとyも減少する傾向）があることがわかります。
一方、変数xと変数zの相関係数は−0.85なので、xとzには強い負の相関（xが増加するとzは減少する、またxが減少するとzは増加する傾向）があることがわかります。
さらに、変数yと変数zの相関係数は−0.90なので、yとzには強い負の相関（yが増加するとzは減少する、またyが減少するとzは増加する傾向）があることがわかります。
結局、xとyは同じ動きをするが、zだけ反対の動きをすることがわかりました。相関の強さは、非対角成分の絶対値が1に近いほど強くなります。
（2）4変数以上の場合の相関行列
最後に、変数の数が4つ以上の場合は、相関係数をどのように表すのでしょうか？
変数が4つ以上の場合も、変数が3つの場合と同じように行列で表示することができます。
変数が4つ、例えばa、b、c、dだとすると、4行4列の相関行列となり、異なる変数同士のペアは6組あります。そのため、6組のペアの相関係数（Rab、Rac、Rad、Rbc、Rbd、Rcd）をそれぞれ確認します。
相関行列は対称行列なので、RabとRbaのように、対角線を挟んで対称な位置にある要素は同じ値になります。
また、各変数にばらつきがある場合でも、Raa、Rbb、Rcc、Rddはいずれも必ず＋1になりますので、計算するまでもありません。
各相関係数の値は－1から＋1の間の数値になりますから、各ペアの相関の符号と強さを知ることができます。
さらに、相関係数をプラスの組とマイナスの組に分けて、組ごとの相関を見てみると、複数の変数間の関係について新たな知見が得られるかもしれません。
４．おわりに
今回のコラムでは、2変数の場合の分散・共分散・相関係数を復習したうえで、3変数以上の場合には、変数間の関係を分散共分散行列と相関行列で表せることを説明しました。
分散共分散行列と相関行列は、多変量解析において変数間の関係を把握するための基本となります。対角成分と非対角成分がそれぞれ何を表しているのかを、しっかり理解しておきましょう。
（アイアール技術者教育研究所 A・T)
