独立性の検定で、各事象の起こる確率が与えられていない場合の続き。\(\chi^{2}(4)\)になる場合に、条件式を使って独立な確率変数のみになるように書き換えて、直接それらが4つで、確率分布が正規分布になることを確認した。
条件式で余計な変数は無事潰せたのだけれども、計算が合っているか分からない。\(\chi^{2}(2)\)になる場合も計算してみようか。そもそも、確率変数の二乗の和の従う確率分布が何なのか知るためには、それを計算する必要すらないんだけれども。最初から一般的な式書くのも違うかなぁ。まずはやっぱり\(\chi^{2}(2)\)になる場合だ。
2013年5月5日日曜日
日曜日
昨日までで多項分布がサンプルサイズが大きいときに正規分布に近づくことの説明を書きました。適合度検定と独立性検定で、そこで示したことを使うのですが、まだ自分の言葉でまとめることができていません。
適合度検定については、だいたい理解するところまで来ているので、今日は独立性の検定の方を調べていました。本を斜め読みしていたせいか、事前に事象が発生する確率が分かっているときと、そうでないときの2通りあることに気づかなくて、しばらく考えこんでしまいました。
そこに気付いてからは、\(\chi^{2}\)分布の自由度の勘定の辻褄が合うかなぁ程度の理解まで進んだところで、今日はおしまい。
適合度検定については、だいたい理解するところまで来ているので、今日は独立性の検定の方を調べていました。本を斜め読みしていたせいか、事前に事象が発生する確率が分かっているときと、そうでないときの2通りあることに気づかなくて、しばらく考えこんでしまいました。
そこに気付いてからは、\(\chi^{2}\)分布の自由度の勘定の辻褄が合うかなぁ程度の理解まで進んだところで、今日はおしまい。
更新スタイルについて
確かな理解に至るまでは、日記という形でほぼ文章だけで途中経過を記録していこうと思います。理解が進んで、下書きもだいたいできた段階から、記事公開していこうかなと思っています。そうすれば、根本的に考えが間違っていて、後戻りということも少なくなるんじゃないかなぁと期待しています。
2013年5月4日土曜日
多項分布から多変量正規分布への近似について(9)
問題
\[\begin{align*}
&|\mathrm{A}| =
\left| \begin{array}{cccc}
1 + \frac{p_{1}}{p_{s+1}} & \frac{\sqrt{p_{1}p_{2}}}{p_{s+1}} & \ldots & \frac{\sqrt{p_{1}p_{k-1}}}{p_{s+1}} \\
\frac{\sqrt{p_{1}p_{2}}}{p_{s+1}} & 1 + \frac{p_{2}}{p_{s+1}} & \ldots & \frac{\sqrt{p_{2}p_{s}}}{p_{s+1}} \\
\vdots & \vdots & \ddots & \ldots \\
\frac{\sqrt{p_{1}p_{s}}}{p_{s+1}} & \frac{\sqrt{p_{2}p_{s}}}{p_{s+1}} & \ldots & 1 + \frac{p_{s}}{p_{s+1}}\\
\end{array}
\right| = \left|(\mathrm{C}_{s}, 1 + \frac{\sqrt{p_{s}}}{p_{s+1}}\boldsymbol{v}^{\prime}) \right|\\
&\mathrm{C}_{i} = \left(
\begin{array}{c}
\mathrm{I}_{i\times i} \\
\mathrm{O}_{(s-i) \times (i)}
\end{array}
\right)\\
&\boldsymbol{v}^{\prime} = \frac{1}{p_{s+1}}
\left(
\frac{p_{1}}{\sqrt{p_{1}}},
\frac{p_{1} + p_{2}}{\sqrt{p_{2}}},
\ldots ,
\frac{\sum_{l=1}^{i}p_{l}}{\sqrt{p_{i}}},
\ldots ,
\frac{\sum_{l=1}^{s}p_{l}}{\sqrt{p_{s}}}
\right)
\end{align*}
\]
を示せ。これが示されれば、三角行列になっているので、対角成分の積が行列式に等しい。従って
\[|A| = 1 + \frac{\sqrt{p_{s}}}{p_{s+1}}\frac{\sum_{l=1}^{s}p_{l}}{\sqrt{p_{s}}} = \frac{\sum_{l=1}^{s+1}p_{l}}{p_{s+1}}\]
となる。特に\(\sum_{l=1}^{s+1} p_{l} = 1\)のとき\(|A| = 1/p_{s+1}\)になる。
を示せ。これが示されれば、三角行列になっているので、対角成分の積が行列式に等しい。従って
\[|A| = 1 + \frac{\sqrt{p_{s}}}{p_{s+1}}\frac{\sum_{l=1}^{s}p_{l}}{\sqrt{p_{s}}} = \frac{\sum_{l=1}^{s+1}p_{l}}{p_{s+1}}\]
となる。特に\(\sum_{l=1}^{s+1} p_{l} = 1\)のとき\(|A| = 1/p_{s+1}\)になる。
考えたこと
\(s = 3\)のときと同様の操作を\(i\)回繰り返すと、\(|\mathrm{A}|\)は次のように変形できることをまず示す。
\[
\begin{align*}
&|\mathrm{A}| = |(\mathrm{C}_{i}, \boldsymbol{e}_{i+1} + \sqrt{p_{i+1}}\boldsymbol{v}^{(i+1)}, \boldsymbol{e}_{i+2} + \sqrt{p_{i+2}}\boldsymbol{v}^{(i+1)}, \ldots , \boldsymbol{e}_{s} + \sqrt{p_{s}}\boldsymbol{v}^{(i+1)})|\\
&\boldsymbol{v}^{(i+1)} =\boldsymbol{v}^{(i)} + \sqrt{\frac{p_{i}}{p_{i+1}}}(v^{(i)})_{i} \boldsymbol{e}_{i+1}
\end{align*}
\]
ただし\(\boldsymbol{v}^{(1)} = \boldsymbol{v}\)である。 \(i = 1\)のときは、直接計算することで確認できるので、\(i = k\)のとき成り立つと仮定すれば、\(i = k+1\)のときも成り立つことを示すことによって、これを証明する。
まず\(\boldsymbol{v}^{(i)}\)は漸化式から
\[ \left(\boldsymbol{v}^{(i)}\right)^{t} =\frac{1}{p_{s+1}} \left(\frac{p_{1}}{\sqrt{p_{1}}}, \frac{p_{1} + p_{2}}{\sqrt{p_{2}}}, \ldots , \frac{\sum_{l = 1}^{i-1} p_{l}}{\sqrt{p_{i}}}, v_{i}, v_{i+1}, \ldots , v_{s}\right)\]
となることが確認できるので、これを以降の証明で使う。
次の操作で、\(k\)列以前は変化しないので、\(k+1\)列以降の成分がどう変化するかを確認する。
\[ \begin{align*} \text{(k+1)列} &= \boldsymbol{e}_{k+1} + \sqrt{p_{k+1}} \boldsymbol{v}^{(k+1)} - \sqrt{\frac{p_{k+1}}{p_{k+2}}}\left( \boldsymbol{e}_{k+2} + \sqrt{p_{k+2}} \boldsymbol{v}^{(k+1)} \right)\\ &= \boldsymbol{e}_{k+1} - \frac{p_{k+1}}{p_{k+2}}\boldsymbol{e}_{k+2} \end{align*} \]
次に、操作2では(k+1)列以降の全ての列が変化するが、それ以前は\(k+1\)行の成分が全て0なので、変化しない。\(k+1\)行目はk+1行目のk+1成分は1なので、次のようになる。
\[ \begin{align*} (\text{k+1行}) &= \boldsymbol{e}_{k+1} - \sqrt{\frac{p_{k+1}}{p_{k+2}}}\boldsymbol{e}_{k+2} + \frac{p_{k+1}}{p_{k+2}}(\text{k+1行})_{k+1} \boldsymbol{e}_{k+2}\\ &= \boldsymbol{e}_{k+1} \end{align*} \]
\(k + 2 \le i \le s\)列目は次のようになる。
\[ \begin{align*} (\text{i行}) &= \boldsymbol{e}_{i} + \sqrt{p_{i}} \boldsymbol{v^{(k+1)}} + \sqrt{\frac{p_{k+1}}{p_{k+2}}}\sqrt{p_{i}}(v^{(k+1)})_{k+1} \boldsymbol{e}_{k+2}\\ &= \boldsymbol{e}_{i} + \sqrt{p_{i}} \boldsymbol{v^{(k+2)}} \end{align*} \]
最後の等式には\(\boldsymbol{v}^{(i)}\)の漸化式を使った。この結果を使うと、次のようになり、\(i = k+1\)も成り立つことが分かる。
\[ \begin{align*} |\mathrm{A}| &= |(\mathrm{C}_{k}, \boldsymbol{e}_{k+1}, \boldsymbol{e}_{k+2} + \sqrt{p_{k+2}}\boldsymbol{v}^{(k+2)}, \boldsymbol{e}_{k+3} + \sqrt{p_{k+3}}\boldsymbol{v}^{(k+2)}, \ldots , \boldsymbol{e}_{s} + \sqrt{p_{s}}\boldsymbol{v}^{(k+2)})|\\ &= |(\mathrm{C}_{k+1},\boldsymbol{e}_{k+2} + \sqrt{p_{k+2}}\boldsymbol{v}^{(k+2)}, \boldsymbol{e}_{k+3} + \sqrt{p_{k+3}}\boldsymbol{v}^{(k+2)}, \ldots , \boldsymbol{e}_{s} + \sqrt{p_{s}}\boldsymbol{v}^{(k+2)})| \end{align*} \]
\(i\)回操作を繰り返した後の式が得られたので、これを\(s\)回繰り返すと、欲しかった式が得られる。これにより、一般に\(|A| = 1/p_{s}\)だと分かった。
ただし\(\boldsymbol{v}^{(1)} = \boldsymbol{v}\)である。 \(i = 1\)のときは、直接計算することで確認できるので、\(i = k\)のとき成り立つと仮定すれば、\(i = k+1\)のときも成り立つことを示すことによって、これを証明する。
まず\(\boldsymbol{v}^{(i)}\)は漸化式から
\[ \left(\boldsymbol{v}^{(i)}\right)^{t} =\frac{1}{p_{s+1}} \left(\frac{p_{1}}{\sqrt{p_{1}}}, \frac{p_{1} + p_{2}}{\sqrt{p_{2}}}, \ldots , \frac{\sum_{l = 1}^{i-1} p_{l}}{\sqrt{p_{i}}}, v_{i}, v_{i+1}, \ldots , v_{s}\right)\]
となることが確認できるので、これを以降の証明で使う。
次の操作で、\(k\)列以前は変化しないので、\(k+1\)列以降の成分がどう変化するかを確認する。
- \(\sqrt{\frac{p_{k+1}}{p_{k+2}}} \times \text{k+2列}\)をk+1列から引く
- \(\sqrt{\frac{p_{k+1}}{p_{k+2}}} \times \text{k+1行}\)をk+2行に足す
\[ \begin{align*} \text{(k+1)列} &= \boldsymbol{e}_{k+1} + \sqrt{p_{k+1}} \boldsymbol{v}^{(k+1)} - \sqrt{\frac{p_{k+1}}{p_{k+2}}}\left( \boldsymbol{e}_{k+2} + \sqrt{p_{k+2}} \boldsymbol{v}^{(k+1)} \right)\\ &= \boldsymbol{e}_{k+1} - \frac{p_{k+1}}{p_{k+2}}\boldsymbol{e}_{k+2} \end{align*} \]
次に、操作2では(k+1)列以降の全ての列が変化するが、それ以前は\(k+1\)行の成分が全て0なので、変化しない。\(k+1\)行目はk+1行目のk+1成分は1なので、次のようになる。
\[ \begin{align*} (\text{k+1行}) &= \boldsymbol{e}_{k+1} - \sqrt{\frac{p_{k+1}}{p_{k+2}}}\boldsymbol{e}_{k+2} + \frac{p_{k+1}}{p_{k+2}}(\text{k+1行})_{k+1} \boldsymbol{e}_{k+2}\\ &= \boldsymbol{e}_{k+1} \end{align*} \]
\(k + 2 \le i \le s\)列目は次のようになる。
\[ \begin{align*} (\text{i行}) &= \boldsymbol{e}_{i} + \sqrt{p_{i}} \boldsymbol{v^{(k+1)}} + \sqrt{\frac{p_{k+1}}{p_{k+2}}}\sqrt{p_{i}}(v^{(k+1)})_{k+1} \boldsymbol{e}_{k+2}\\ &= \boldsymbol{e}_{i} + \sqrt{p_{i}} \boldsymbol{v^{(k+2)}} \end{align*} \]
最後の等式には\(\boldsymbol{v}^{(i)}\)の漸化式を使った。この結果を使うと、次のようになり、\(i = k+1\)も成り立つことが分かる。
\[ \begin{align*} |\mathrm{A}| &= |(\mathrm{C}_{k}, \boldsymbol{e}_{k+1}, \boldsymbol{e}_{k+2} + \sqrt{p_{k+2}}\boldsymbol{v}^{(k+2)}, \boldsymbol{e}_{k+3} + \sqrt{p_{k+3}}\boldsymbol{v}^{(k+2)}, \ldots , \boldsymbol{e}_{s} + \sqrt{p_{s}}\boldsymbol{v}^{(k+2)})|\\ &= |(\mathrm{C}_{k+1},\boldsymbol{e}_{k+2} + \sqrt{p_{k+2}}\boldsymbol{v}^{(k+2)}, \boldsymbol{e}_{k+3} + \sqrt{p_{k+3}}\boldsymbol{v}^{(k+2)}, \ldots , \boldsymbol{e}_{s} + \sqrt{p_{s}}\boldsymbol{v}^{(k+2)})| \end{align*} \]
\(i\)回操作を繰り返した後の式が得られたので、これを\(s\)回繰り返すと、欲しかった式が得られる。これにより、一般に\(|A| = 1/p_{s}\)だと分かった。
次回
今回の話題は、これで一旦終了です。
2013年5月3日金曜日
多項分布から多変量正規分布への近似について(8)
問題
\[
|\mathrm{A}| = \left| \begin{array}{cccc}
1 + \frac{p_{1}}{p_{5}} & \frac{\sqrt{p_{1}p_{2}}}{p_{5}} & \frac{\sqrt{p_{1}p_{3}}}{p_{5}} & \frac{\sqrt{p_{1}p_{4}}}{p_{5}} \\
\frac{\sqrt{p_{1}p_{2}}}{p_{5}} & 1 + \frac{p_{2}}{p_{5}} & \frac{\sqrt{p_{2}p_{3}}}{p_{5}} & \frac{\sqrt{p_{2}p_{4}}}{p_{5}} \\
\frac{\sqrt{p_{1}p_{3}}}{p_{5}} & \frac{\sqrt{p_{2}p_{3}}}{p_{5}} & 1 + \frac{p_{3}}{p_{5}} & \frac{\sqrt{p_{3}p_{4}}}{p_{5}} \\
\frac{\sqrt{p_{1}p_{4}}}{p_{5}} & \frac{\sqrt{p_{2}p_{4}}}{p_{5}} & \frac{\sqrt{p_{1}p_{3}}}{p_{5}} & 1 + \frac{p_{4}}{p_{5}} \\
\end{array}
\right| = \frac{1}{p_{5}}
\]
になることを示せ。
になることを示せ。
考えたこと
大きな行列式を機械的に計算する1つの方法に、行列式の値を変えない操作を繰り返して、三角行列を作るという方法がある。このときの行列式の値は、三角行列の対角成分の積になる。
今回の場合は2つの操作を合わせて1回と数えたとき、\(i\)回目の操作を、次のように定義する。
- \(i+1\)列の\(\sqrt{\frac{p_{i}}{p_{i+1}}}\)倍を\(i\)列から引く
- \(i\)行の\(\sqrt{\frac{p_{i}}{p_{i+1}}}\)倍を\(i+1\)行に足す
\[
\begin{align*}
|\mathrm{A}|&=
\left|
\begin{array}{cccc}
1 + \frac{\sqrt{p_{1}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right)\\
\frac{\sqrt{p_{1}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right) & 1 + \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right)\\
\frac{\sqrt{p_{1}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) &
1 + \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right)\\
\frac{\sqrt{p_{1}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & 1 + \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right)\\
\end{array}
\right|\\
&=
\left|
\begin{array}{cccc}
1 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right)\\
-\sqrt{\frac{p_{1}}{p_{2}}} & 1 + \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{2}}{\sqrt{p_{2}}}\right)\\
0 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) &
1 + \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right)\\
0 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & 1 + \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right)\\
\end{array}
\right|\\
&=
\left|
\begin{array}{cccc}
1 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) &
\frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right)\\
0 &
1 + \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right) &
\frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right) &
\frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right)\\
0 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) &
1 + \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{3}}{\sqrt{p_{3}}}\right)\\
0 & \frac{\sqrt{p_{2}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & 1 + \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right)\\
\end{array}
\right|\\
&=
\left|
\begin{array}{cccc}
1 & 0 & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right) & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right)\\
0 & 1 &
\frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right) &
\frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right)\\
0 & 0 &
1 + \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{\sum_{l=1}^{3}p_{l}}{\sqrt{p_{3}}}\right) &
\frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{3}p_{l}}{\sqrt{p_{3}}}\right)\\
0 & 0 & \frac{\sqrt{p_{3}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right) & 1 + \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{4}}{\sqrt{p_{4}}}\right)\\
\end{array}
\right|\\
&=
\left|
\begin{array}{cccc}
1 & 0 & 0 & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{p_{1}}{\sqrt{p_{1}}}\right)\\
0 & 1 & 0 & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{2}p_{l}}{\sqrt{p_{2}}}\right)\\
0 & 0 & 1 & \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{3}p_{l}}{\sqrt{p_{3}}}\right)\\
0 & 0 & 0 & 1 + \frac{\sqrt{p_{4}}}{p_{5}}\left(\frac{\sum_{l=1}^{4}p_{l}}{\sqrt{p_{4}}}\right)\\
\end{array}
\right|
\end{align*}
\]
三角行列の対角成分の積から行列式が\(\sum_{l=1}^{5}p_{l}/p_{5}\)だと分かる。更に\(\sum_{i=1}^{5} p_{i} = 1\)を使うと\(1/p_{5}\)が得られる。これが示したいことであった。
次回
次回、最終回は今回の計算を参考に一般の場合の計算を扱います。三角行列を得る手続きは、次元に依らず変わらないことから一般化できます。
2013年5月2日木曜日
多項分布から多変量正規分布への近似について(7)
問題
\[
\left| \begin{array}{cccc}
1 + \frac{p_{1}}{p_{s+1}} & \frac{\sqrt{p_{1}p_{2}}}{p_{s+1}} & \ldots & \frac{\sqrt{p_{1}p_{k-1}}}{p_{s+1}} \\
\frac{\sqrt{p_{1}p_{2}}}{p_{s+1}} & 1 + \frac{p_{2}}{p_{s+1}} & \ldots & \frac{\sqrt{p_{2}p_{s}}}{p_{s+1}} \\
\vdots & \vdots & \ddots & \ldots \\
\frac{\sqrt{p_{1}p_{s}}}{p_{s+1}} & \frac{\sqrt{p_{2}p_{s}}}{p_{s+1}} & \ldots & 1 + \frac{p_{s}}{p_{s+1}}\\
\end{array}
\right| = \frac{1}{p_{s+1}} \]
を\(\sum_{l=1}^{s+1}p_{l} = 1\)として示せ。
を\(\sum_{l=1}^{s+1}p_{l} = 1\)として示せ。
考えたこと
まず\(s=2\)のときから考えるのが一番単純になる。2次の行列式の公式を使うと\(|\mathrm{A}| = \frac{p_{1} + p_{2} + p_{3}}{p_{3}}\)になるが、\( p_{1} + p_{2} + p_{3} = 1\)であるから\(|\mathrm{A}| = 1/p_{s+1}\)が成り立つ。
ここで、行列式は固有値の積であることを使うと、\(\mathrm{A}\)の固有値は\(1,~~1/p_{s+1}\)だと分かる。実は\(\mathrm{A} = 1 + \mathrm{B}\)であるから、\(|\mathrm{B}| = 0\)である(そうでなければ固有値$1$を取ることと矛盾する)。このことは、次のように書けば明らかである。
\[
\begin{align*}
&\mathrm{B} = (\sqrt{p_{1}}\boldsymbol{v}, \sqrt{p_{2}} \boldsymbol{v})\\
&\boldsymbol{v}^{t} = \frac{1}{p_{3}}(\sqrt{p_{1}}, \sqrt{p_{2}})
\end{align*}
\]
このことは、一般に成り立つ。
\[ \begin{align*} &\mathrm{B} = (\sqrt{p_{1}}\boldsymbol{v}, \sqrt{p_{2}} \boldsymbol{v}, \ldots , \sqrt{p_{s}}\boldsymbol{v})\\ &\boldsymbol{v}^{t} = \frac{1}{p_{s+1}}(\sqrt{p_{1}}, \sqrt{p_{2}}, \ldots , \sqrt{p_{s}}) \end{align*} \]
このような特殊な形をしていることに気づいた。このことを利用して、一般の場合の行列式が計算できないだろうか。
\[ \begin{align*} &\mathrm{B} = (\sqrt{p_{1}}\boldsymbol{v}, \sqrt{p_{2}} \boldsymbol{v}, \ldots , \sqrt{p_{s}}\boldsymbol{v})\\ &\boldsymbol{v}^{t} = \frac{1}{p_{s+1}}(\sqrt{p_{1}}, \sqrt{p_{2}}, \ldots , \sqrt{p_{s}}) \end{align*} \]
このような特殊な形をしていることに気づいた。このことを利用して、一般の場合の行列式が計算できないだろうか。
次回
2次、3次の正方行列の場合は、公式を使えばとりあえず\(1/p_{s+1}\)が成り立つことは示せます。次回は4次の場合の計算を扱って、一般的な場合の計算方法を模索します。
2013年5月1日水曜日
多項分布から多変量正規分布への近似について(6)
問題
\(k\)項分布は、サンプルサイズが大きいときに\(k-1\)次元正規分布に近似できる。
考えたこと
\(k = 2, 3\)のときと同様に、スターリングの公式を使うと次のように書ける。
\[ W \simeq \prod_{l=1}^{k-1} \frac{1}{\sqrt{2\pi n p_{l}}} \frac{1}{\sqrt{p_{k}}}\left[\prod_{l=1}^{k}\left(1 + \frac{m_{l}}{np_{l}}\right)\right]^{-n}\prod_{l=1}^{k}\left(1 + \frac{z_{l}^{2}}{m_{l}}\right)^{-m_{l}}~~(1)\]
\([\ldots]\)の部分は、
\[ \left(1 + \frac{m_{l}}{np_{l}}\right)^{p_{l}} \simeq 1 + \frac{m_{l}}{n} + \frac{m_{l}^{2}}{2n^{2}} - \frac{m_{l}^{2}}{2p_{l}n^{2}}~~(*)\]
なので、\(s_{k} = \sum_{i=1}^{k} m_{i}\)とすると一般に
\[ [\ldots] \simeq 1 + \frac{s_{k}}{n} + \frac{s_{k}^{2}}{2n^{2}} - \sum_{l=1}^{k}\frac{m_{l}^{2}}{2n^{2}p_{l}}~~(2)\]
になる。これを数学的帰納法を使って、証明できる。\(k=1\)のときは、\((*)\)から成り立つ。\(k = t\)のときに成り立つと仮定して、\(k = t + 1\)も成り立つことを示す。
\[
\begin{align*}
[\ldots] &\simeq \left(1 + \frac{s_{t}}{n} + \frac{s_{t}^{2}}{2n^{2}} - \sum_{l=1}^{t}\frac{m_{l}^{2}}{2n^{2}p_{l}}\right)
\left(1 + \frac{m_{t+1}}{n} + \frac{m_{t+1}^{2}}{2n^{2}} - \frac{m_{t+1}^{2}}{2n^{2}p_{t+1}} \right)\\
&\simeq 1 + \frac{s_{t} + m_{t+1}}{n} + \frac{s_{k}^{2} + m_{k+1}^{2} + 2s_{t}m_{t+1}}{2n^{2}} - \sum_{l=1}^{t+1}\frac{m_{l}^{2}}{2n^{2}p_{l}}\\
&= 1 + \frac{s_{k+1}}{n} + \frac{s_{k+1}^{2}}{2n^{2}} - \sum_{l=1}^{t+1}\frac{m_{l}^{2}}{2n^{2}p_{l}}
\end{align*}
\]
以上より\((2)\)が一般に成り立つことが示せた。\(s_{k} = 0\)と\(z_{l}^{2} = m_{l}^{2}/(np_{l})\)を使うと
\[ W \simeq \frac{1}{\sqrt{p_{k}}}\prod_{l=1}^{k-1} \frac{1}{\sqrt{2\pi np_{l}}} e^{-x_{k}^{2}/2}\]
が得られる。\(x_{i}\)の定義は三項分布のときと同じである。この式から確率密度関数を求めると、次のようになる。
\[ p(x_{1}, x_{2}, \ldots x_{k-1}) = \frac{1}{\sqrt{\det [\mathrm{A}] p_{k}}}\prod_{l=1}^{k-1} \frac{1}{\sqrt{2\pi}} e^{-x_{i}^{2}/2}\]
式中の行列\(\mathrm{A}\)は以前、三項分布のときに定義したように
\[
\left(
\begin{array}{cccc}
1 + \frac{p_{1}}{p_{k}} & \frac{\sqrt{p_{1}p_{2}}}{p_{k}} & \ldots & \frac{\sqrt{p_{1}p_{k-1}}}{p_{k}} \\
\frac{\sqrt{p_{1}p_{2}}}{p_{k}} & 1 + \frac{p_{2}}{p_{k}} & \ldots & \frac{\sqrt{p_{2}p_{k-1}}}{p_{k}} \\
\vdots & \vdots & \ddots & \ldots \\
\frac{\sqrt{p_{1}p_{k-1}}}{p_{k}} & \frac{\sqrt{p_{2}p_{k-1}}}{p_{k}} & \ldots & 1 + \frac{p_{k-1}}{p_{k}}\\
\end{array}
\right)
\]
である。確率が規格化されているためには、\(\det[\mathrm{A}] = 1/p_{k}\)になるべきだが、実際にそうなっているだろうか。これが次の疑問である。
以上より\((2)\)が一般に成り立つことが示せた。\(s_{k} = 0\)と\(z_{l}^{2} = m_{l}^{2}/(np_{l})\)を使うと
\[ W \simeq \frac{1}{\sqrt{p_{k}}}\prod_{l=1}^{k-1} \frac{1}{\sqrt{2\pi np_{l}}} e^{-x_{k}^{2}/2}\]
が得られる。\(x_{i}\)の定義は三項分布のときと同じである。この式から確率密度関数を求めると、次のようになる。
\[ p(x_{1}, x_{2}, \ldots x_{k-1}) = \frac{1}{\sqrt{\det [\mathrm{A}] p_{k}}}\prod_{l=1}^{k-1} \frac{1}{\sqrt{2\pi}} e^{-x_{i}^{2}/2}\]
式中の行列\(\mathrm{A}\)は以前、三項分布のときに定義したように
\[
\left(
\begin{array}{cccc}
1 + \frac{p_{1}}{p_{k}} & \frac{\sqrt{p_{1}p_{2}}}{p_{k}} & \ldots & \frac{\sqrt{p_{1}p_{k-1}}}{p_{k}} \\
\frac{\sqrt{p_{1}p_{2}}}{p_{k}} & 1 + \frac{p_{2}}{p_{k}} & \ldots & \frac{\sqrt{p_{2}p_{k-1}}}{p_{k}} \\
\vdots & \vdots & \ddots & \ldots \\
\frac{\sqrt{p_{1}p_{k-1}}}{p_{k}} & \frac{\sqrt{p_{2}p_{k-1}}}{p_{k}} & \ldots & 1 + \frac{p_{k-1}}{p_{k}}\\
\end{array}
\right)
\]
である。確率が規格化されているためには、\(\det[\mathrm{A}] = 1/p_{k}\)になるべきだが、実際にそうなっているだろうか。これが次の疑問である。
次回
行列\(\mathrm{A}\)の行列式を計算しようと思います。
登録:
投稿 (Atom)