質問: 不均一分散の回帰分析に適した変数変換とは? 不均一分散する変数について回帰分析をする場合、加重最小2乗法や変数変換等があるという情報をウエブで見つけました。 手持ちのデータ(独立変数が大きくなるほど、残差のばらつきが大きくなっているデータ)で試しに従属変数の対数変換をして回帰したら、確かに元の結果よりかなり鮮明な傾向が認められ、また分散もほぼ一定となっている様に見受けられたのですが、その様になる理由は、簡単にイメージ的に説明すると何なのでしょうか。 また上記の様に“綺麗な結果”になる場合、そのまま対数変換の手法を採用して回帰してしまって差し支えないでしょうか。似た様な曲線形をとる関数に平方根(y=√x)等もあると思うので、ひょっとしたら「平方根変換」等も選択肢としてはあり得るとも思うのですが...何故対数変換なのでしょうか。 やはり実際に使う以上、直感的イメージだけでもその手法の仕組みを理解したいので、ご教示頂けると非常に助かります。
回答: ano.1は「直感的イメージだけでも」と仰っているのに直感的解説が足りないような気がするんで、簡単に追加しましょう。 まず、t(平方根でも対数でもいいから)のグラフを描いてください。横軸が変換前、縦軸が変換後の値を示します。縦軸上に1つ点をとって、それが真値pの変換結果t(p)だと思うことにします。次に縦軸上でt(p)を中心とする小さな区間を描いて、この区間が測定値xの変換結果t(x)がばらつく範囲(たとえばt(x)の標準偏差)だと考えましょう。このt(p)と区間は変換前は幾らだったのか、グラフを使って、横軸上に書き込みます。 また縦軸の別の所にt(p)を決めて、そのまわりに先ほどと同じ大きさの区間を作り、それらが変換前は幾らだったのか、横軸上に書き込みます。すると、先ほど横軸上に描いた区間とは幅が違うでしょう。この幅の違いは、pにおけるt(p)の傾きによって決まる。逆に横軸の方から眺めれば、測定値がノイズのために真値pから少しだけずれたとき、変換tのpの近傍における接線の傾きの分だけ、変換結果のずれの大きさが拡大・縮小されるのです。 このことを利用して、t(x)のノイズの分散がxによらずほぼ一定になるようなtを作りたい。で、ano.1の真ん中あたりに書いてあるのが、そのような性質を持つtを作る方法です。 ですから、理論的根拠があって対数だの平方根だのが決まるのが筋です。けれども、ある分野において「このデーターは対数を取えばええんや」という「定石」になってしまって根拠が忘れ去られる、ということは、ままあるようですね。ま、実務上それで済むなら結構ですが、たとえば論文にする場合にはstomachmanみたいなヒマな査読者に当たる恐れもないとは言えません。ノイズの分散がpとどんな関係にあるかを、少なくとも現象論的に、できれば理論的に、説明した上で変換を導出するのが適切でしょう。 簡単な例として、測定したい値pに対して測定値のノイズの標準偏差がpに比例する。しかし測っているのはオフセットbを含む値 x = p + b + apu (uは標準正規分布に従う確率変数、a, bは定数) である、という場合はしばしばある。このとき、変換してノイズを一様にしたければ、 t(x) = ln(x-b) とやらなくちゃ駄目ですね。こんなちょっとしたことでも、変換の選び方は違ってきます。