回帰分析.

Presentation on theme: "回帰分析."— Presentation transcript:

1 回帰分析

2 回帰分析

3 回帰分析

4 回帰分析 （線形）回帰分析とは、ある変数（目的変数） をいくつかの変数（説明変数）の（線形）結合 で表現する手法である。
　をいくつかの変数（説明変数）の（線形）結合 　で表現する手法である。 　説明変数が一つの時を単回帰分析 　説明変数が複数ある時を重回帰分析という。

5 [テーマ]　講義の構成 回帰分析と最小2乗法 予測の精度について Rによるシミュレーション まとめ

6 回帰分析

7 係数の導出

8 係数の導出

9 係数の導出

10 回帰係数の導出

11 回帰係数の導出 最小2乗法 が最小となる , を求める。

12 回帰係数の導出 最小2乗法 が最小となる , を求める。

13 回帰係数の導出 最小2乗法 , で偏微分すると、 が最小となる , を求める。

14 回帰係数の導出 最小2乗法 , で偏微分すると、 が最小となる , を求める。

15 回帰係数の導出 最小2乗法 , で偏微分すると、 が最小となる , を求める。

16 回帰係数の導出

17 回帰係数の導出

18 回帰係数の導出 回帰直線 は それぞれの中心（平均）の点を通る。

19 回帰係数の導出 回帰直線 はそれぞれの中心を通る。 中心化

20 回帰係数の導出 回帰直線 はそれぞれの中心を通る。 中心化 N （または N ）で割ると、分散共分散を用いて

21 回帰係数の導出 条件を整理すると、 　　　のとき

22 回帰係数の導出 条件を整理すると、 r 次元の場合 同様に計算すると… 　　　のとき

23 回帰係数の導出 条件を整理すると、 r 次元の場合 同様に計算すると… 　　　のとき

24 回帰係数の計算（まとめ） 最小2乗法にて導出 　に関して ２次元の場合 r 次元の場合

25 回帰係数の計算（まとめ） 最小2乗法にて導出 　に関して ２次元の場合 r 次元の場合

26 回帰係数の計算（まとめ） 最小2乗法にて導出 に関して に関して ２次元の場合 ２次元の場合 r 次元の場合 r 次元の場合
　に関して 　に関して ２次元の場合 ２次元の場合 r 次元の場合 r 次元の場合 逆行列があれば，係数が導出できる。 回帰直線は中心を通る。

27 主成分分析と回帰分析 主成分分析 標準化(または　中心化)

28 主成分分析と回帰分析 主成分分析 回帰分析 標準化(または　中心化) 説明変数 目的変数

29 主成分分析と回帰分析 主成分分析 回帰分析

30 主成分分析と回帰分析 主成分分析 固有値・固有ベクトル 回帰分析 逆行列

31 予測の精度について

32 予測の精度について

33 予測の精度について

34 予測の精度について

35 予測の精度について

36 予測の精度について ( : 正規乱数 ) であれば、 係数を求めることはできる。 値が求まるからといって 特徴をよく表している
( : 正規乱数 ) 　　　であれば、 係数を求めることはできる。 値が求まるからといって 　特徴をよく表している 　　というわけではない。

37 決定係数 として、誤差の2乗を計算すると、

38 予測の精度について 決定係数 として、誤差の2乗を計算すると、 T : トータル(Total) E : 誤差(Error)
R : 回帰 (Regression)

39 Rによる計算例

40 Rによる計算（lm） > h1 <- read.table (“w1.dat”, header=T, row.names=1)
> h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

41 Rによる計算（lm） > h1 <- read.table (“w1.dat”, header=T, row.names=1)
> h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

42 Rによる計算（lm） > h1 <- read.table (“w1.dat”, header=T, row.names=1)
> h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

43 Rによる計算（lm） > h1 <- read.table (“w1.dat”, header=T, row.names=1)
> h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

44 Rによる計算（回帰分析） > h1 <- read.table (“w1.dat”, header=T, row.names=1) > h1 > h2 <-lm( weight ~ height, data=h1) > h2 >plot( h1 ) >abline( h2 ) lm( 目的変数 ~ 説明変数, data= データ名 ) 複数の場合は、 lm( 目的変数 ~ 説明変数1+説明変数2+…, data=データ名 )

45 Rによる計算（回帰分析） > h1 <- read.table (“w1.dat”, header=T, row.names=1) > h1 > h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

46 Rによる計算（回帰分析） > h1 <- read.table (“w1.dat”, header=T, row.names=1) > h1 > h2 <-lm( weight ~ height, data=h1) > h2 > plot( h1, pch=16 ) > abline( h2 )

47 まとめ

48 まとめ 回帰分析 目的変数，説明変数，最小2乗法 主成分分析との違い モデルの当てはまり具合 決定係数，観測値，予測値の分散