直線近似の各推定値の誤差-01
微分方程式について,まとめてみました.
直線近似の推定については,ここ,にまとめてあります.
では,各パラメータ,a, bはどの程度の誤差を持つものでしょうか?
\( \Large y = ax+b \)
で考えていきましょう.
ここでは,誤差伝搬法則,を使います.
また,こちら,を参考にさせていただきました,ありがとうございます.
・最小自乗
直線近似の場合の最小自乗は,ここ,にあるように,
\( \Large a = \frac{N \displaystyle \sum_{i=1}^N x_i y_i - \displaystyle \sum_{i=1}^N x_i \displaystyle \sum_{i=1}^N y_i }{\Delta} \)
\( \Large b = \frac{ \displaystyle \sum_{i=1}^N x_i^2 \displaystyle \sum_{i=1}^N y_i - \displaystyle \sum_{i=1}^N x_i y_i \displaystyle \sum_{i=1}^N x_i}{\Delta} \)
\( \Large \Delta = N \displaystyle \sum_{i=1}^N x_i^2 - \left( \displaystyle \sum_{i=1}^N x_i \right)^2 \)
となります.
・誤差伝搬法則
誤差伝搬法則は,ここ,にあるように,
\( \Large \sigma_y = \sqrt{ \left( \frac{ \partial f}{ \partial x_1} \sigma_1 \right)^2 + \left( \frac{ \partial f}{ \partial x_2} \sigma_2 \right)^2 +\cdots + \left( \frac{ \partial f}{ \partial x_n} \sigma_n \right)^2}\)
となります.
したがって,推定値,a,bの誤差はx,yそれぞれの誤差の伝搬と言えるわけです.
・aの推定誤差
aの誤差伝搬は,
\( \Large \sigma_a = \sqrt{ \displaystyle \sum_{i=1}^N \left( \frac{ \partial a}{ \partial x_i} \sigma_x \right)^2 + \displaystyle \sum_{i=1}^N\left( \frac{ \partial a}{ \partial y_i} \sigma_y \right)^2}\)
となります,これを解けばいいのですが,どう考えても計算は複雑になります.
しかし,ここで大きな仮定,”xには誤差はなく,yのみに誤差がある”,とします.これはそれほど無理のあることではなく,実際の実験ではよくあるパターンです.
例えば,”一定時刻ごとの測定値”のように,”一定時刻”より,”測定値”のほうが明らかに測定誤差を含む場合ですね.
となると,誤差伝搬の第一項はxの誤差なので,0となります!,さらには分母の⊿も微分とは関係なくなり,
\( \Large \begin{eqnarray} \sigma_a &=& \sqrt{ \displaystyle \sum_{i=1}^N \left( \frac{ \partial a}{ \partial y_i} \sigma_y \right)^2} \\
&=& \frac{ \sigma_y}{ \Delta}
\sqrt{ \displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left(N \displaystyle \sum_{i=1}^N x_i y_i - \displaystyle \sum_{i=1}^N x_i \displaystyle \sum_{i=1}^N y_i \right) \right]^2 } \\
\end{eqnarray} \)
となります.
ルートの中のyの偏微分は,
\( \Large \begin{eqnarray} \displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left(N \displaystyle \sum_{i=1}^N x_i y_i - \displaystyle \sum_{i=1}^N x_i \displaystyle \sum_{i=1}^N y_i \right) \right]^2
&=&
\displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left\{ N ( x_1 y_1 +x_2 y_2 + \cdots ) - (x_1 + x_2 + \cdots )(y_1 + y_2 + \cdots) \right\} \right]^2 \\
&=&
\displaystyle \sum_{i=1}^N \left[ N x_i - \left( \displaystyle \sum x \right) \right]^2 \\
&=&
\displaystyle N^2 \sum_{i=1}^N x_i^2 - 2N ( \displaystyle \sum x )^2 +N ( \displaystyle \sum x )^2 \\
&=&
\displaystyle N \left( N \sum_{i=1}^N x_i^2 - ( \displaystyle \sum x )^2 \right) \\
&=& N \Delta \\
\end{eqnarray} \)
\( \Large \begin{eqnarray} \sigma_a &=& \frac{ \sigma_y}{ \Delta}
\sqrt{ N \Delta} \\
&=&
\sigma_y
\sqrt{ \frac{ N}{ \Delta}} \\
\end{eqnarray} \)
となります.
・bの推定誤差
bの誤差伝搬は,
\( \Large \sigma_b = \sqrt{ \displaystyle \sum_{i=1}^N \left( \frac{ \partial b}{ \partial x_i} \sigma_x \right)^2 + \displaystyle \sum_{i=1}^N\left( \frac{ \partial b}{ \partial y_i} \sigma_y \right)^2}\)
となります,同様にyのみに誤差があるとして,
\( \Large \begin{eqnarray} \sigma_b &=& \sqrt{ \displaystyle \sum_{i=1}^N \left( \frac{ \partial b}{ \partial y_i} \sigma_y \right)^2} \\
&=& \frac{ \sigma_y}{ \Delta}
\sqrt{ \displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left( \displaystyle \sum_{i=1}^N x_i^2 \displaystyle \sum_{i=1}^N y_i - \displaystyle \sum_{i=1}^N x_i y_i \displaystyle \sum_{i=1}^N x_i \right) \right]^2 } \\
\end{eqnarray} \)
ルートの中のyの偏微分は,
\( \Large \begin{eqnarray} \displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left( \displaystyle \sum_{i=1}^N x_i^2 \displaystyle \sum_{i=1}^N y_i - \displaystyle \sum_{i=1}^N x_i y_i \displaystyle \sum_{i=1}^N x_i \right) \right]^2
&=&
\displaystyle \sum_{i=1}^N \left[ \frac{ \partial }{ \partial y_i} \left\{ ( x_1^2 +x_2^2 + \cdots ) (y_1 + y_2 + \cdots) - (x_1 y_1 + x_2 y_2 + \cdots)(x_1 + x_2 + \cdots ) \right\} \right]^2 \\
&=&
\displaystyle \sum_{i=1}^N \left[ \left( \displaystyle \sum x^2 \right) - x_i \left( \displaystyle \sum x \right) \right]^2 \\
&=&
\displaystyle \sum_{i=1}^N \left[ (\displaystyle \sum x^2)^2 -2 x_i (\displaystyle \sum x) (\displaystyle \sum x^2) + x_i^2 (\displaystyle \sum x) ^2 \right] \\
&=& N(\displaystyle \sum x^2)^2 - 2 (\displaystyle \sum x)^2 (\displaystyle \sum x^2) + (\displaystyle \sum x^2) (\displaystyle \sum x) ^2 \\
&=& N(\displaystyle \sum x^2)^2 - (\displaystyle \sum x^2) (\displaystyle \sum x) ^2 \\
&=& (\displaystyle \sum x^2) \left[ N(\displaystyle \sum x^2) - (\displaystyle \sum x) ^2 \right] \\
&=& (\displaystyle \sum x^2) \Delta \\
\end{eqnarray} \)
\( \Large \begin{eqnarray} \sigma_b &=& \frac{ \sigma_y}{ \Delta}
\sqrt{ (\displaystyle \sum x^2) \Delta} \\
&=&
\sigma_y
\sqrt{ \frac{ \displaystyle \sum x^2}{ \Delta}} \\
\end{eqnarray} \)
となります.