数学模型-参数估计和显著性
参数估计
极大似然估计(MLE)
极大似然估计(Maxinum Likelihood Estimation):利用总体的分布密度或概率分布的表达式及其样本所提供的信息求未知参数估计量的一种方法.
模型已定,参数未知即利用已知样本的结果,去反推既定模型中的参数最可能的取值.
出现当前情形的概率为:
最大似然估计(LSE)
总体对于一元线性回归方程
假设有偏估计和无偏估计
无偏估计(Unbiased Estimate):用样本来估计总体参数时的一种无偏推断,估计量的数学期望等于估计量的真实值
显著性检验
t检验
检验因变量y与自变量x之间是否存在线性关系,即
确定检验水平:采取常用的
构造统计量:
得到p值:计算
得到结论:p值若大于
总离差平方和(Sum of Squares for Total)
F检验
F检验是根据平方和分解式,直接从回归效果检验回归方程的显著性.由平方和分解式可得到SSR越大,回归效果越好,据此构造F统计量。
相关系数显著性检验
相关系数由卡尔·皮尔逊的统计指标,描述了了变量之间线性相关程度的量,一般用字母r表示,有多种定义方式,一般指皮尔逊相关系数。
在抽样验证前需要排除抽样误差。
确定检验水平:采取较为严格的计算统计量:计算
计算p值:先计算
决定系数
通过平方和分解式
- 样本较小时,需要调整决定系数
- 决定系数较大,同样也不能肯定自变量与因变量之间的关系就是线性的,可能曲线拟合更好,特别当自变量取值范围较小时,决定系数通常较大,可以做模型失拟检验.
- 决定系数较小,如果样本量较小,则得到线性回归不显著的结果.如果样本量较大,则会得到线性回归显著;最后改进回归,儒增加自变量、尝试曲线回归拟合等
残差分析
真实值与回归拟合值的差,叫做残差
误差:真实值与模型输出值的差:
残差:如上 离差:真实值与模拟拟合值的期望的差,离差平方和为:
偏差:事实上的真实值与估计值的差
方差:模型估计值与模型估计期望的方差
残差:如上 离差:真实值与模拟拟合值的期望的差,离差平方和为:
偏差:事实上的真实值与估计值的差
方差:模型估计值与模型估计期望的方差
残差的期望:
残差的约束条件:
标准化残差:
数学模型-参数估计和显著性
https://www.eatrice.cn/post/数学模型-参数估计和显著性/