逍遥学能 2013-01-18 17:09
最小二乘估计
教学目标:1、掌握最小二乘法的思想
2、能根据给出的线性回归方程系数公式建立线性回归方程
教学重点:最小二乘法的思想
教学难点:线性回归方程系数公式的应用
教学过程
回顾:上节我们讨论了人的身高与右手一?长之间的线性关系,用了很多种方法刻画这种线性关系,但是这些方法都缺少数学思想依据。
问题1、用什么样的线性关系刻画会更好一些?
想法:保证这条直线与所有点都近(也就是距离最小)。
最小二乘法就是基于这种想法。
问题2、用什么样的方法刻画点与直线的距离会方便有效?
设直线方程为y=a+bx,样本点A(xi,yi)
方法一、点到直线的距离公式
方法二、
显然方法二能有效地表示点A与直线y=a+bx的距离,而且比方法一更方便计算,所以我们用它表示二者之间的接近程度。
问题3、怎样刻画多个点与直线的接近程度?
例如有5个样本点,其坐标分别为(x1,y1),(x2,y2),(x3,y3),(x4,y4),(x5,y5)与直线y=a+bx的接近程度:
从而我们可以推广到n个样本点:(x1,y1),(x2,y2),…(xn,yn)与直线y=a+bx的接近程度:
使得上式达到最小值的直线y=a+bx就是我们所要求的直线,这种方法称为最小二乘法
问题4、怎样使 达到最小值?
先讨论3个样本点的情况
设有3个点(x1,y1),(x2,y2),(x3,y3),则由最小二乘法可知直线y=a+bx与这3个点的接近程度由下面表达式刻画:
…………………①
整理成为关于a的一元二次函数 ,如下所示:
利用配方法可得
从而当 时,使得函数 达到最小值。
将 代入①式,整理成为关于b的一元二次函数 ,
同样使用配方法可以得到,当
时,使得函数 达到最小值。
从而得到直线y=a+bx的系数a,b,且称直线y=a+bx为这3个样本点的线性回归方程。
用同样的方法我们可以推导出n个点的线性回归方程的系数:
其中
由 我们知道线性回归直线y=a+bx一定过 。
例题与练习
例1 在上一节练习中,从散点图可以看出,某小卖部6天卖出热茶的杯数(y)与当天气温(x)之间是线性相关的。数据如下表
气温(xi)/oC261813104-1
杯数(yi)/杯202434385064
(1)试用最小二乘法求出线性回归方程。
(2)如果某天的气温是-3 oC,请预测可能会卖出热茶多少杯。
解:(1)先画出其散点图
ixiyixi2xiyi
12620676520
21824324432
31334169442
41038100380
545016200
6-1641-64
合计7023012861910
可以求得
则线性回归方程为
y =57.557-1.648x
(2)当某天的气温是-3 oC时,卖出热茶的杯数估计为:
练习1 已知x,y之间的一组数据如下表,则y与x的线性回归方程y=a+bx必经过点 ( D )
x0123
y1357
(A)(2,2) (B)(1.5,0) (C)(1,2) (D)(1.5,4)
练习2 某连锁经营公司所属5个零售店某月的销售额和利润额资料如下表:
商店名称ABCDE
销售额(x)/千万元35679
利润额(y)/百万元23345
(1)画出销售额和利润额的散点图;
(2)若销售额和利润额具有相关关系,计算利润额y对销售额x的回归直线方程。
解:(1)
(2)数据如下表:
ixiyixi2xiyi
13296
2532515
3633618
4744928
5958145
合计3017200112
可以求得b=0.5,a=0.4
线性回归方程为:
小结
1、最小二乘法的思想
2、线性回归方程的系数:
作业:P60 习题1-8 第1题