回归直线：

如果散点图中点的分布从整体上看大致在一条直线附近，我们就称这两个变量之间具有线性相关关系，这条直线叫做回归直线；

最小二乘法：

使得样本数据的点到回归直线的距离的平方和最小的方法叫做最小二乘法。

回归直线方程：

，
其中。

回归分析是处理变量相关关系的一种常用数学方法，其步骤为：

（1）确定特定量之间是否有相关关系，如果有，那么就找出他们之间贴近的数学表达式；
（2）根据一组观察值，预测变量的取值及判断变量取值的变化趋势；
（3）求出回归直线方程。

相关系数：

，
当r＞0时，表明两个变量正相关；当r＜0时，表明两个变量负相关；|r|≤1，且|r|越接近于1，相关程度越大；|r|越接近于0，相关程度越小。

残差：
相关指数R²用来刻画回归的效果，其计算公式是，
在含有一个解释变量的线性模型中，R²恰好等于相关系数r的平方。显然，R²取值越大，意味着残差平方和越小，也就是模型的拟合效果越好。

建立回归模型的基本步骤：

（1）确定研究对象，明确哪个变量是解释变量，哪个是预报变量；
（2）画出解释变量和预报变量的散点图，观察它们之间的关系；
（3）由经验确定回归方程的类型（如观察到数据呈线性关系，则选用线性回归方程）；
（4）按一定规则估计回归方程中的参数（如最小二乘法）；
（5）得出结果分析残差图是否有异常，若存在异常，则检查数据是否有误，或模型是否适当。当回归方程不是形如时，我们称之为非线性回归方程。