【数据挖掘】挖掘建模-回归分析（1）

参考文献：《Python数据分析与挖掘实战》

分类与预测

一、实现过程

1. 分类：构造分类模型，输入样本的属性值，输出对应的类别，将每个样本映射到预先定义好的类别。属于有监督的学习。
2. 预测：建立两种或两种以上变量间相互依赖的函数模型，然后进行预测或控制。
3. 分类实现过程：
   学习：通过归纳分析训练样本集来建立分类模型得到分类规则。
   分类：用已知的测试样本集评估分类规则的准确率，若结果可接受则用样本集进行预测。
4. 预测实现过程：
   通过训练集建立预测数值型属性的函数模型。
   在模型通过检验后进行预测或控制。

二、常用的分类和预测算法

回归分析

一、常用回归模型

二、逻辑回归模型

1. 逻辑函数
   假设有n个独立的自变量，$x_1,x_2,...,x_n$
   假设y=1的概率$p(y=1)=p=P(y=1|X)$，y=0的概率是p(y=0)=1-p
   则概率之比为$\frac{p}{1-p}$，取自然对数得到逻辑变换$Logit(p)$