1.2 监督学习

预测问题分类
输入和输出均为连续变量的预测问题：回归问题
输出变量为有限个离线变量的预测问题：分类问题
输入和输出均为变量序列的预测问：标注问题
监督学习的重要假设
假设X与Y遵循某一个联合概率分布P(X,Y)（存在但是未知的分布）,并且是独立同分布的，我们通常认为我们的得到的数据是依联合概率分布P(X,Y)产生的
监督学习的模型
概率模型和非概率模型
条件概率分布：P(Y|X)
决策函数：Y=f(X)
决策函数构成的假设空间
给定训练集（X，Y）下，由参数向量决定的决策函数族称为假设空间，参数向量维度与X相同，称为所有参数向量构成参数空间，同理条件概率分布构成的假设空间。