学习笔记：统计学习方法 - 李航

第一章 统计学习方法概论

本章简要叙述统计学习方法的一些基本概念，这是对全书内容的概括，也是全书内容的基础。

1. 统计学习的定义、研究对象与方法

2. 监督学习，本书的主要内容

3. 统计学习的三要素：模型、策略、算法

4. 介绍模型选择：正则化、交叉验证、学习的泛化能力

5. 介绍生成模型及判别模型

6. 介绍监督学习方法的应用：分类问题、标注问题、回归问题

统计学习

统计学习（statistical learning）：
  基于数据建立概率统计模型，并运用模型对数据进行预测与分析的一门学科，也叫统计机器学习（statistical machine learning）

主要特点：
 （1）统计学习以计算机及网络为平台，是建立在计算机及网络上的
 （2）统计学习以数据为研究对象，是数据驱动的学科
 （3）统计学习的目的是对数据进行预测和分析
 （4）统计学习以方法为中心，统计学习方法构建模型并应用模型进行预测与分析
 （5）统计学习是概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的交叉学科，并在发展中逐步形成独自的理论体系与方法论

监督学习

基本概念

问题的形式化

统计学习三要素

模型

策略

算法

模型评估与模型选择

训练误差与测试误差

过拟合与模型选择

正则化与交叉验证

正则化

交叉验证

泛化能力

泛化误差

泛化误差上界

生成模型与判别模型

分类问题

标注问题

回归问题

本章概要

习题

标签：误差,李航,泛化,模型,笔记,学习,方法,统计
来源： https://www.cnblogs.com/catstudy/p/14684773.html