1. 引入问题

在之前的课程中,我们对"参数过多就会导致过拟合"这个概念处于提出但没有证明的状态,现在来以宝可梦和数码宝贝的分类例子来说明这个问题.

2. 分类器定义

我们观察宝可梦和数码宝贝的图片可以发现,宝可梦的图片线条比较少,而数码宝贝的线条比较多.或许可以以边缘检测探查线条数量作为分类器.图中\(e\)是一个function来检测图片线条的数量.将宝可梦和数码宝贝区分开的门槛是\(h\),\(h\)是一个未知的参数,我们将\(h\)的集合定义为\(H\).