《统计学》课程教学资源（PPT课件讲稿）非参数方法（kn-近邻估计、k-近邻规则、距离度量）

ch05非参数方法 Pat2kn近邻估计

Ch 05. 非参数方法 Part 2 kn -近邻估计

Parzen估计的问题 如果p()的分布不均匀,在整个特征空间中采用同 样的窗宽度可能无法总是得到令人满意的结果 同样尺寸的窗口

Parzen窗估计的问题 • 如果p(x)的分布不均匀，在整个特征空间中采用同 样的窗宽度可能无法总是得到令人满意的结果 同样尺寸的窗口

kn近邻估计 种解决 Parzen窗估计单一窗宽问题方法 ·不固定窗宽度,而固定包括在x周围的某个区域中的样本个数k 通常k取决于样本总数n,所以表示为kn x周围数据密度大时,窗口变小(分辨率高) 当x周围数据密度小时,窗口变大(分辨率低) 包括进来的k个样本称为x的kn个最近邻 窗口包含同样多的样本

kn -近邻估计 • 一种解决Parzen窗估计单一窗宽问题方法 • 不固定窗宽度，而固定包括在x周围的某个区域中的样本个数k • 通常k取决于样本总数n，所以表示为kn • 当x周围数据密度大时，窗口变小（分辨率高） • 当x周围数据密度小时，窗口变大（分辨率低） • 包括进来的kn个样本称为x的kn个最近邻 窗口包含同样多的样本

kn近邻估计 令pn(x) 则pn(x)收敛到真实分布p(x的充要条件为 lim k mn/72 0 1→∞ 满足此条件的一个常用选择

kn -近邻估计 • 令 ， 则 收敛到真实分布p(x)的充要条件为 • 满足此条件的一个常用选择

举例 维分布,kn=√ ·n=1时, =1 n>1时, pn(x)=一 max x i∈k,近邻

举例 • 一维分布， • n=1时， • n 1 时， ( ) 1 ( ) 2 max n n i i k p x n x x  = − 近邻

举例 n=8,k=3或5

举例 n=8, k=3或5

举例 K=5

举例 K=5

举例 n=16 n n n A 0

举例

更多井参数估计的例子 直方图估计 △=0.04 0 0 0.5 △=0.08 0 0 0.5 △=0.25 0.5

更多非参数估计的例子 • 直方图估计

更多井参数估计的例子 Parzen窗估计 h=0.005 0 0.5 h=0.07 0.5 h=0.2 0.5

更多非参数估计的例子 • Parzen窗估计