k互近邻

定义 $N\left(p,\mathrm{k}\right)$ 为 $p$ 的 $k$ 近邻（即与目标最接近的前$k$个样本）：

$N\left(p,\mathrm{k}\right)=\left\{g_1^0，g_2^0，\cdots ，g_{\mathrm{k}}^0\right\},\left|N\left(p,\mathrm{k}\right)\right|=\mathrm{k}$

显而易见，如果A与B相似，那么B与A也一定相似。因此可以定义目标$p$的$k$互近邻$R\left(p,\mathrm{k}\right)$为：

R(p,k)={gi∣(gi∈N(p,k))∩(p∈N(gi,k))}R\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right){\rm{ = }}\left\{ {{{\mathop{\rm g}\nolimits} _{\rm{i}}}{\rm{|}}\left( {{{\mathop{\rm g}\nolimits} _{\rm{i}}} \in N\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right)} \right) \cap \left( {{\mathop{\rm p}\nolimits} \in N\left( {{{\mathop{\rm g}\nolimits} _{\rm{i}}}{\rm{, k}}} \right)} \right)} \right\}R(p,k)={gi​∣(gi​∈N(p,k))∩(p∈N(gi​,k))}

即$p$与$g_i$互为近邻。显然，$k$互近邻比$k$近邻更加接近于$p$。