KNN与K-means区别在于：KNN是分类算法、监督学习，K-means是聚类算法、无监督学习。

A. 期望越大，方差越小
$;$方差反映的是随机变量和其数学期望之间的偏离程度
$;$期望反映的是随机变量取值的平均水平
$;$相关系数用来度量两个变量间的线性关系

A. 正向推理$;$逆向推理$;$双向推理$;$简单推理

A. 模型分类的召回率不变$;$模型分类的召回率会升高$;$模型分类准确率会升高或不变$;$模型分类准确率降低

A. 专家系统$;$进化算法$;$遗传算法$;$禁忌搜索

A. k-means$;$SVM$;$最大熵$;$CRF

A. 判据与分类错误之间呈单调关系，判据越大，分类错误的概率越小$;$特征独立时，判据呈现叠加性$;$判据生成的度量矩阵对称，对角线元素为0，非对角线元素为正$;$加入新特征时，判据不减小。

A. 输出层与输入层之间包含隐含层，且隐含层和输出层都拥有激活函数的神经元
$;$神经元之间存在这同层连接以及跨层连接$;$ 输入层仅仅是接收输入，不进行函数处理$;$每层神经元上一层与下一层全互连