A Comparative Impact Study of Attribute Selection Techniques on Naive Bayes Spam

资 源 简 介

A Comparative Impact Study of Attribute Selection Techniques on Naive Bayes Spam

详 情 说 明

在垃圾邮件过滤领域，朴素贝叶斯(Naive Bayes)算法因其简单高效而广受欢迎。然而，特征属性选择技术对模型性能的影响往往被忽视。本文通过比较研究揭示了不同属性选择方法如何显著影响朴素贝叶斯分类器的准确率。

特征选择是预处理的关键步骤，它直接决定了模型处理的输入质量。我们重点分析了三种主流技术：信息增益、卡方检验和互信息。信息增益通过衡量特征对分类的信息贡献度进行筛选；卡方检验则基于特征与类别的统计相关性；互信息关注特征与类别之间的依赖性。

实验结果表明，合理选择特征可以提升朴素贝叶斯5-15%的准确率。特别值得注意的是，不同语料库环境下各方法的优劣会发生变化：小规模数据集更适合互信息方法，而大规模数据则更适用卡方检验。信息增益在计算效率方面表现出明显优势。

这项研究为实际垃圾邮件过滤系统建设提供了重要参考：开发人员需要根据数据特点选择匹配的特征选择技术，而非机械套用默认方案。同时揭示了朴素贝叶斯算法在精心调优后，仍能保持与更复杂算法相当的分类性能。