基于改進KNN的文本分類算法的設計與實現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)上信息量的爆炸式增長,電子文本信息也隨之大量增加。如何有效地管理電子文本信息也成為了當今信息科學技術日益重要的一大課題。而文本自動分類,作為一種有效的提高文本檢索速度和準確率的方法,在電子文本信息管理中起著非常重要的作用。目前比較常用的文本分類技術主要有：向量空間模型(VSM)、K個最近鄰法(KNN)、神經(jīng)網(wǎng)絡(NNet)、支持向量機(SVMs)和貝葉斯算法(Bayes)等。而KNN算法是一種簡單,但是非常有效的文本分類算法,

2、有著廣泛的應用。論文首先介紹文本分類技術的歷史與現(xiàn)狀,然后詳細介紹了KNN算法作為一種非常簡單有效的文本分類算法,在文本分類技術中的廣泛運用。傳統(tǒng)KNN算法往往運用非監(jiān)督的權重分配方法對特征項的特征項分配權重,一定程度上影響了距離測度計算的精確性。文章針對傳統(tǒng)權重分配算法的不足,采取x 2統(tǒng)計量方法和信息增益這兩種監(jiān)督權重分配方法,有效地利用了訓練集標簽信息,提高了KNN算法的精確度。隨后,論文針對傳統(tǒng)KNN算法計算量過大的缺點,引入了

3、生成代表樣本集的方法,對原始訓練集進行裁剪并予以取代,從而減少了分類系統(tǒng)的計算量,有效地提高了系統(tǒng)的效率。最后,論文采用了Reuters-21578文檔集作為訓練集和測試集,分別應用了傳統(tǒng)的非監(jiān)督權重分配方法(布爾權重,TF-IDF),以及改進的監(jiān)督權重分配方法(x 2統(tǒng)計量方法和信息增益)進行KNN分類算法精確度的比較,驗證了監(jiān)督權重分配方法對于提高文本分類算法精確度的作用。另外,還對基于傳統(tǒng)KNN算法的分類器與基于改進的使用代表樣本