基于SVM-RFE的特征選擇方法研究.pdf

1、隨著人類科技的進(jìn)步發(fā)展和先進(jìn)儀器設(shè)備的應(yīng)用，人類得到了大量的數(shù)據(jù)。其中，高維小樣本數(shù)據(jù)作為生物信息數(shù)據(jù)的特點(diǎn)，給數(shù)據(jù)信息處理帶來了新的挑戰(zhàn)。為了從海量數(shù)據(jù)中提取有價(jià)值的信息，數(shù)據(jù)挖掘技術(shù)應(yīng)運(yùn)而生。數(shù)據(jù)挖掘是一個(gè)廣義的定義，吸納了諸如統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、模式識別等技術(shù)。作為數(shù)據(jù)挖掘技術(shù)之一的特征選擇技術(shù)，被廣泛應(yīng)用于生物數(shù)據(jù)處理等各個(gè)領(lǐng)域。
　　特征選擇技術(shù)旨在去除噪音、冗余特征，挑選問題相關(guān)及具有良好區(qū)分類別能力的特征，達(dá)到“去偽存

2、真”的目的。雖然會(huì)丟失一些特征的信息，但卻使被選擇的特征更能代表問題的本質(zhì)。SVM-RFE是一種性能良好，泛化能力強(qiáng)的特征選擇方法，它是SVM與后項(xiàng)搜索策略的結(jié)合。本文研究了RFE的后向搜索過程以求改進(jìn)。在每次迭代刪除過程中，使用模擬退火策略，結(jié)合皮爾森相關(guān)系數(shù)作為度量標(biāo)準(zhǔn)，重新評估當(dāng)前被刪除的特征子集與當(dāng)前剩余特征子集之間的關(guān)系，試圖找回不相關(guān)的、非冗余特征，使其有一定幾率重新加回當(dāng)前特征子集。越早被刪除的特征，被重新考察的機(jī)會(huì)越大。

3、另外，在“最優(yōu)”特征子集搜索過程中，在當(dāng)前特征子集與“最優(yōu)”特征子集準(zhǔn)確率持平時(shí)，使用互信息分別重新評價(jià)兩者與類標(biāo)間的關(guān)系，選擇關(guān)系大的特征子集作為當(dāng)前搜索到的“最優(yōu)”特征子集。
　　隨著分析技術(shù)的發(fā)展，基因、蛋白等生物數(shù)據(jù)維數(shù)巨增，其中既存在噪音和不含問題相關(guān)信息的無關(guān)變量，也存在相互關(guān)聯(lián)的特征，共同表征復(fù)雜的生命現(xiàn)象。因此在處理高維生物信息樣本時(shí)，去除問題無關(guān)和冗余特征，選擇區(qū)分反映不同類別的生物樣本的特征，尋找相互關(guān)聯(lián)的特征

4、，有助于排除噪音干擾，反映問題的實(shí)質(zhì)。變量重疊度可以處理特征在各類樣本上分布重疊的問題，去除噪音變量和無關(guān)變量。變量關(guān)系得分考察變量之間的相互作用，發(fā)掘變量之間相互關(guān)聯(lián)。本文考慮上述因素，使用變量（特征）重疊度、變量關(guān)系得分，結(jié)合特征在超平面上的SVM權(quán)重，共同形成特征的綜合評價(jià)得分，有助于確定反映不同種類疾病、藥物療效等的標(biāo)志信息。
　　實(shí)驗(yàn)結(jié)果表明，基于相關(guān)性度量選擇的特征子集，多角度綜合評價(jià)特征得分的方法都改善了特征選擇性能