具有自適應(yīng)性的Storm任務(wù)部署與配置平臺(tái)的研究.pdf

1、碩士學(xué)位論文具有自適應(yīng)性的Storm任務(wù)部署與配置平臺(tái)的研究ResearchofSelfAdaptivePlatformforDeploymentandConfigurationoftheStormTasks學(xué)號(hào)：星!蘭Q旦!鯉完成日期：20150430大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)碩士學(xué)位論文摘要在大數(shù)據(jù)時(shí)代，我們正步入一個(gè)由數(shù)據(jù)驅(qū)動(dòng)的經(jīng)濟(jì)社會(huì)，是否能夠高效地、及時(shí)地分析海量數(shù)據(jù)變成了

2、一個(gè)產(chǎn)業(yè)成功與否的重要前提。在海量數(shù)據(jù)處理環(huán)境中有很多需要在流式數(shù)據(jù)上進(jìn)行復(fù)雜計(jì)算的情況。近些年來(lái)，Storm作為流數(shù)據(jù)實(shí)時(shí)處理利器在工業(yè)界和學(xué)術(shù)界都引起了廣泛關(guān)注，對(duì)Storm的處理性能的優(yōu)化工作更是成為業(yè)界研究的熱點(diǎn)。已經(jīng)有很多研究工作以優(yōu)化Storm任務(wù)調(diào)度為出發(fā)點(diǎn)，在一定程度上提高了Storm的處理數(shù)據(jù)的效率。但是他們大都忽略了任務(wù)配置參數(shù)的好壞對(duì)Storm處理性能的直接影響。實(shí)際上，如果不能對(duì)任務(wù)配置參數(shù)有很恰當(dāng)?shù)脑O(shè)定，那么將

3、對(duì)Stoma集群處理性能以及穩(wěn)定性產(chǎn)生嚴(yán)重影響，而且以往的優(yōu)化方案也都不能夠達(dá)到很理想的優(yōu)化效果。在研究了流式處理框架Stoma及相關(guān)技術(shù)的基礎(chǔ)上，本文提出一種具有集群自適應(yīng)性的Storm任務(wù)部署與配置平臺(tái)，致力于解決Storm集群性能優(yōu)化問(wèn)題。在本平臺(tái)中，本文主要實(shí)現(xiàn)了以下功能服務(wù)：(1)為監(jiān)控集群資源變化情況、獲取歷史分配信息以及監(jiān)控集群節(jié)點(diǎn)間任務(wù)通信量的情況，本文設(shè)計(jì)實(shí)現(xiàn)了Storm集群感知模塊；(2)為解決任務(wù)運(yùn)行進(jìn)程數(shù)目的盲目

4、設(shè)置對(duì)處理性能造成的不良影響，本文設(shè)計(jì)實(shí)現(xiàn)了Storm任務(wù)配置自調(diào)節(jié)模塊：(3)為提高集群處理性能，在(1)和(2)的基礎(chǔ)上，本文設(shè)計(jì)實(shí)現(xiàn)了一種基于此平臺(tái)的Storm調(diào)度算法。經(jīng)過(guò)實(shí)驗(yàn)證明，在結(jié)合對(duì)集群全局狀態(tài)的感知以及對(duì)任務(wù)配置參數(shù)合理的自調(diào)節(jié)之后，本文的調(diào)度算法能夠大大減少集群內(nèi)部任務(wù)通信量，在很大程度上提高了Storm集群的處理性能，為海量流數(shù)據(jù)的分析處理提供了更為高效敏捷的處理方案。實(shí)驗(yàn)表明，此方法在事務(wù)處理時(shí)延上要比Storm