資源描述:
《基于本體的語義網(wǎng)爬蟲的算法研究和應(yīng)用實(shí)現(xiàn)》由會員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、摘要摘要語義網(wǎng)是在萬維網(wǎng)的基礎(chǔ)上進(jìn)行擴(kuò)展形成的。語義網(wǎng)對網(wǎng)絡(luò)中的數(shù)據(jù)加入語義信息以幫助語義網(wǎng)應(yīng)用能夠在語義層面對數(shù)據(jù)進(jìn)行理解并進(jìn)行處理。近些年,語義網(wǎng)飛速發(fā)展,符合語義網(wǎng)標(biāo)準(zhǔn)的語義信息數(shù)量迅速增長,對這些信息進(jìn)行有效的處理和解析可以為用戶提供高質(zhì)量的服務(wù)。語義搜索引擎就是這樣的一個典型的語義網(wǎng)應(yīng)用,它充分利用語義信息,將語義信息有效的組織并提供給用戶進(jìn)行語義相關(guān)的查詢。而語義專題搜索引擎則更加充分的發(fā)揮了語義信息的特點(diǎn),利用語義分析將主題相關(guān)的信息進(jìn)行組織和檢索,最終為用戶提供準(zhǔn)確的搜索結(jié)果。在
2、語義專題搜索引擎框架中,語義專題爬蟲是重要的部件之一。它負(fù)責(zé)搜集與主題相關(guān)的語義信息并對其進(jìn)行初步的處理,例如語義信息的分類、存儲以及元數(shù)據(jù)的抽取等。語義專題爬蟲面臨的問題是,如何在海量的語義信息中準(zhǔn)確高效的獲得與主題相關(guān)的語義資源。語義專題爬蟲需要對語義信息進(jìn)行內(nèi)容判斷、計(jì)算語義信息與主題的相關(guān)性、篩選與主題相關(guān)的信息并保存到數(shù)據(jù)存儲中。同時,語義專題爬蟲的效率也是相關(guān)研究的主要內(nèi)容之一。因此,針對語義專題爬蟲的準(zhǔn)確性和效率問題,本文分別提出了相應(yīng)的方法予以解決。對于語義信息內(nèi)容的主題相關(guān)性判
3、斷問題,本文提出了判斷語義文檔的主題相關(guān)度的方法。方法將語義文檔和領(lǐng)域本體表示為圖形結(jié)構(gòu)并通過計(jì)算圖形結(jié)構(gòu)之間的相似度來判斷文檔的主題相關(guān)度。在優(yōu)化語義專題爬蟲的效率方面,本文提出了Q學(xué)習(xí)結(jié)合貝葉斯分類器的路徑預(yù)測算法(以下簡稱QBLP算法),QBLP算法通過計(jì)算頁面主題相關(guān)度來作為Q學(xué)習(xí)器的回報(bào)函數(shù),并利用回報(bào)函數(shù)對貝葉斯分類器的先驗(yàn)概率和條件概率進(jìn)行調(diào)整,使先驗(yàn)概率和條件概率逐步趨近于真實(shí)值,以此來提高爬蟲獲取主題相關(guān)語義文檔的性能。除了對算法進(jìn)行研究,本文基于上述算法實(shí)現(xiàn)了語義專題爬蟲FO
4、CSEW系統(tǒng)。論文在以下方面作了有益的探索和創(chuàng)新性工作。(1)基于最大概率密度的聚類方法。在語義文檔的圖形表示方法中,為了對語義文檔中的所有代表實(shí)體的關(guān)鍵詞進(jìn)行語義消歧并組織成圖形結(jié)構(gòu),本文提出了基于最大概率密度的聚類方法。一個關(guān)鍵詞可以包含多重概念,關(guān)鍵詞和其在具體文檔中概念的對應(yīng)關(guān)系具有一定的概率性。最大概率密度就是一種包含了這樣的概率信息的語義距離衡量標(biāo)準(zhǔn)。本文以最大概率密度為基礎(chǔ)進(jìn)行基于密度的聚類形成簇,再將簇中的所有概念連接形成的圖形結(jié)構(gòu)作為語義文檔的內(nèi)容表示。(2)針對語義專題爬蟲的
5、路徑調(diào)整算法進(jìn)行了分析和闡述。面對大量位置分散的語義文檔,對文檔內(nèi)容的分析以及爬行路徑的預(yù)測和篩選顯得非常重要。本文提出了利用WordNet本體作為指導(dǎo)的語義文檔圖形表示方法,方法可以準(zhǔn)—————~~~———————~——北京jr業(yè)人學(xué)一r’學(xué)碩’f:學(xué)伉論文確的將語義文檔的內(nèi)容表示為圖形結(jié)構(gòu)。在此基礎(chǔ)上,本文提出了由Q學(xué)習(xí)器通過學(xué)習(xí)為貝葉斯分類器提供先驗(yàn)概率的QBLP爬蟲路徑調(diào)整算法。QBLP方法通過累計(jì)語義文檔和語義鏈接特征的知識,調(diào)憋爬蟲爬行路徑,提高爬蟲的性能。這個目標(biāo)在實(shí)驗(yàn)中得到了驗(yàn)證
6、。本課題是在語義網(wǎng)搜索引擎研究框架下的重點(diǎn)模塊之一。語義專題爬蟲主要的目標(biāo)是搜集與主題相關(guān)的語義文檔供用戶通過語義搜索引擎進(jìn)行查詢。本文對與主題相關(guān)的語義資源進(jìn)行搜索和篩選,對于信息的集成和檢索有著積極的意義。實(shí)驗(yàn)證明本文闡述的算法以及實(shí)現(xiàn)的語義專題爬蟲系統(tǒng)FOCSEW可以高效的搜索相關(guān)語義資源,為語義搜索引擎系統(tǒng)奠定了數(shù)據(jù)基礎(chǔ)。關(guān)鍵詞語義網(wǎng);專題爬蟲;本體AbstractSemanticWebiStheextensionofWorldWideWeb.DocumentinsemanticWebc
7、ontainssemanticinformationwhichhelpstoanalyseandprocessdatafromadifferentaspect.Semanticwebisdevelopingrapidduringtheseyears,andquantityofsemanticdocumentisgrowingaswell.Howtoprocessandparseinformationisawayofimprovingservicequality.Semanticsearcheng
8、ineissuchanapplicationwhichtakesadvantageofsemanticinformationtomanagedocumentsandreturnresulttouser’Squery.Semanticverticalsearchenginefilterthemerelateddocumentawayfromothersandprovidesaccuratesemanticinformation,whichisbeenprocessedandindexed,ofac