資源描述:
《基于條件隨機(jī)場(chǎng)的中文短文本分類算法分析》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、·上海交通大學(xué)碩士學(xué)位論文基于條件隨機(jī)場(chǎng)的中文短文本分類算法研究碩士研究生:曾佳妮學(xué)號(hào):1100369014導(dǎo)師:劉功申副教授申請(qǐng)學(xué)位:工學(xué)碩士學(xué)科:信息與通信工程所在單位:信息安全工程學(xué)院答辯日期:2012年12月授予學(xué)位單位:上海交通大學(xué)····DissertationSubmittedtoShanghaiJiaoTongUniversityfortheDegreeofMasterRESEARCHONCHINESESHORTTEXTCLASSIFICATIONALGORITHMBASEDONCRFsCandidate:ZengJiani
StudentID:1100369
2、014
Supervisor:AssociateProf.LiuGongshen
AcademicDegreeAppliedfor:MasterofAcademic
InformationandCommunicationSpeciality:EngineeringSchoolofInformationSecurityAffiliation:EngineeringDateofDefence:Dec,2012Degree-Conferring-Institution:ShanghaiJiaoTongUniversity············上海交通大學(xué)碩士學(xué)位論文摘要基于條件隨
3、機(jī)場(chǎng)的短文本分類算法研究摘要隨著互聯(lián)網(wǎng)的迅速發(fā)展,網(wǎng)上生活已經(jīng)成為了人們必生活中不可少的一部分。互聯(lián)網(wǎng)上的人們使用的信息很多是以短文本的形式存在的。短文本就是內(nèi)容較短的文本(一般長(zhǎng)度不超過(guò)140字符),通常的新聞標(biāo)題、微博、手機(jī)短信、電子郵件、購(gòu)物評(píng)價(jià)等都是短文本。面對(duì)互聯(lián)網(wǎng)中的海量信息,利用計(jì)算機(jī)技術(shù)自動(dòng)地進(jìn)行短文本分類可以幫助人們?cè)谟邢薜臅r(shí)間內(nèi)閱讀更多感興趣的信息。本文對(duì)基于條件隨機(jī)場(chǎng)的短文本分類的算法進(jìn)行了較深入的研究和討論,在特征選擇與文本表示方面進(jìn)行了改進(jìn)。與通常的文本相比,短文本有許多特性。本文介紹了短文本的特點(diǎn)并對(duì)國(guó)內(nèi)外相關(guān)領(lǐng)域的研究現(xiàn)狀進(jìn)行了分析。目前短文本分
4、類方法大多采用的是傳統(tǒng)文本分類方法的改進(jìn)。本文回顧了文本分類方法的一般過(guò)程,列舉了中文分詞、特征選擇、特征權(quán)重計(jì)算、文本表示、文本分類器等文本分類領(lǐng)域的重要知識(shí)。條件隨機(jī)場(chǎng)是一個(gè)給定輸入序列條件下計(jì)算出輸出序列的無(wú)向圖模型,是對(duì)傳統(tǒng)的有向圖概率模型的改進(jìn)。將條件概率模型應(yīng)用于文本分類領(lǐng)域是目前短文本分類的新思路。本文系統(tǒng)地描述了條件隨機(jī)場(chǎng)理論和如何將序列標(biāo)注的方法用于短文本分類領(lǐng)域。針對(duì)短文本所面臨的特征稀疏等問(wèn)題,本文提出I····上海交通大學(xué)碩士學(xué)位論文摘要了將語(yǔ)料預(yù)處理和分詞后,用類別作為標(biāo)注使用條件隨機(jī)場(chǎng)模型進(jìn)行標(biāo)注預(yù)測(cè)的短文本分類方法。重點(diǎn)介紹了序列標(biāo)注方法、分類結(jié)
5、果的判斷與特征模版的選擇問(wèn)題。對(duì)比實(shí)驗(yàn)表明,基于條件隨機(jī)場(chǎng)的短文本分類算法是一種有效的文本分類方法,在新聞的主題分類、微博的主客觀分類和情感傾向性分類中都取得了不錯(cuò)的分類效果。關(guān)鍵詞:短文本,文本分類,條件隨機(jī)場(chǎng),SVM,微博II····上海交通大學(xué)碩士學(xué)位論文ABSTRACTRESEARCHONSHORTTEXTCLASSIFICATIONALGORITHMBASEDONCRFSABSTRACTWiththerapidgrowthoftheInternet,onlinelifehasbecameanessentialpartinpeople'sdailylife.Thein
6、formationpeopleusedinInternetismainlyinformofshorttext.Shorttextisakindoftextwhichisveryshort(generallynolongerthan140characters).Usualnewsheadlines,micro-blog,shortmessages,email,shoppingcommentinourlifeisshorttext.TofaceoftheinformationexplosioninInternet,Usingautomaticclassificationtechn
7、ologywillhelppeoplefindandspendmoretimeonwhattheyareinterested.Thispaperfocusonshorttextclassificationtechniquesbasedonconditionalrandomfields(CRFs),presentsoptimizationoffeatureselectionandtextrepresentation.Comparedtousualtext,shorttexthassomedistinctf