資源描述:
《具有中文人名識別功能的漢語自動分詞算法研究》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、河北工業(yè)大學(xué)碩士學(xué)位論文具有中文人名識別功能的漢語自動分詞算法研究姓名:潘景劍申請學(xué)位級別:碩士專業(yè):模式識別與智能系統(tǒng)指導(dǎo)教師:于明20061101河北工業(yè)大學(xué)碩士學(xué)位論文具有中文人名識別功能的漢語自動分詞算法研究摘要隨著信息技術(shù)的飛速發(fā)展,中文信息處理技術(shù)已經(jīng)滲透到計算機應(yīng)用的各個領(lǐng)域。詞處理平臺技術(shù)是中文信息處理的中間環(huán)節(jié),是連接字處理平臺和句處理平臺的關(guān)鍵環(huán)節(jié),其核心難題是分詞問題。漢語自動分詞是對漢語文本進(jìn)行自動分析的第一步,是詞處理平臺的基礎(chǔ),漢語自動分詞技術(shù)的發(fā)展直接影響著中文信息處理技術(shù)的發(fā)展。本文對漢語自動分詞的知識進(jìn)行了
2、全面的描述,介紹了漢語自動分詞的概念和國內(nèi)外研究與應(yīng)用的現(xiàn)狀。對漢語自動分詞技術(shù)的原理、方法、評價標(biāo)準(zhǔn)以及基本流程進(jìn)行了分析和總結(jié)。其中重點對漢語自動分詞歧義的采集和處理以及中文人名識別所用到的技術(shù)和各種算法進(jìn)行了深入的研究與實驗分析,并提出了一些改進(jìn)思路。文中使用逆向最大匹配法和改進(jìn)的正向最大匹配法相結(jié)合的方法對待切分字段進(jìn)行雙向掃描來采集歧義字段;并在歧義處理過程中做出一些改進(jìn),采用規(guī)則和統(tǒng)計相結(jié)合的方法,運用一些歧義切分的規(guī)則及最大概率分詞法消解歧義字段;同時采用了統(tǒng)計和規(guī)則相結(jié)合的方法對未登錄詞中的人名識別進(jìn)行了實驗,實現(xiàn)了具有人名
3、識別功能的中文分詞算法。通過實驗數(shù)據(jù)可以看到,本算法基本可以滿足中文信息處理中的實際應(yīng)用問題。關(guān)鍵詞:漢語自動分詞,中文人名識別,歧義切分,最大匹配i具有中文人名識別功能的漢語自動分詞算法研究STUDYONTHEAUTOMATICCHINESEWORDSEGMENTATIONWITHCHINESENAMESRECOGNATIONFUNCTIONABSTRACTWiththerapiddevelopmentofinformationtechnology,theChineseinformationprocessingtechnologyhasa
4、lreadypermeatedthrougheachfieldofcomputerapplication.ThewordprocessingplatformtechnologyistheintermediatelinkofChineseinformationprocessing.Itisthekeylinktoconnectcharacterprocessingplatformandsentenceprocessingplatform,ofwhichthemostdifficultproblemisthewordsegmentationpr
5、oblem.ChineseautomaticwordsegmentationisthefirststepofautomaticanalysisofChinesetext,andthefoundationofwordprocessingplatform.ThedevelopmentofChinesewordsegmentationtechnologyisinfluencingthedevelopmentoftheChineseinformationprocessingtechnologydirectly.Thepaperdepictsthek
6、nowledgeofautomaticChinesewordsegmentationindetail.ItintroducestheconceptandcurrentresearchandapplicationsituationathomeandabroadofautomaticChinesewordsegmentation.Thepapersummarizesanddescribesthetheories,methods,evaluatingstandardsandbasicworkflowofautomaticChinesewordse
7、gmentation.EspeciallytheresearchingemphasisisonthetechniquesandalgorithmsofambiguitiesrecognitionandprocessingaswellasChinesenamesrecognition,andputforwardtherelevantadvancedalgorithms.Thistextusesthereversedirectionalmaximummatchingmethodandimprovedmaximummatchingmethodto
8、getdatafromtheambiguitiousfields.Thistextalsomakessomeimprovementintheambiguitiesprocesse