資源描述:
《基于多層條件隨機(jī)場的中文命名實(shí)體識別_胡文博》由會員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、ComputerEngineeringandApplications計算機(jī)工程與應(yīng)用2009,45(1)163基于多層條件隨機(jī)場的中文命名實(shí)體識別胡文博1,2,都云程1,2,呂學(xué)強(qiáng)1,2,施水才1,21,2,DUYun-cheng1,2,LVXue-qiang1,2,SHIShui-cai1,2HUWen-bo1.北京信息科技大學(xué)中文信息處理研究中心,北京1001012.北京拓爾思信息技術(shù)有限公司,北京1001011.ChineseInformationProcessingResearchCenter,Beij
2、ingInformationScienceandTechnologyUniversity,Beijing100101,China2.BeijingTRSInformationTechnologyCoLtd,Beijing100101,ChinaE-mail:nakata_huwenbo@hotmail.comHUWen-bo,DUYun-cheng,LVXue-qiang,etal.StudyonChinesenamedentityrecognitionbasedoncascadedcondi-tionalra
3、ndomfields.ComputerEngineeringandApplications,2009,45(1):163-165.Abstract:Namedentityrecognitionisoneofthefundamentalproblemsinmanynaturallanguageprocessingapplications,suchasinformationextraction,informationretrieval,machinetranslation,shallowparsingandques
4、tionansweringsystem.ThispapermainlyresearchestherecognitionofthecomplexlocationandcomplexorganizationinChinesenamedentity.Thispaperpresentsanewalgorithmofnamedentityrecognitionbasedoncascadedconditionalrandomfields.Weexperimentallyevaluatethealgorithmonlarge
5、-scalecorpus.Inopentest,therecall,precisionandF-measureachievesof2recognitionsare91.95%,89.99%,90.50%and90.07%,88.72%,89.39%.Keywords:conditionalrandomfields;namedentityrecognition;nameentity摘要:命名實(shí)體識別屬于自然語言處理的基礎(chǔ)研究領(lǐng)域,是信息抽取、信息檢索、機(jī)器翻譯、組塊分析、問答系統(tǒng)等多種自然語言處理技術(shù)的重要基礎(chǔ)。
6、主要研究中文命名實(shí)體中對復(fù)雜地名和復(fù)雜機(jī)構(gòu)名的識別,提出一種基于多層條件隨機(jī)場的命名實(shí)體識別的方法。對大規(guī)模真實(shí)語料進(jìn)行開放測試,兩項(xiàng)識別的召回率、準(zhǔn)確率和F值分別達(dá)到91.95%、89.99%、90.50%和90.07%、88.72%、89.39%。關(guān)鍵詞:條件隨機(jī)場;命名實(shí)體識別;命名實(shí)體DOI:10.3778/j.issn.1002-8331.2009.01.051文章編號:1002-8331(2009)01-0163-03文獻(xiàn)標(biāo)識碼:A中圖分類號:TP3911引言外,規(guī)則較多時還會引起規(guī)則之間的沖突,各
7、語言間移植困難、命名實(shí)體是自然語言中基本的信息單位,是正確理解自然通用性不強(qiáng)?;诮y(tǒng)計的方法的優(yōu)點(diǎn)在于對語言的依賴性小,可移植性好。張華平等[2]應(yīng)用隱馬爾可夫模型并使用角色標(biāo)注語言的基礎(chǔ)。狹義地講,可以把命名實(shí)體分為人名、地名、組織名等。廣義地講,命名實(shí)體還可以包括時間表達(dá)式、數(shù)值表達(dá)式的方法來進(jìn)行實(shí)體識別,但由于隱馬爾可夫模型是一種生成模等。命名實(shí)體的識別無論對漢語還是英語,都不是十分容易的型,他存在一些固有缺陷與不足,需要做出嚴(yán)格的獨(dú)立性假設(shè)。工作。首先,命名實(shí)體是一個開放的類,數(shù)量十分龐大,難以完事實(shí)上
8、,大多數(shù)序列數(shù)據(jù)都不能被表示成一系列獨(dú)立的元素。全列舉。其次,命名實(shí)體并非一個穩(wěn)定的類,隨時間推移,不斷條件隨機(jī)場是一種用于標(biāo)注和切分有序數(shù)據(jù)的條件概率模型,集合了最大熵模型和隱馬爾可夫模型的特點(diǎn)[3],具有表達(dá)元素有新的命名實(shí)體產(chǎn)生。最后,沒有共同遵守的嚴(yán)格的命名規(guī)范。這些表明命名實(shí)體識別是一項(xiàng)很困難的任務(wù),研究仍處在探索長距離依賴性和交疊性的能力,能方便加入上下文信息以及領(lǐng)階段。域