資源描述:
《基于深度學(xué)習(xí)的命名實(shí)體識(shí)別研究》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、碩士學(xué)位論文基于深度學(xué)習(xí)的命名實(shí)體識(shí)別研究作者姓名霍振朗學(xué)科專(zhuān)業(yè)計(jì)算機(jī)科學(xué)與技術(shù)指導(dǎo)教師蘇錦鈿副教授所在學(xué)院計(jì)算機(jī)科學(xué)與工程學(xué)院論文提交日期2018年4月ResearchonNamedEntityRecognitionwithDeepLearningADissertationSubmittedfortheDegreeofMasterCandidate:HuoZhenlangSupervisor:A.P.SuJindianSouthChinaUniversityofTechnologyGuangzhou,China分類(lèi)號(hào):TP391學(xué)校
2、代號(hào):10561學(xué)號(hào):201520131155華南理工大學(xué)碩士學(xué)位論文基于深度學(xué)習(xí)的命名實(shí)體識(shí)別研究作者姓名:霍振朗指導(dǎo)教師姓名、職稱(chēng):蘇錦鈿副教授申請(qǐng)學(xué)位級(jí)別:工學(xué)碩士學(xué)科專(zhuān)業(yè)名稱(chēng):計(jì)算機(jī)科學(xué)與技術(shù)研究方向:自然語(yǔ)言處理論文提交日期:2018年4月20日論文答辯日期:2018年5月31日學(xué)位授予單位:華南理工大學(xué)學(xué)位授予日期:年月日答辯委員會(huì)成員:主席:張星明委員:劉發(fā)貴俞鶴偉胡金龍韋佳摘要命名實(shí)體識(shí)別是自然語(yǔ)言處理中一個(gè)相當(dāng)重要的基礎(chǔ)任務(wù),是許多自然語(yǔ)言處理的高層應(yīng)用的一個(gè)基礎(chǔ)技術(shù)。傳統(tǒng)解決命名實(shí)體識(shí)別的方法主要是基于規(guī)則和基于統(tǒng)
3、計(jì)的。基于規(guī)則的方法需要很強(qiáng)的語(yǔ)言學(xué)知識(shí),通用性差。而基于統(tǒng)計(jì)的方法雖然擺脫了對(duì)語(yǔ)言學(xué)知識(shí)的依賴(lài),但是仍然需要大量人為設(shè)計(jì)的特征。深度學(xué)習(xí)具有自學(xué)習(xí)樣本特征的特點(diǎn),不需要很強(qiáng)的語(yǔ)言學(xué)知識(shí),也不需要大量的人工特征,近年來(lái)被廣泛應(yīng)用在自然語(yǔ)言處理的各個(gè)領(lǐng)域中?;谏疃葘W(xué)習(xí)的命名實(shí)體識(shí)別模型,在不需要太多額外特征的情況下,已經(jīng)超越了傳統(tǒng)方法的效果?;谏疃葘W(xué)習(xí)的命名實(shí)體識(shí)別還有很大的研究探索空間。本文經(jīng)過(guò)對(duì)基于深度學(xué)習(xí)的命名實(shí)體識(shí)別進(jìn)行了深入學(xué)習(xí)和研究后,發(fā)現(xiàn)了目前還存在以下兩點(diǎn)不足:1)鮮有通過(guò)引入句法信息來(lái)提升基于深度學(xué)習(xí)的命名實(shí)體識(shí)別
4、模型性能的研究。2)目前基于深度學(xué)習(xí)的命名實(shí)體識(shí)別模型基本都是基于句子級(jí)別的,存在標(biāo)注不一致問(wèn)題。針對(duì)以上兩點(diǎn)不足,本文首先分析了幾個(gè)關(guān)鍵模型,通過(guò)多組對(duì)比實(shí)驗(yàn)找出了多個(gè)影響句子級(jí)別的命名實(shí)體識(shí)別模型的關(guān)鍵因素。然后嘗試了兩種引入句法信息的方法:線性編碼成分句法樹(shù)和圖卷積編碼依存句法樹(shù);對(duì)兩種句法圖卷積進(jìn)行融合改進(jìn),并取得了一定的效果提升。最后提出將句法圖卷積與文檔級(jí)別注意力相結(jié)合,解決標(biāo)注不一致問(wèn)題的同時(shí),提升了模型的性能和通用性。該模型在不需要領(lǐng)域詞典作為額外特征的情況下,在CHEMDNER和BioCreativeVCDR語(yǔ)料集測(cè)
5、試集上F1值分別達(dá)到了91.00%和92.36%。關(guān)鍵詞:命名實(shí)體識(shí)別;深度學(xué)習(xí);句法信息;圖卷積;文檔級(jí)別注意力IAbstractNamedEntityRecoginition(NER)isaquiteimportantbasictaskinNaturalLanguageProcessing(NLP)andabasictechnologyformanyhigh-levelapplicationsofNLP.TraditionalmethodsforsolvingNERarebasedonrulesandstatistics.Ther
6、ule-basedmethodsneedstronglinguisticknowledgeandlackuniversality.Thestatistical-basedmethodsgetridofthedependenceonlinguisticknowledge,buttheystillrequirealotofhandcraftedfeatures.DeepLearningwhichcanlearnfeaturesbyitselfrequiresneitherstronglinguisticknowledgenoralagre
7、numberofhandcraftedfeatures.IthasbeenwidelyusedinvariousfieldsofNLPinrecentyears.TheDeepLearning-basedNERmodelshassurpassedtraditionalmethodswithouttoomanyadditionalfeatures.ThereisstillmuchspaceforresearchandexplorationonNERwithDeepLearning.Afterin-depthstudyonNERwithD
8、eepLearning,wefoundthattherearetwodeficiencies:1)ThereislittleresearchontheimprovementoftheDeepLearning-basedN