資源描述:
《人工智能技術簡明教程 教學課件 作者 廉師友 第6章 機器學習與知識發(fā)現(xiàn)(白).ppt》由會員上傳分享,免費在線閱讀,更多相關內容在應用文檔-天天文庫。
1、第6章機器學習與知識發(fā)現(xiàn)6.1機器學習概述6.2符號學習6.3神經(jīng)網(wǎng)絡學習6.4知識發(fā)現(xiàn)與數(shù)據(jù)挖掘6.1機器學習概述6.1.1機器學習的概念心理學中對學習的解釋是:學習是指(人或動物)依靠經(jīng)驗的獲得而使行為持久變化的過程。Simon認為:如果一個系統(tǒng)能夠通過執(zhí)行某種過程而改進它的性能,這就是學習。Minsky認為:學習是在人們頭腦中(心理內部)進行有用的變化。TomM.Mitchell在《機器學習》一書中對學習的定義是:對于某類任務T和性能度P,如果一個計算機程序在T上以P衡量的性能隨著經(jīng)驗E而自
2、我完善,那么,我們稱這個計算機程序從經(jīng)驗E中學習。當前關于機器學習的許多文獻中也大都認為:學習是系統(tǒng)積累經(jīng)驗以改善其自身性能的過程??傊孩賹W習與經(jīng)驗有關;②學習可以改善系統(tǒng)性能;③學習是一個有反饋的信息處理與控制過程。因為經(jīng)驗是在系統(tǒng)與環(huán)境的交互過程中產生的,而經(jīng)驗中應該包含系統(tǒng)輸入、響應和效果等信息。因此經(jīng)驗的積累、性能的完善正是通過重復這一過程而實現(xiàn)的。6.1.2機器學習的原理圖9-1機器學習原理1圖9-2機器學習原理2圖9-3機器學習原理3圖9-4機器學習原理4圖9-5機器學習原理56.1
3、.3機器學習的分類1.基于學習策略的分類(1)模擬人腦的機器學習●符號學習:模擬人腦的宏觀心理級學習過程,以認知心理學原理為基礎,以符號數(shù)據(jù)為輸入,以符號運算為方法,用推理過程在圖或狀態(tài)空間中搜索,學習的目標為概念或規(guī)則等。符號學習的典型方法有:記憶學習、示例學習、演繹學習、類比學習、解釋學習等?!裆窠?jīng)網(wǎng)絡學習(或連接學習):模擬人腦的微觀生理級學習過程,以腦和神經(jīng)科學原理為基礎,以人工神經(jīng)網(wǎng)絡為函數(shù)結構模型,以數(shù)值數(shù)據(jù)為輸入,以數(shù)值運算為方法,用迭代過程在系數(shù)向量空間中搜索,學習的目標為函數(shù)。典
4、型的連接學習有權值修正學習、拓撲結構學習。(2)直接采用數(shù)學方法的機器學習●主要有統(tǒng)計機器學習。2.基于學習方法的分類(1)歸納學習●符號歸納學習:典型的符號歸納學習有示例學習,決策樹學習?!窈瘮?shù)歸納學習(發(fā)現(xiàn)學習):典型的函數(shù)歸納學習有神經(jīng)網(wǎng)絡學習、示例學習,發(fā)現(xiàn)學習,統(tǒng)計學習。(2)演繹學習(3)類比學習:典型的類比學習有案例(范例)學習。(4)分析學習:典型的分析學習有案例(范例)學習、解釋學習。3.基于學習方式的分類(1)有導師學習(監(jiān)督學習):輸入數(shù)據(jù)中有導師信號,以概率函數(shù)、代數(shù)函數(shù)或
5、人工神經(jīng)網(wǎng)絡為基函數(shù)模型,采用迭代計算方法,學習結果為函數(shù)。(2)無導師學習(非監(jiān)督學習):輸入數(shù)據(jù)中無導師信號,采用聚類方法,學習結果為類別。典型的無導師學習有發(fā)現(xiàn)學習、聚類、競爭學習等。(3)強化學習(增強學習):以環(huán)境反饋(獎/懲信號)作為輸入,以統(tǒng)計和動態(tài)規(guī)劃技術為指導的一種學習方法。4.基于數(shù)據(jù)形式的分類(1)結構化學習:以結構化數(shù)據(jù)為輸入,以數(shù)值計算或符號推演為方法。典型的結構化學習有神經(jīng)網(wǎng)絡學習、統(tǒng)計學習、決策樹學習、規(guī)則學習。(2)非結構化學習:以非結構化數(shù)據(jù)為輸入,典型的非結構化
6、學習有類比學習、案例學習、解釋學習、文本挖掘、圖像挖掘、Web挖掘等。5.基于學習目標的分類(1)概念學習:即學習的目標和結果為概念,或者說是為了獲得概念的一種學習。典型的概念學習有示例學習。(2)規(guī)則學習:即學習的目標和結果為規(guī)則,或者說是為了獲得規(guī)則的一種學習。典型的規(guī)則學習有決策樹學習。(3)函數(shù)學習:即學習的目標和結果為規(guī)則,或者說是為了獲得函數(shù)的一種學習。典型的函數(shù)學習有神經(jīng)網(wǎng)絡學習。(4)類別學習:即學習的目標和結果為對象類,或者說是為了獲得類別的一種學習。典型的類別學習有聚類分析。(
7、5)貝葉斯網(wǎng)絡學習:即學習的目標和結果是貝葉斯網(wǎng)絡,或者說是為了獲得貝葉斯網(wǎng)絡的一種學習。其又可分為結構學習和參數(shù)學習。6.2符號學習6.2.1記憶學習記憶學習方法簡單,但學習系統(tǒng)需要幾種能力:(1)能實現(xiàn)有組織的存儲信息。(2)能進行信息綜合。(3)能控制檢索方向。當存儲對象愈多時,其中可能有多個對象與給定的6.2.2示例學習示例學習也稱實例學習,它是一種歸納學習。示例學習是從若干實例(包括正例和反例)中歸納出一般概念或規(guī)則的學習方法。圖9-6第一個拱橋的語義網(wǎng)絡圖9-7第二個拱橋的語義網(wǎng)絡圖
8、9-8學習程序歸納出的語義網(wǎng)絡圖9-9拱橋概念的語義網(wǎng)絡例9.1假設示例空間中有橋牌中"同花"概念的兩個示例:示例1:花色(c1,梅花)∧花色(c2,梅花)∧花色(c3,梅花)∧花色(c4,梅花)→同花(c1,c2,c3,c4)示例2:花色(c1,紅桃)∧花色(c2,紅桃)∧花色(c3,紅桃)∧花色(c4,紅桃)→同花(c1,c2,c3,c4)關于同花的一般性規(guī)則:花色(c1,x)∧花色(c2,x)∧花色(c3,x)∧花色(c4,x)→同花(c1,c2,c3,c4)對于這個問題可