資源描述：
《深度學習ppt講解學習.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、深度學習pptWhatisDeepLearning?Abriefintroduceofdeeplearning機器學習機器學習（MachineLearning）是一門專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)市值不斷改善自身的性能的學科，簡單地說，機器學習就是通過算法，使得機器能從大量的歷史數(shù)據(jù)中學習規(guī)律，從而對新的樣本做智能識別或預(yù)測未來。機器學習在圖像識別、語音識別、自然語言理解、天氣預(yù)測、基因表達、內(nèi)容推薦等很多方面的發(fā)展還存在著沒有良好解決的問題。特征的自學習傳統(tǒng)的模式識
2、別方法：通過傳感器獲取數(shù)據(jù)，然后經(jīng)過預(yù)處理、特征提取、特征選擇、再到推理、預(yù)測或識別。特征提取與選擇的好壞對最終算法的確定性齊了非常關(guān)鍵的作用。而特征的樣式目前一般都是靠人工提取特征。而手工選取特征費時費力，需要專業(yè)知識，很大程度上靠經(jīng)驗和運氣，那么機器能不能自動的學習特征呢？深度學習的出現(xiàn)就這個問題提出了一種解決方案。深度學習自2006年，深度學習（DeepLearning）已經(jīng)成為機器學習研究中的一個新興領(lǐng)域，通常也被叫做深層結(jié)構(gòu)學習或分層學習。其動機在于建立、模擬人腦進行分析學習的神經(jīng)網(wǎng)絡(luò)，它模擬人腦的機制來解釋數(shù)據(jù)，
3、例如圖像，聲音和文本，深度學習是無監(jiān)督學習的一種。深度學習的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究，含多隱層的多層感知器就是一種深度學習結(jié)構(gòu)。深度學習通過組合低層特征形成更加抽象的高層表示屬性類別或特征，已發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。人腦的視覺機理1981年的諾貝爾醫(yī)學獎獲得者DavidHubel和TorstenWiesel發(fā)現(xiàn)了視覺系統(tǒng)的信息處理機制，他們發(fā)現(xiàn)了一種被稱為“方向選擇性細胞的神經(jīng)元細胞，當瞳孔發(fā)現(xiàn)了眼前的物體的邊緣，而且這個邊緣指向某個方向時，這種神經(jīng)元細胞就會活躍。由此可知人的視覺系統(tǒng)的信息處理是分級的，高層的特征是低層
4、特征的組合，從低層到高層的特征表示越來越抽象，越來越能表現(xiàn)語義或者意圖，抽象層面越高，存在的可能猜測就越少，就越利于分類。淺層學習與深度學習傳統(tǒng)機器學習和信號處理技術(shù)探索僅含單層非線性變換的淺層學習結(jié)構(gòu)。淺層模型的一個共性是僅含單個將原始輸入信號轉(zhuǎn)換到特定問題空間特征的簡單結(jié)構(gòu)。典型的淺層學習結(jié)構(gòu)包括傳統(tǒng)隱馬爾科夫模型(HMM)、條件隨機場(CRFs)、最大熵模型(MaxEnt)、支持向量機(SVM)、核回歸及僅含單隱層的多層感知器(MLP)等。淺層結(jié)構(gòu)的局限性在于有限的樣本和計算單元情況下對復(fù)雜的函數(shù)表示能力有限，針對復(fù)雜
5、分類問題其泛化能力受到一定的制約。受到大腦結(jié)構(gòu)分層的啟發(fā)，神經(jīng)網(wǎng)絡(luò)的研究發(fā)現(xiàn)多隱層的人工神經(jīng)網(wǎng)絡(luò)具有優(yōu)異的特征學習能力，學習得到的特征對數(shù)據(jù)有更本質(zhì)的刻畫，從而有利于可視化或分類；而深度神經(jīng)網(wǎng)絡(luò)在訓練上的難度，可以通過“逐層初始化”來有效克服。深度學習可以通過學習一種深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，實現(xiàn)復(fù)雜函數(shù)逼近，表征輸入數(shù)據(jù)分布式表示，并展現(xiàn)了強大的從少數(shù)樣本中集中學習數(shù)據(jù)及本質(zhì)特征的能力。深度學習的實質(zhì)通過構(gòu)建具有很多隱層的機器學習模型和海量的訓練數(shù)據(jù)，來學習更有用的特征，從而最終提升分類或預(yù)測的準確性。因此，“深度模型”是手段，
6、“特征學習”是目的。深度學習與淺層學習的區(qū)別強調(diào)了模型結(jié)構(gòu)的深度，通常有5-10多層的隱層節(jié)點；明確突出了特征學習的重要性，通過逐層特征變換，將樣本在原空間的特征表示變換到一個新特征空間，從而使分類或預(yù)測更加容易。與人工規(guī)則構(gòu)造特征的方法相比，利用大數(shù)據(jù)來學習特征，更能夠刻畫數(shù)據(jù)的豐富內(nèi)在信息。深度學習的訓練方法與神經(jīng)網(wǎng)絡(luò)的異同深度學習與神經(jīng)網(wǎng)絡(luò)的異同神經(jīng)網(wǎng)絡(luò)深度學習深度學習與神經(jīng)網(wǎng)絡(luò)的異同相同點二者均采用分層結(jié)構(gòu)，系統(tǒng)包括輸入層、隱層（多層）、輸出層組成的多層網(wǎng)絡(luò)，只有相鄰層節(jié)點之間有連接，同一層以及跨層節(jié)點之間相互無連接
7、，每一層可以看作是一個logistic回歸模型。不同點：采用不同的訓練機制神經(jīng)網(wǎng)絡(luò)：采用BP算法調(diào)整參數(shù)，即采用迭代算法來訓練整個網(wǎng)絡(luò)。隨機設(shè)定初值，計算當前網(wǎng)絡(luò)的輸出，然后根據(jù)當前輸出和樣本真實標簽之間的差去改變前面各層的參數(shù)，直到收斂；深度學習：BP算法不適合深度神經(jīng)網(wǎng)絡(luò)，如果對所有層同時訓練，時間復(fù)雜度會太高，如果每次訓練一層，偏差逐層傳遞會出現(xiàn)過擬合。因此深度學習整體上是是一個分層訓練機制。深度學習的訓練過程自下而上的非監(jiān)督學習：從底層開始，一層一層的往頂層訓練，分別得到各層參數(shù)。采用無標簽數(shù)據(jù)分層訓練各層參數(shù)（可以
8、看作是特征學習的過程）。自上而下的監(jiān)督學習基于第一步的得到的各層參數(shù)進一步調(diào)整整個多層模型的參數(shù)，這一步是一個有監(jiān)督的訓練過程。深度學習的幾種常用模型AutoEncoder（自動編碼器）SparseCoding（稀疏編碼）RestrictedBoltzmannMachine（限制玻爾茲曼機
