《典型相關(guān)分析》ppt課件

《《典型相關(guān)分析》ppt課件》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、第十章典型相關(guān)分析§10.1引言§10.2總體典型相關(guān)§10.3樣本典型相關(guān)§10.4典型相關(guān)系數(shù)的顯著性檢驗(yàn)§10.1引言典型相關(guān)分析（canonicalcorrelationanalysis）是研究兩組變量之間相關(guān)關(guān)系的一種統(tǒng)計(jì)分析方法，它能夠有效地揭示兩組變量之間的相互線性依賴關(guān)系。典型相關(guān)分析是由霍特林（Hotelling,1935,1936）首先提出的?！?0.2總體典型相關(guān)一、典型相關(guān)的定義及導(dǎo)出二、典型相關(guān)變量的性質(zhì)三、從相關(guān)矩陣出發(fā)計(jì)算典型相關(guān)一、典型相關(guān)的定義及導(dǎo)出設(shè)x=(x1,x2,?,xp)′和y=(y1,y2,?,yq)′是兩組隨機(jī)變量，且V(x)

2、=Σ11(>0)，V(y)=Σ22(>0)，Cov(x,y)=Σ12，即有其中Σ21=Σ12′。我們研究u=a′x與v=b′y之間的相關(guān)關(guān)系，其中a=(a1,a2,?,ap)′，b=(b1,b2,?,bq)′現(xiàn)來計(jì)算一下u與v的相關(guān)系數(shù)。Cov(u,v)=Cov(a′x,b′y)=a′Cov(x,y)b=a′Σ12bV(u)=V(a′x)=a′V(x)a=a′Σ11aV(v)=V(b′y)=b′V(y)b=b′Σ22b所以，u與v的相關(guān)系數(shù)由于對任意非零常數(shù)k1和k2，有ρ(k1u,k2v)=ρ(u,v)因此，為避免不必要的結(jié)果重復(fù)，我們常常限定u與v均為標(biāo)準(zhǔn)化的變量，即

3、附加約束條件V(u)=1，V(v)=1即a′Σ11a=1，b′Σ22b=1在此約束條件下，求a∈Rp和b∈Rq，使得ρ(u,v)=a′Σ12b達(dá)到最大。容易證明，有著相同的非零特征值，且皆為正，其個(gè)數(shù)為m=rank(Σ12)。將這些正特征值分別記為。設(shè)a1,a2,?,am為的相應(yīng)于的特征向量，且滿足標(biāo)準(zhǔn)化條件ai′Σ11ai=1，i=1,2,?,m令，則有從而b1,b2,?,bm為的相應(yīng)于的特征向量，并且滿足可以證明，當(dāng)取a=a1,b=b1時(shí)，ρ(u,v)=a′Σ12b達(dá)到最大值ρ1(顯然ρ1≤1)。我們稱u1=a1′x，v1=b1′y為第一對典型相關(guān)變量，稱ρ1為第一個(gè)

4、典型相關(guān)系數(shù)第一對典型相關(guān)變量u1,v1提取了原始變量x與y之間相關(guān)的主要部分，如果這一部分還顯得不夠，可以在剩余相關(guān)中再求出第二對典型相關(guān)變量u2=a′x,v2=b′y，也就是a,b應(yīng)滿足標(biāo)準(zhǔn)化條件且應(yīng)使得第二對典型相關(guān)變量不包括第一對典型相關(guān)變量所含的信息，即ρ(u2,u1)=ρ(a′x,a1′x)=Cov(a′x,a1′x)=a′Σ11a1=0ρ(v2,v1)=ρ(b′y,b1′y)=Cov(b′y,b1′y)=b′Σ22b1=0在這些約束條件下使得ρ(u2,v2)=ρ(a′x,b′y)=a′Σ12b達(dá)到最大。一般地，第i(1

5、i=b′y是指，找出a∈Rp,b∈Rq,在約束條件a′Σ11a=1，b′Σ22b=1a′Σ11ak=0，b′Σ22bk=0，k=1,2,?,i?1下，使得ρ(ui,vi)=ρ(a′x,b′y)=a′Σ12b達(dá)到最大。當(dāng)取a=ai,b=bi時(shí)，ρ(ui,vi)達(dá)到最大值ρi，稱它為第i個(gè)典型相關(guān)系數(shù)，稱ai,bi為第i對典型系數(shù)。二、典型相關(guān)變量的性質(zhì)1.同一組的典型變量互不相關(guān)2.不同組的典型變量之間的相關(guān)性3.原始變量與典型變量之間的相關(guān)系數(shù)4.簡單相關(guān)、復(fù)相關(guān)和典型相關(guān)之間的關(guān)系1.同一組的典型變量互不相關(guān)設(shè)x,y的第i對典型變量為ui=ai′x，vi=bi′y，i=

6、1,2,?,m則有V(ui)=ai′Σ11ai=1，V(vi)=bi′Σ22bi=1，i=1,2,?,mρ(ui,uj)=Cov(ui,uj)=ai′Σ11aj=0，1≤i≠j≤mρ(vi,vj)=Cov(vi,vj)=bi′Σ22bj=0，1≤i≠j≤m2.不同組的典型變量之間的相關(guān)性ρ(ui,vi)=ρi，i=1,2,?,m記u=(u1,u2,?,um)′，v=(v1,v2,?,vm)′，則上述兩個(gè)性質(zhì)可用矩陣表示為V(u)=Im，V(v)=Im，Cov(u,v)=Λ或其中Λ=diag(ρ1,ρ2,?,ρm)。3.原始變量與典型變量之間的相關(guān)系數(shù)記A=(a1,a2,?

7、,am)=(aij)p×mB=(b1,b2,?,bm)=(bij)q×m則Cov(x,u)=Cov(x,A′x)=Σ11ACov(x,v)=Cov(x,B′y)=Σ12BCov(y,u)=Cov(y,A′x)=Σ21ACov(y,v)=Cov(y,B′y)=Σ22B上述四個(gè)等式也可表達(dá)為i=1,2,?,q，j=1,2,?,m所以4.簡單相關(guān)、復(fù)相關(guān)和典型相關(guān)之間的關(guān)系當(dāng)p=q=1時(shí)，x與y之間的（惟一）典型相關(guān)就是它們之間的簡單相關(guān)；當(dāng)p=1或q=1時(shí)，x與y之間的（惟一）典型相關(guān)就是它們之間的復(fù)相關(guān)?？梢?，復(fù)相關(guān)是典型相關(guān)的