資源描述：
《人臉識別技術(shù)引起了人們的擔(dān)憂，必須要規(guī)范AI的使用.doc》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、人臉識別技術(shù)引起了人們的擔(dān)憂，必須要規(guī)范AI的使用 人工智能的倫理學(xué)問題一直是學(xué)界和政界關(guān)注的重點(diǎn)之一，對于所有人來說，人工智能帶來的法律和道德問題都是一個全新的課題，而對這一課題的研究結(jié)果，不但將影響未來人工智能的研究，同樣也對AI的商業(yè)化落地有著極高的參考意義?！ ∪绾巫尶茖W(xué)遠(yuǎn)離罪惡？我們都在摸著石頭過河?！ ≡谝黄P(guān)于人臉識別的潛在用途和濫用的博客文章中，微軟總裁BradfordL．Smith將該技術(shù)與受到全面監(jiān)管的藥品和汽車等產(chǎn)品進(jìn)行了比較，并敦促美國國會展開研究并監(jiān)督人臉識別技術(shù)的使用。 此前，眾多學(xué)者與開發(fā)者
2、們簽署了一份公開信，其中要求科技公司停止向政府和執(zhí)法機(jī)構(gòu)提供人臉識別技術(shù)，停止當(dāng)前的數(shù)據(jù)分析和AI服務(wù)合同，并考慮制定道德準(zhǔn)則，禁止威脅隱私、公民和人權(quán)的技術(shù)的武器化與軍事化，建立透明和有問責(zé)機(jī)制的制度，以確保上述準(zhǔn)則的實(shí)行?！ 〗谖④浺蛞环萆婕叭四樧R別軟件的政府合同而受到廣泛抨擊，微軟公司表示，它將更加謹(jǐn)慎地考慮這方面的合同，并敦促立法者規(guī)范此類人工智能技術(shù)的使用，以防止濫用?！ ∽鳛槿四樧R別軟件主要制造商之一，微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性；制定新的公共原則來管理技術(shù)；并會更謹(jǐn)慎地出售其在該領(lǐng)域的軟件和專
3、業(yè)知識。微軟指出，雖然技術(shù)行業(yè)需要對其產(chǎn)品負(fù)責(zé)，但是政府也要采取行動?！ ∥④浛偛眉媸紫▌?wù)官BradSmith周五在其博客中寫道：“政府管理技術(shù)使用的唯一有效方法是它主動采取行動。而且如果人們擔(dān)心一項(xiàng)技術(shù)在全社會被廣泛使用，那么規(guī)范該項(xiàng)技術(shù)廣泛應(yīng)用的唯一措施應(yīng)由政府出面。實(shí)際上，我們認(rèn)為這就是現(xiàn)在所需要的—一項(xiàng)首先由民主、共和兩黨代表和專家委員會通報(bào)的政府倡議，旨在規(guī)范人臉識別技術(shù)的正確使用?！薄 ∥④洝⒐雀?、亞馬遜等公司因向美國政府和當(dāng)?shù)鼐匠鍪跘I軟件，尤其是人臉識別軟件而受到民間自由團(tuán)體及這些公司內(nèi)部雇員的抨擊。對于科技
4、公司來說，這種要求對自己產(chǎn)品進(jìn)行更嚴(yán)厲監(jiān)管的行為并不常見，但是Smith與微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋今年早些時候就寫了一篇文章，稱AI的發(fā)展需要新的法律來規(guī)范。 Smith寫道，“雖然我們明白現(xiàn)在很多人要求科技公司來做這些，我們也明確意識到自己需要履責(zé)，但我們認(rèn)為，這不足以代替公眾及其代表的決策?！薄 ∪四樧R別系統(tǒng)通常具備嚴(yán)重的缺陷，尤其是難以識別和區(qū)分膚色較深的人。微軟研究者TimnitGebru和MIT媒體實(shí)驗(yàn)室JoyBuolamwini二月發(fā)表的一篇論文表明人臉識別系統(tǒng)對膚色較深的女性的分類誤差高達(dá)35％。
5、微軟的研究機(jī)構(gòu)致力于修正研究者在其人臉識別軟件中發(fā)現(xiàn)的問題?！ ‰S著技術(shù)的迅速發(fā)展，微軟提倡適應(yīng)云計(jì)算和人工智能等新興領(lǐng)域的新法律。微軟就隱私問題與美國政府展開抗?fàn)?，稱美國政府在云計(jì)算方面使用了老舊的通信法，微軟支持折中的法案，用于直接解決云時代的數(shù)據(jù)隱私問題和搜索問題?！ ∥④洃?yīng)對民眾抗議的方式與亞馬遜略有不同。在六月回應(yīng)抗議聲的一篇博客中，亞馬遜的AI負(fù)責(zé)人MattWood寫道，“新技術(shù)能力一直都存在風(fēng)險(xiǎn)，以后也會如此。每個選擇使用技術(shù)的組織必須采取負(fù)責(zé)任的行動，否則就得面臨法律懲罰和公眾譴責(zé)的風(fēng)險(xiǎn)。AWS會認(rèn)真對待自己的責(zé)
6、任。但我們認(rèn)為，不能因?yàn)槟承┘夹g(shù)未來可能被人濫用就禁止這些技術(shù)的發(fā)展，這樣是不對的?！薄 mith寫道，政府規(guī)范應(yīng)該考慮的問題是警察使用人臉識別軟件是否需要人類監(jiān)督和控制，零售商是否必須張貼顯眼的標(biāo)識（如果他們在公共區(qū)域使用了此類軟件）。其它需要考慮的范圍包括是否要求企業(yè)在收集個人圖像之前先征求用戶同意，以及認(rèn)為自己被人臉識別系統(tǒng)錯誤識別的人享有哪些法律權(quán)利。 紐約大學(xué)法學(xué)教授BarryFriedman稱，執(zhí)法機(jī)關(guān)使用人臉識別技術(shù)卻欠缺規(guī)范，這引起了人們對種族差異和隱私問題的擔(dān)憂。他同時也負(fù)責(zé)ThePolicingProje
7、ct，該計(jì)劃致力于為執(zhí)法設(shè)定規(guī)范和準(zhǔn)則?！ ∽罡叻ㄔ阂?guī)定警察在沒有許可證或正當(dāng)理由的情況下不得長期獲取手機(jī)數(shù)據(jù)，類似的限制也應(yīng)該應(yīng)用到警察對人臉識別技術(shù)的使用上，BarryFriedman稱?！ 霸摷夹g(shù)正在飛快地追趕我們，”Friedman說道，“如果我們不走到前頭，一切將覆水難收。” 微軟在上個月曾因民眾抗議AI技術(shù)被用于在墨西哥邊境分離非法入境者及其子女后，短暫地在網(wǎng)站上刪除了其與美國移民和海關(guān)執(zhí)法局簽訂合同的文章。但隨后，相關(guān)博客又被恢復(fù)?！ ‰m然微軟隨后宣稱公司與移民局簽訂的合同主要涉及在云端處理舊電子郵件和員工協(xié)作
8、系統(tǒng)，但其博文明確提到了使用人臉識別工具的可能性。隨后，數(shù)百名微軟員工簽署了一份請?jiān)笗蠊就Ｖ瓜蛘鍪巯嚓P(guān)服務(wù)。針對非法移民的AI項(xiàng)目甚至影響到了微軟剛剛收購的GitHub，6月中旬起，數(shù)百名開源社區(qū)貢獻(xiàn)者在網(wǎng)上簽署了一份公開信，同樣要求微軟解除與政府部
