我們對(duì)AI人工智能的理解仍然有賴于科幻電影,那個(gè)有著自我意識(shí)的機(jī)器怪物是人類對(duì)人工智能可能存在的風(fēng)險(xiǎn)的一種極端假設(shè)。但現(xiàn)今人工智能的發(fā)展,在關(guān)注到風(fēng)險(xiǎn)的同時(shí),我們也能看到它為人類服務(wù)的巨大潛能。
3月11日,北京歌德學(xué)院和iRights.Lab合作舉辦了一場(chǎng)數(shù)字時(shí)代展望活動(dòng),探討人工智能的未來發(fā)展。牛津大學(xué)數(shù)據(jù)倫理和算法學(xué)研究員桑德拉·沃奇特、東南大學(xué)哲學(xué)與科學(xué)系以及醫(yī)學(xué)人文學(xué)系副教授尹潔、清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授孫富春,以及柏林新責(zé)任基金會(huì)項(xiàng)目經(jīng)理尤利婭曼斯克就人工智能可能出現(xiàn)的倫理挑戰(zhàn)提出了各自的觀點(diǎn)。
3月11日,北京歌德學(xué)院和iRights.Lab合作舉辦了一場(chǎng)數(shù)字時(shí)代展望活動(dòng),探討人工智能的未來發(fā)展。
數(shù)據(jù)保護(hù)是非常復(fù)雜的一個(gè)體系
人工智能是數(shù)字化過程的必然趨勢(shì)。在機(jī)器學(xué)習(xí)技術(shù)的幫助下,在線翻譯工具已經(jīng)能為用戶提供地道的翻譯文本;在醫(yī)療研究領(lǐng)域,基于數(shù)據(jù)的分析而研發(fā)出的自主學(xué)習(xí)程序已經(jīng)可以幫助我們發(fā)現(xiàn)全新的診斷模型;圖像識(shí)別軟件得到了飛速發(fā)展,而繼國際象棋和圍棋之后,德州撲克也成為了又一個(gè)人類高手被計(jì)算機(jī)程序所擊敗的智能項(xiàng)目。
但桑德拉·沃奇特的擔(dān)憂是,數(shù)據(jù)問題和權(quán)利問題關(guān)系密切。“人工智能到現(xiàn)在為止依賴的還是算法。一個(gè)算法在運(yùn)作和完成之前必須是有責(zé)任的、透明的,這一點(diǎn)非常重要。但是大部分權(quán)利其實(shí)仰賴的是數(shù)據(jù)而不是算法。我們看到很多公司愿意公開他們的算法,是因?yàn)樗麄冏钪饕臋?quán)利來源不是算法,而是數(shù)據(jù)。所以到底誰能夠取得這些數(shù)據(jù),誰能分享這些數(shù)據(jù),這很重要。因?yàn)楹芏鄾Q策就是由數(shù)據(jù)來的?!?BR style="PADDING-BOTTOM: 0px; PADDING-TOP: 0px; PADDING-LEFT: 0px; MARGIN: 0px; PADDING-RIGHT: 0px">
與此同時(shí),數(shù)據(jù)分布的不對(duì)稱甚至可能已經(jīng)引起了很多社會(huì)不公現(xiàn)象?!氨热缭谒痉I(lǐng)域人們會(huì)參考到一些犯罪數(shù)據(jù),由于黑人在這方面的記錄比較多,那么很可能一個(gè)黑人在司法領(lǐng)域就會(huì)受到不公正的待遇。”桑德拉說。
“在歐洲,數(shù)據(jù)保護(hù)是非常復(fù)雜的一個(gè)體系,我們目前有一個(gè)歐洲一致的標(biāo)準(zhǔn),也就是要有知情者的同意。也就是每次我們使用某個(gè)人數(shù)據(jù)的時(shí)候,你要讓別人同意,他知道這個(gè)數(shù)據(jù)用到什么上面去了。讓大家先知道了之后,再?zèng)Q定他要不要去分享這個(gè)數(shù)據(jù)。另外還有很多人在討論,數(shù)據(jù)就是要開放,大家都可以共享,不要去考慮這些隱私問題。我們應(yīng)該想到數(shù)據(jù)給社會(huì)帶來的好處,要在任何時(shí)候都能自由使用數(shù)據(jù)。所以這兩邊的辯論在歐洲一直都在進(jìn)行?,F(xiàn)在還很難達(dá)成一個(gè)結(jié)論?!?/P>
2015年12月11日,開放人工智能(Open AI)公司在美國洛杉磯成立。這家公司的初衷是和其他組織及研究機(jī)構(gòu)合作,將其算法等各項(xiàng)研究成果向公眾開放,從而使得人工智能朝一個(gè)公開、透明、良性的方向發(fā)展。此后世界范圍內(nèi)對(duì)開放人工智能的關(guān)注度不斷上升。
東南大學(xué)哲學(xué)與社會(huì)學(xué)系的尹潔認(rèn)為開放人工智能是中西方合作的一個(gè)良好平臺(tái)。在尹潔看來,中西方在人工智能方面的合作需要尋求相通點(diǎn)。尹潔說:“東西方在人工智能研究方面有差異,組織層面上我們跟西方有不同。比如說,西方更多是一些企業(yè)和非政府的來做,而中國可能很大程度上是我們政府科技部出了一個(gè)項(xiàng)目,然后我們?nèi)ネ哆@個(gè)項(xiàng)目、去申請(qǐng)這個(gè)項(xiàng)目,大家去做倫理和政策的研究。這是組織上的差別。但是我相信也有共有的東西,比如說剛才談到對(duì)隱私的尊重。在這一點(diǎn)上我相信無所謂基于文化差異的某種道德相對(duì)主義?!?BR style="PADDING-BOTTOM: 0px; PADDING-TOP: 0px; PADDING-LEFT: 0px; MARGIN: 0px; PADDING-RIGHT: 0px">
“在AI研究里,大家會(huì)說,AI這個(gè)東西可能會(huì)對(duì)人類造成影響,那么我相信很多國際上的哲學(xué)家都認(rèn)為,或者很多AI的研究者都會(huì)認(rèn)為,唯一一個(gè)能讓大家放心的方式就是把這個(gè)東西公開,讓所有人都能來討論這個(gè)問題。所以這就是我們剛剛在說的,運(yùn)用機(jī)器學(xué)這些數(shù)據(jù)算法的時(shí)候,我們必須開放這個(gè)話語權(quán) ?!币鼭嵳f。
桑德拉·沃奇特對(duì)未來人工智能做了一項(xiàng)設(shè)想:“比方說你以后要去停車,你被貼了停車罰單,可能你都不用去找律師,可能有一個(gè)機(jī)器人律師就會(huì)自動(dòng)地幫你處理完所有的這些事情。”
這也是大多數(shù)人工智能研究人員的設(shè)想。在大多數(shù)工作領(lǐng)域中,未來的人工智能會(huì)取代人類。這些工作并不局限于體力勞動(dòng),甚至很多智識(shí)性很強(qiáng)的職業(yè)也可能被人工智能取代。
“那么在這樣一種情況下我們?cè)趺崔k?現(xiàn)在歐洲國家在做的一件事情就是設(shè)想對(duì)機(jī)器人收稅。也就是說未來如果沒有足夠的工人的話,納稅人肯定就減少了,如何保證養(yǎng)老金,如何保持社會(huì)的運(yùn)作?既然機(jī)器人取代了人的話,我們是不是對(duì)機(jī)器人收稅。那是不是意味著雇傭機(jī)器人的公司要交稅?比如隨著人工駕駛的發(fā)展,可能兩年之后優(yōu)步的司機(jī)都不是真人司機(jī)了,就是個(gè)無人駕駛車,那個(gè)時(shí)候怎么來看這些被取代的工作?”桑德拉說。
孫富春認(rèn)為人工智能的發(fā)展一方面取代很多現(xiàn)有的職業(yè),另一方面也會(huì)促成新的職業(yè)的產(chǎn)生?!叭斯ぶ悄艽_實(shí)會(huì)取代很多人類的繁瑣的工作,這是必然的。那么社會(huì)中另外一些職業(yè)就誕生了。今年科技部的計(jì)劃里也可以看到,以醫(yī)療健康為主題的課題占很大的部分。因?yàn)檫@將來會(huì)形成一個(gè)大的產(chǎn)業(yè)。其實(shí)還有一個(gè)很重要的產(chǎn)業(yè),就是教育。”孫富春說。
柏林新責(zé)任基金會(huì)項(xiàng)目經(jīng)理尤利婭·曼斯克認(rèn)為“未來要把這種基于某一個(gè)特定工作培養(yǎng)人才的模式,轉(zhuǎn)變?yōu)榕囵B(yǎng)通才型的模式”,尤利婭說:“在美國有研究表明絕大多數(shù)的工作現(xiàn)在都不需要技術(shù)方面的技能。少數(shù)程序員可能會(huì)需要敲代碼技能,但是其他大部分工作其實(shí)不是那么專業(yè)。未來追求的不是一個(gè)合格的員工,而是一個(gè)能夠自我成長(zhǎng)的人,一個(gè)在人工智能的時(shí)代能夠不斷進(jìn)步的人?!?/P>
在孫富春看來,人工智能將來的發(fā)展是“顛覆性的”。“什么叫顛覆性?就是這個(gè)產(chǎn)生,那個(gè)就沒有了。一家公司今天在運(yùn)轉(zhuǎn),明天可能就會(huì)倒閉。所以人可能會(huì)頻繁地改變工作,那你必須有非常強(qiáng)的工作適應(yīng)能力,所以終身教育就擺在了一個(gè)很重要的層面上。不只我們今天談到的大學(xué)教育、研究生教育,你要看到更多的終身教育,包括社會(huì)的培訓(xùn),包括我們今天這種非常重要的論壇,你會(huì)經(jīng)常去聽,去不斷地學(xué)習(xí)。所以未來的人更多面臨的就是職業(yè)的頻繁更替,那么這種教育不光是在大學(xué)教育本身,還要進(jìn)入培訓(xùn)和學(xué)習(xí),然后你要適應(yīng)各種各樣的工作?!?/P>澎湃新聞網(wǎng)