數(shù)字智能是否會(huì)取代生物智能
主論壇上,圖靈獎(jiǎng)、諾貝爾獎(jiǎng)得主杰弗里·辛頓(Geoffrey Hinton)發(fā)表了題為《數(shù)字智能是否會(huì)取代生物智能?》的演講,這是他在中國(guó)的首次公開(kāi)演講,引發(fā)了業(yè)界關(guān)于AI本質(zhì)的思辨。
辛頓回顧了從早期模型到現(xiàn)代大語(yǔ)言模型的發(fā)展歷程,指出大語(yǔ)言模型已經(jīng)實(shí)現(xiàn)了對(duì)語(yǔ)言理解的深度模仿。但AI系統(tǒng)具有“永生性”,且機(jī)器之間知識(shí)的復(fù)制可以在極大規(guī)模下進(jìn)行,實(shí)現(xiàn)指數(shù)級(jí)的知識(shí)轉(zhuǎn)移。因此,辛頓警示了人工智能超越人類智能的可能性及其帶來(lái)的風(fēng)險(xiǎn):“如果AI足夠聰明,它會(huì)通過(guò)操縱人類、獲得控制權(quán)等方式來(lái)避免被關(guān)閉。”
辛頓還提議,全球主要國(guó)家或AI大國(guó)應(yīng)建立一個(gè)由AI安全機(jī)構(gòu)組成的國(guó)際社群,研究如何訓(xùn)練高智能AI向善:“面對(duì)AI,我們只有兩個(gè)選擇,要么訓(xùn)練它永遠(yuǎn)不傷害人類,要么‘消滅’它。但AI在醫(yī)療、教育、氣候變化、新材料等領(lǐng)域作用巨大,能提升所有行業(yè)的效率,我們無(wú)法消除它——即便一個(gè)國(guó)家放棄AI,其他國(guó)家也不會(huì)。因此,若想讓人類生存,必須找到訓(xùn)練AI不傷害人類的方法。”
擁抱每個(gè)人的人工智能
MiniMax創(chuàng)始人、CEO閆俊杰先生認(rèn)為AI是更基礎(chǔ)更根本的生產(chǎn)力,是對(duì)個(gè)人能力和社會(huì)能力的持續(xù)增強(qiáng)。
“AI公司不是提供鏈接的互聯(lián)網(wǎng)公司,而是提供生產(chǎn)力的公司。”而除了釋放生產(chǎn)力與創(chuàng)意,AI的使用已經(jīng)超出最初的設(shè)計(jì)與預(yù)期,各種各樣想象不到的應(yīng)用場(chǎng)景正在發(fā)生。“比如解析一個(gè)古文字、模擬一次飛行、設(shè)計(jì)一個(gè)天文望遠(yuǎn)鏡……這樣意想不到的場(chǎng)景,隨著模型能力越來(lái)越強(qiáng)而變得越來(lái)越可行。僅僅需要少量協(xié)作,就可以把每個(gè)人的想法變成現(xiàn)實(shí)。”
閆俊杰判斷,AI會(huì)變得越來(lái)越強(qiáng),而這種增強(qiáng)幾乎是沒(méi)有盡頭的。但AI一定會(huì)被掌握在多家公司的手中,同時(shí)會(huì)變得越來(lái)越普惠,使用成本也會(huì)變得更加可控。“如果有一天AGI(通用人工智能,Artificial General Intelligence)實(shí)現(xiàn)了,其過(guò)程一定是由做AI的公司和他們的用戶一起來(lái)實(shí)現(xiàn)的。”
全球共濟(jì)推動(dòng)AI普惠發(fā)展
在圓桌討論中,圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智聚焦“如何通過(guò)國(guó)際合作彌合AI鴻溝”,指出當(dāng)前AI技術(shù)集中于少數(shù)國(guó)家和企業(yè),需全球攜手確保技術(shù)紅利惠及所有國(guó)家與群體,為討論奠定了全球視野的基調(diào),與4位國(guó)際專家開(kāi)啟了一場(chǎng)橫跨技術(shù)、制度與倫理的深度對(duì)話。
美國(guó)約翰斯·霍普金斯大學(xué)政府與政策學(xué)教授吉莉安·哈德菲爾德指出,“經(jīng)濟(jì)學(xué)上沒(méi)有免費(fèi)的午餐,大模型不可能憑空產(chǎn)生”,強(qiáng)調(diào)AI作為變革性技術(shù),真正的挑戰(zhàn)在于設(shè)計(jì)更公平的交易機(jī)制;蒙迪與合伙人公司總裁克雷格·蒙迪則認(rèn)為,雖然訓(xùn)練成本高昂,“但獲取其服務(wù)將越來(lái)越便宜”,前提是機(jī)制設(shè)計(jì)能保障邊緣人群的可達(dá)性與可負(fù)擔(dān)性;上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文從企業(yè)視角提出,“Make AI Safe”應(yīng)取代“Make Safe AI”,將AI安全嵌入發(fā)展全過(guò)程;美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)杰出教授斯圖爾特·羅素則以長(zhǎng)遠(yuǎn)目光回應(yīng),“AGI的出現(xiàn)必將轉(zhuǎn)化為全人類的公共資源”,同時(shí)強(qiáng)調(diào)有效監(jiān)管的必要性,避免技術(shù)失控威脅人類文明,為全球AI治理敲響警鐘。
標(biāo)簽: