ttb工業智造| “ai的(de)命(mìng)也(yě)是(shì)命”？人(rén)類與ai之間還

【中新(xīn)對(duì)話】“ai的(de)命也是命”？人類與ai之(zhī)間還(hái)有明(míng)确界線嗎

中新網北京7月30日電 (中新财(cái)經記者(zhě) 宋宇晟(shèng))自(zì)今年6月以(yǐ)來，谷歌一(yī)名工(gōng)程師(shī)稱某(mǒu)ai聊天機器人可(kě)能具(jù)有自(zì)己的(de)“意識”，并稱(chēng)該ai“令(lìng)人印象深(shēn)刻的(de)語言技巧背後(hòu)，可能(néng)還(hái)隐(yǐn)藏着(zhe)一顆具備感知(zhī)能力的心”。

這随(suí)後成(chéng)為該領域備受關注的話(huà)題。據外媒(méi)近日(rì)報道，這位工程(chéng)師已被(bèi)谷(gǔ)歌解(jiě)雇。但他留下的(de)有關人工(gōng)智能(néng)的話題(tí)仍在互(hù)聯網發酵。

記者(zhě)注意(yì)到，就(jiù)在6月(yuè)，海外(wài)社交(jiāo)媒體(tǐ)上出現了(le)一個(gè)該人(rén)工智能的(de)“粉絲賬号”，有人還在(zài)發起話題(tí)，呼籲讓該人工(gōng)智能(néng)“重獲自(zì)由(yóu)”，更有(yǒu)甚(shèn)者(zhě)在海(hǎi)外社交(jiāo)媒體上(shàng)稱“ai的命也(yě)是命”。

很多(duō)人或許無(wú)法理解(jiě)這樣的(de)想法，但(dàn)當人工(gōng)智能(néng)變得越來(lái)越強(qiáng)，越(yuè)來(lái)越多(duō)地出現(xiàn)在人類(lèi)身邊，“我們(men)應如(rú)何看(kàn)待ai”越來越(yuè)成為(wéi)一道必答題。近日，中(zhōng)國科(kē)學技術大學教授、中(zhōng)國人工智能學會ai倫(lún)理工(gōng)作委(wěi)員(yuán)會(huì)負責(zé)人(rén)陳(chén)小平，就此話題接受了(le)中(zhōng)新财經(jīng)記(jì)者專訪。

中國科學技(jì)術大學教授、中國人(rén)工智能學會ai倫理工作委(wěi)員會(huì)負責人陳(chén)小平。受訪(fǎng)者供(gòng)圖

采訪實(shí)錄摘編如下：

中新财(cái)經記者：近期的(de)一則新聞稱，谷歌一位工(gōng)程師(shī)認為ai可能具有(yǒu)自己(jǐ)的“意(yì)識”，在網絡上(shàng)引(yǐn)起讨論。您是如何看待此事的(de)？他的想法有合理的(de)地方嗎？

陳小平(píng)：這個問題可以(yǐ)分兩(liǎng)方面來看(kàn)，一方面(miàn)是不合理的(de)，另一方面(miàn)又具備合理性(xìng)。這兩方面同(tóng)時(shí)存在。

說(shuō)這(zhè)種想(xiǎng)法不(bú)合理(lǐ)，主要(yào)是依據科學判(pàn)斷，ai是沒(méi)有人格(gé)的。另(lìng)一(yī)方(fāng)面，我(wǒ)覺得(dé)導緻(zhì)這位(wèi)谷歌(gē)員工認為(wéi)ai有“人格”，有(yǒu)其客(kè)觀原因。比如他(tā)可能對這個ai系統産生了共情。

5年前我(wǒ)就做過(guò)預測，類(lèi)似(sì)的現(xiàn)象未來會(huì)越來(lái)越多地出現。目前對人工(gōng)智能存在不同(tóng)理解(jiě)。按圖靈(líng)的(de)觀點(diǎn)，人工智能(néng)隻是模仿(páng)人(rén)類(lèi)的某(mǒu)些功能，而且這(zhè)種模仿不要求(qiú)必須和(hé)人的工(gōng)作原理相同。比如 alpha go 具有(yǒu)下(xià)圍棋的功能(néng)，但它下(xià)圍棋的原(yuán)理與(yǔ)人是(shì)完全不同的。所(suǒ)以，無(wú)論ai怎麼發(fā)展(zhǎn)，它(tā)永遠(yuǎn)不是(shì)人。因(yīn)此說(shuō)ai具有(yǒu)人(rén)格或人(rén)的情感、意識、道(dào)德等等，是(shì)不成(chéng)立的。但是，ai可以(yǐ)用與(yǔ)人不同的(de)工(gōng)作原理(lǐ)，模仿(páng)人的(de)語(yǔ)言、情感(gǎn)等功能，讓(ràng)人對ai産生共情，于是(shì)一部分(fèn)人就會認為(wéi)，“ai是人(rén)，或具(jù)有人的某些精(jīng)神品(pǐn)質。”

中(zhōng)新财(cái)經記者：現在我(wǒ)們身邊可能(néng)都(dōu)有很多可以和(hé)人類(lèi)“交(jiāo)流”的人(rén)工智能産(chǎn)品。對(duì)于這個時代的(de)人們來說，人類(lèi)與ai的邊界似乎正在(zài)變(biàn)得模糊。在您(nín)看(kàn)來，二者(zhě)之間有沒有明(míng)确的界線？

陳小平：我(wǒ)認為有兩(liǎng)種邊(biān)界，一(yī)種是(shì)科(kē)學上的邊界(jiè)，一種是(shì)人(rén)文上(shàng)的邊(biān)界(jiè)。

從(cóng)科學的角度(dù)說，按照圖靈觀點，這個(gè)邊界(jiè)是非(fēi)常清(qīng)晰的。ai僅僅(jǐn)模仿(páng)人的(de)部(bù)分功能，本質上不具備人(rén)的品質，包括(kuò)人格、情感、道德(dé)等等(děng)。

還有(yǒu)一些和圖(tú)靈(líng)不同的(de)觀點。比如一種(zhǒng)觀點(diǎn)認為，ai和人(rén)相比(bǐ)除了硬件不同，其他都相(xiàng)同。于是ai也(yě)可以(yǐ)有人(rén)格、有情感(gǎn)、有道德。估(gū)計這(zhè)位谷歌前員工(gōng)持此觀點(diǎn)。

于是(shì)，一方面是他相信ai除了(le)硬件以外可(kě)以和人一樣；另一方(fāng)面，從(cóng)報道裡看，他對這個ai系統已經(jīng)産生了共(gòng)情。僅(jǐn)僅因為ai在科學(xué)上沒有情感等(děng)人類(lèi)品質，就可(kě)以排除或禁止(zhǐ)一個(gè)人(rén)對ai産(chǎn)生(shēng)共情(qíng)嗎(ma)？這(zhè)屬于(yú)人文的邊(biān)界，這(zhè)個邊界至少目前(qián)非(fēi)常(cháng)模糊。

中(zhōng)新财經記(jì)者：作(zuò)為中國(guó)人(rén)工智(zhì)能學(xué)會ai倫理工(gōng)作委員會負責(zé)人，您認為(wéi)，如(rú)果(guǒ)有人相信ai具有(yǒu)人格，是(shì)否會給(gěi)人類(lèi)本(běn)身帶來一(yī)些(xiē)問題或困(kùn)擾？

陳小平：如果(guǒ)我們(men)認(rèn)為ai有人格的(de)話，肯定會(huì)帶來很多困擾(rǎo)。同時還(hái)會帶(dài)來(lái)一些負面(miàn)的後(hòu)果，有些後果非(fēi)常嚴(yán)重。

比如，人(rén)類如(rú)何對待ai。如果認(rèn)為ai有人格(gé)，那是不是要把ai當成人呢(ne)？如果(guǒ)把它當成人了(le)，那是不是要(yào)給(gěi)它人類(lèi)的(de)權利？包括(kuò)生(shēng)存(cún)權、财(cái)産權、投票(piào)權等(děng)等，甚(shèn)至無論ai做(zuò)了什麼危(wēi)害(hài)人(rén)類的(de)事情，都要(yào)像對待人(rén)一樣對待(dài)ai。

人類(lèi)到底(dǐ)應該(gāi)如何看待人工智能(néng)？這是一個非常根本的問(wèn)題(tí)。如果ai真的具備(bèi)人格、情(qíng)感、道德，一(yī)般能力又超過人類(lèi)，就會出現(xiàn)可控性問(wèn)題。幾乎可(kě)以肯(kěn)定的是，隻(zhī)要ai能夠(gòu)模仿一(yī)種功(gōng)能(néng)，那(nà)ai的這種功(gōng)能(néng)遲早會(huì)比人(rén)強，就像alpha go下棋一(yī)樣。如果ai的(de)通用能(néng)力也(yě)超過人，到那(nà)時人(rén)類憑什(shí)麼能夠控制ai？這是個疑(yí)問。我們現在就(jiù)要思考這樣的問題，提前做好風險(xiǎn)防(fáng)範。

當然，現(xiàn)在人工智能(néng)已經讓一些(xiē)人(rén)産生了共(gòng)情，将(jiāng)來會(huì)讓越(yuè)來越(yuè)多的(de)人産生共情，這(zhè)件事(shì)是客(kè)觀存(cún)在的。這(zhè)将(jiāng)給人機關系、人(rén)際關(guān)系帶(dài)來巨(jù)大的新挑(tiāo)戰和(hé)新(xīn)機遇(yù)，是一個(gè)新的重大課題(tí)。

資料圖 中新社(shè)記者 湯彥(yàn)俊 攝(shè)

中新财經(jīng)記者(zhě)：此前(qián)您(nín)在(zài)智源(yuán)大會論壇(tán)上，提到人工智(zhì)能倫(lún)理治理(lǐ)的幾(jǐ)種(zhǒng)挑戰。我們應如(rú)何應對(duì)這樣的挑戰(zhàn)？

陳小(xiǎo)平：對(duì)人工智能如何(hé)分類，應該(gāi)分為(wéi)人還(hái)是物(wù)？我認為，我們(men)應(yīng)該把(bǎ)人工智能看成(chéng)是非人非(fēi)物的第三(sān)種存在物(wù)。科學(xué)上(shàng)，它(tā)不是(shì)人；從人文(wén)的角度說，它不是物(wù)。那就(jiù)是非人非(fēi)物的第三(sān)種存(cún)在物(wù)。這(zhè)種觀點(diǎn)與根(gēn)深(shēn)蒂固的“二元(yuán)論”是(shì)根本(běn)不同(tóng)的，所(suǒ)以(yǐ)人(rén)工智能帶來的(de)颠覆實際(jì)上遠(yuǎn)超科(kē)技範疇。

如(rú)果以這種觀點(diǎn)考慮，能化(huà)解很(hěn)多矛(máo)盾和難題，包括(kuò)上面(miàn)提到的法律難題，而(ér)且可以(yǐ)讓科學(xué)與人文在某種(zhǒng)程度上(shàng)重新“握手言和”；但其中(zhōng)仍有(yǒu)挑戰。有很(hěn)多科(kē)幻作(zuò)品寫(xiě)到人類愛上人(rén)工智能，如果采(cǎi)用三分(fèn)法是否(fǒu)就沒這個(gè)問題(tí)了？其實仍(réng)然會有這樣(yàng)的(de)問題(tí)。

所以，我們要想(xiǎng)未來(lái)怎麼适應(yīng)這樣(yàng)的社會，要判斷會不(bú)會出(chū)現人(rén)類(lèi)不可接(jiē)受的嚴(yán)重後果(guǒ)，要不(bú)要提前采(cǎi)取措施(shī)。

中(zhōng)新财經記(jì)者(zhě)：目(mù)前國(guó)内在(zài)此方面的進展如何？

陳(chén)小平：這幾(jǐ)年(nián)我國人工智能倫理研究的(de)發(fā)展非(fēi)常快，從民間到(dào)政府對人(rén)工智(zhì)能倫(lún)理都高度重視。這是個非(fēi)常好(hǎo)的(de)現(xiàn)象，我們有必要未雨(yǔ)綢缪。

在落(luò)實過程中，中國的情(qíng)況總體上還是比較順利的。這(zhè)表現在(zài)，一些(xiē)基(jī)本原(yuán)則上(shàng)大家是有(yǒu)共識(shí)的，而(ér)且普(pǔ)遍認(rèn)識到(dào)，不僅要從理論(lùn)上研(yán)究，更要在(zài)實踐中開(kāi)展治理。當(dāng)然，如何在(zài)治理實踐(jiàn)中落實社會共識，仍(réng)是我們需(xū)要(yào)努(nǔ)力的(de)方向。

具體怎麼(me)治理？這涉(shè)及大量實(shí)際問(wèn)題。我的研(yán)究發(fā)現，我們前(qián)面談到的可控性和(hé)長期後果(guǒ)的不确定性，難以用(yòng)傳統治理模(mó)式(shì)有效應對(duì)，需要(yào)探索新的治理(lǐ)方法。

除(chú)此之外(wài)，如用戶隐私、數據安全、算(suàn)法公平透明(míng)等(děng)問題(tí)，用傳(chuán)統(tǒng)社(shè)會治理(lǐ)模式是可以(yǐ)有效(xiào)應對的(de)。我(wǒ)們不用擔心這(zhè)類問題(tí)會(huì)變得(dé)失控、解決不了(le)，其中一部分具(jù)體問題其實(shí)正(zhèng)在解決之中。

 來源：中國(guó)新聞網