【熱點互動】柯潔輸棋 人工智能引發擔憂?

【新唐人2017年05月27日訊】【熱點互動】(1614)柯潔輸棋 人工智能引發擔憂?

排名世界第一的天才棋手柯潔與AlphaGo之間的圍棋對弈,被解讀為人機終極大戰,大陸社會各界對此高度關注。自從AlphaGo進入圍棋領域,一路闖關,攻破了被看作是人類智慧最後堡壘的圍棋。這次劃時代的對決,柯潔也是無可奈何,連番輸棋。那麼我們該如何看待這樣的比賽?人工智能的高度發展,對人類來說是福還是禍?

主持人:觀眾朋友好,歡迎收看《熱點互動》熱線直播節目。排名世界第一的天才棋手柯潔再次對奕AlphaGo,被人類稱為是人機終極大戰。我們知道,AlphaGo自從進入圍棋領域以來,一路過關斬將,戰勝了世界上許多圍棋高手。這一次柯潔代表人類再次挑戰AlphaGo,有人稱為是一場劃時代的對決,再過1小時,第三盤棋就要開始了。不管這盤棋的結果如何,其實有很多人並不看好這次比賽的結果,認為柯潔可能還會繼續輸棋。

我們應該如何看待這場比賽,人工智能的高度發展對人類來說到底是好事還是壞事?就這些相關話題,我們今天邀請兩位嘉賓分析和解讀,一位是紐約城市大學教授陳志飛先生,另外一位是哥倫比亞大學政治學博士李天笑博士,二位好。

李天笑、陳志飛:主持人好,大家好。

主持人:觀眾朋友,我們首先來看資料短片。

一邊是年僅19歲的中國棋手柯潔,過去2年排名世界圍棋第一。

另一邊,是谷歌人工智能AlphaGo。

人機對戰第一局,柯潔執黑子先行,雙方鏖戰了289手,柯潔最終以1/4子落敗。

一盤圍棋可能出現的局面多達10的170次方,比人類已知的全宇宙原子總數還要多。因此,圍棋一直被稱為人類智慧的堡壘。

2015年,科技界曾認為,電腦要想戰勝人類圍棋,還要再過100年。不過2016年3月,AlphaGo就以4:1戰勝韓國棋王李世乭;2017年1月,AlphaGo又化名Master,在網上對陣世界頂尖棋手,取得60連勝。

AlphaGo出「棋」不意,連出怪招,讓圍棋界感嘆人類棋手存在思維定式;而世界頂尖棋手接連敗陣,也讓香港冠軍棋手表示,這促使反思,圍棋的本質是否只是競技運動。

人工智能狂飆突進,也引發科技界關注。前谷歌大中華區總裁李開復預言,10年後,50%的人類工作將被人工智能取代,尤其是計算、統籌和識別圖像的相關工種最受衝擊。

著名科學家霍金也多次警告,如果任意發展人工智能,最終超級智能可能不遵循人類意願行事,毀滅人類文明。

主持人:觀眾朋友,您現在收看的是《熱點互動》節目,歡迎您在節目當中撥打我們的熱線電話參與討論。今天的話題是人機大戰、柯潔再次輸棋,人工智能高度發展對人類有什麼好處,有什麼壞處?節目一開始,先向天笑博士請教一個問題,柯潔和AlphaGo的這場對奕吸引了大陸很多媒體的目光,社會各個階層也有很多人關注,您覺得這樣一場人機大戰,人們的關注點在哪裡?

李天笑:關注點是跟不同的人群有關係,不同的人群有不同的關注點。這一次柯潔跟AlphaGo進行第二盤之後的新聞發布有兩撥人,第一撥是柯潔本人,另一撥是AlphaGo的主導者哈薩比斯(Demis Hassabis)還有就是他的技術人員。他們講的基本上是隔行話,柯潔講的是在圍棋當中的技術問題,戰略技巧、輸贏等問題;AlphaGo的兩位代表講的是挑戰,用柯潔來逼AlphaGo出現一些問題,然後他們繼續改進,在意料或其它方面繼續可以做其它事情。但是AlphaGo在圍棋上也要表現出完美無缺。

所以這兩部分人,第一部分人是圍棋愛好者和圍棋高手,畢竟圍棋是中國傳統文化很主要的一方面,琴棋書畫。據說堯帝開始就傳出來了,而且在中國老百姓當中也很流行特別是知識分子。我們原來在大學的時候下圍棋非常普遍,都是很早就下圍棋,在高手當中也是這樣。

他們想得到驗證。原來李世乭是世界頂尖高手,但不是第一名、最好的第一高手;這一次的柯潔是第一高手,想測試他一下。雖然AlphaGo掃遍世界無敵手,基本上現在它只輸了一盤;柯潔作為世界上最好的圍棋手,也是人類現在最拔尖的第一號種子,能不能打過它,或者差距有多大?正在驗證,大家都要看。

還有一方面是對於廣大的民眾,還有科研。研究人工智能、計算機、生物學、仿生學和其它各方面學科的正在考慮一個問題,在AlphaGo跟柯潔的對戰中所代表的人工智能和人類智能(不是人類智慧)之間,到底人工智能有多大勝率。其實現在看來柯潔是沒有什麼勝率的,基本上是完敗,都是完敗。為什麼?因為AlphaGo有三個特點,第一,它是大量的棋譜,成千上萬的棋譜輸進去,是知識數據的積累;第二,它有深度學習能力,會根據現場動態地學習對手所使用的方法,然後把它作為自己的戰略;第三,它有決策能力,每一招棋它能得出最優、勝率最大但不一定是最好的棋,但是保證肯定要贏。

在這種情況下它每一招都是最好的。柯潔在前50手和前100手曾經有過可以跟AlphaGo並駕齊驅的完美狀態,但是他不能保證100%每一步都達到這種狀態,因此他只要有一步輸,全盤皆輸,所以他勝率是很少的,基本上就是輸,在這一方面人工智能被認為是占優勢地位,但是跟人類的智慧不一樣。圍棋代表的是神傳文化的一部分,需要有智慧,人有神性的一方面,或者說修煉人所具有的特質等方面,人工智能是沒有辦法比擬的。中國古代是以修煉人的文化傳下來的,這一方面它是沒辦法戰勝的。

主持人:陳教授,人們都在關注柯潔是不是能贏一盤,現在兩盤已經過去了,過一會兒要開始第三盤。相對於中國大陸的高度關注,國外的一些媒體並不像大陸那樣過分關注,顯得比較平靜一些,您覺得這種現象是怎麼一回事?

陳志飛:所謂「人機大戰」,在國外可能早已經成為大家普遍關注的話題,甚至遠在1997年,類似比賽已經舉行,當時代表科技的不是現在如日中天的Google,而是當時不可一世的國際商業機器公司(IBM),對手的對方不是剛才短片中提到的「人類智慧最後堡壘」的圍棋,而是在西方最普及的國際象棋,對手是當時排名最高的俄國選手卡斯帕羅夫,那部機器是IBM發明的「深藍」(Deep Blue)──因為IBM的標緻是「藍」──也戰勝了卡斯帕羅夫,已經引起震驚。西方科技普遍比咱們中國要先進,他們一直在探討這部機器到底能走多遠。

記得改革開放剛開始,那時我還小,中國大陸剛進來一部美國電影《未來世界》,我沒有看,為什麼?我不敢看。因為聽人說看了以後到街上都很懷疑那個人是真人還是機器人,裡面出現了很多很可怕的鏡頭。更別說好萊塢有很多電影描寫機器人,最後用人工智能的方式反過來遏制人。這些都是西方普遍關注的話題。但是另一方面,剛才短片中也提到,現在的科技泰斗霍金、工業巨擘比爾‧蓋茨都對人工智能的發展空間、速度表示震驚。因為不光是發展的程度,就從發展的速度來講,柯潔說,他覺得去年跟李世乭對決的AlphaGo還是個「人」,還可以感覺到跟人在對決;今天已經是神,他已經是完全匍伏在這部機器之下臣服的子民。

我覺得這對人來說是最可怕的,西方已經感到了,可能他們之所以沒有像中國那麼嘩然,是因為這個問題他們已經考慮很長時間了,已經出動了各種政策,比如政府和民間。民間有剛才咱們談到的企業聯合,怎麼遏止人工智能發展的形式,幾位名人也發表了演講,科學界有所謂「將來生命的研究團體」,來看待人工智能究竟對人類發展能起到什麼作用,也就是我們今天的話題。

李天笑:我簡單補充幾句,他講得很全面。首先是東、西方文化的特點和側重點不同。圍棋發源於中國,在日本、韓國和東亞地區比較流行,比較關注這個事情,圍棋在中國大陸很普遍,而且比賽項目也是最多的,所以媒體比較關注;圍棋對於西方來說,幾乎你到馬路上問美國人,他們都不知道什麼叫圍棋,這一點是很大的不同。

再有一點,谷歌原來被中共江派排除出去,這一次谷歌組織這件事情,它又回來了,所以大家比較關注這項圍棋比賽的背後谷歌起到的作用,在中國大陸將來有什麼樣的發展前途等;當然跟人工智能也有關。還跟習近平本人有關,他跟聶衛平關係比較好,他本身有兩項愛好,一項是圍棋,再就是足球;圍棋是他本人比較愛好的活動,可能也是得到他某種程度的讚許或者至少是認可。

主持人:現在已經有觀眾朋友在線上等待,我們來接聽加州丁先生的電話,丁先生您好。

加州丁先生:李沐陽博士好,陳志飛博士好,很久沒看到你久違了,還有李天笑博士好。大陸這位棋手代表中共出來的,他這個一定是造假的,而且是耍陰險,因為人腦可以造假,可以耍陰險,電腦是按照科學理論排的,它絕對不會造假、不會耍陰險。兩三年前,南韓大韓民國自由世界選手,他就比較好,造假比較少,耍陰險比較少,他還贏了一盤,贏了一盤或兩盤我忘記了。柯潔,因為你沒有懷好心眼去跟人家比賽,不管是電腦還是人腦,你不安好心眼不會有好報,一定輸棋的嘛!

主持人:謝謝丁先生。李博士,再有一個問題請教您。AlphaGo自從進入圍棋領域以來,目前只有韓國的棋手李世乭,剛才我們短片裡已經介紹了,只有他贏過一盤棋,其他所有的棋手全都輸棋,是不是AlphaGo人工智能已經優於現代人類的表現?

李天笑:人工智能確實在某些領域比人類的智能要高出一籌。因為它計算能力特別強,人的計算能力跟電腦計算能力不能比,而且圍棋有一個特點,變化莫測,據說是非常多的,人腦根本算不過來。現在只做定式,有人下過以後它知道怎麼做,從這個角度去推。所以在這方面我覺得人工智能是有它的優勢,單方面領域也有它的優勢。

李世乭贏的這一盤是第78手,叫「神來之手」,大家都公認是神來之手。為什麼?因為沒有一種圍棋技巧、能力或者競賽的動力使他能產生神來一手,他完全改變了這一手,就到目前為止,贏了AlphaGo這一手的就是神來之手,這神來之手怎麼來的?他放下了他的包袱。他開始的時候很緊張,就是要贏。

圍棋在中國的傳統文化當中,本來是放棄輸贏、修身養性,實現道家或者佛家的隨其自然,看那老道、和尚在樹下下棋悠悠自得,根本沒有包袱。

當他達到那種境界的時候他就能贏,所以他確實是神來之手。西方就講布藍尼悖論(The brainiac paradox),什麼是布藍尼悖論?編程的人都知道,有時候編編編,突然之間來的程式並不是知識範圍內的,就感到是外來的,給了你這種智慧。換句話說,人的思考能力不單是在腦細胞這一層,可能還有其它空間給的力量、智慧,這就叫布藍尼悖論。

布藍尼悖論就是說,有些你知道的事情可能不是來自於現存的這個空間;是來自於另外的深層空間的,在李世乭贏的這一局裡邊,我覺得就得到了一定的體現。

主持人:陳教授,您怎麼看這個事?

陳志飛:我覺得剛才已經談到了一些,我再展開來講一講。我們私下也談到,人工智能有強弱之分,人工智能怎麼以強弱來判斷呢?這是很難說的。比如說,如果能穿越時空回到1970年代,你用衛星導航器(GPS)人家覺得不可思議,是神來的東西,可是現在GPS每隻手機上都有,那在1970年代GPS算不算是人工智能呢?也算人工智能。現在我們如果談到人工智能,只能是無人駕駛汽車之類,特別能超乎人想像的東西。

所以人工智能給我的感覺,第一印象就是它的發展速度太快,按照這個速度,就像霍金說的那樣,單純從計算能力來看,它是能超過人類的,西方現在普遍認識到它對人類最大的威脅就是將來的就業,短片中也提到,將來有50%的人要失業,這將是非常大的影響。IT行業的人是不是可以高枕無憂呢?因為他們本來就在從事人工智能,可是想沒想到,從事IT行業、人工智能做得越辛苦、越卓越,丟掉工作的可能性就會越大、越早。為什麼呢?因為現在已經開發出人工智能的軟件可以自己編軟件,編得比人還快、還好,人編軟件可能還會出錯,還要反覆去查有沒有病毒、有沒有什麼錯誤的地方。

從圍棋比賽來看,AlphaGo是冷面殺手,它根本就是冷面無情,不會犯錯誤。如果從雇主的角度來看,他選一個會編軟件的軟件,還是選一個會編軟件的人?他肯定還是會選一個超級會編軟件的軟件。當然我覺得這是一個匪夷所思的想法,但是機器能戰勝圍棋高手,在短短5年前也是一個匪夷所思的想法。

李天笑:我插一句,我是文理兩科交叉的。到現在為止,還沒有發明一種能夠編程的機器人,是沒有的;只是將來的意想或者計畫,現在沒有的。如果像霍金或者有些人講的,人工智能可能失控或者成為人類的威脅,我從編程角度來講,我可以植入一個軟件,將來當這個機器人的智能達到一定指標的時候,我讓它回去,回到零,迴轉,這是完全可能。這是一種內在的原因;外在的原因,所有的機器人都需要電源,都需要有電或某種能量的供應,如果把能量控制住,這個都沒了。

還有第三個最關鍵的,就是控制在什麼人手裡面,好人或壞人,要落到ISIS恐怖分子手裡,那當然這種技術發展就變成了殺人武器。

陳志飛:我接著你這個話題講。其實最根本對人工智能比較反駁的意見,其一是它帶來的公害,比如說,現在有無人駕駛汽車,怎麼避險是第一大難題;第二大難題就是跟李博士說的有關係,但是我是持相反意見,就是會有機器人戰士,以後打仗用機器人了,那完全就是違背了你說的。機器人打仗,它肯定要自己編程、自己採取行動,因為人在遠方是不能像宋朝那樣控制它的,說,機器人,你現在跑到左邊100米、跑到右邊100米;它是要根據戰場的情況來進行作戰的。這種情況下,它肯定是根據當時的地形、地情適時編程,自我調整的。

所以李博士,從我的角度來看,我覺得現在的發展已經超越那個階段,但是我同意你第三點,就是無情的人工智能的確對人類帶來危害,我甚至可以講,因為我同意霍金的講法,實際上是無可想像的。人畢竟是有感情的,人會犯錯,上回柯潔他說他可以贏,當他高興覺得快要贏了,他就不能自禁所以輸掉了。

主持人:心態有了變化。

陳志飛:這其實還是好事,就像人想殺人的時候,到最後關鍵時刻他覺得下不了手,可是機器可不管,想殺殺你,該殺就殺了,我覺得還是有根本區別,它是一個沒有人性的「人」。如果一個沒有人性的「人」現在被柯潔認為是他的上帝,因為AlphaGo已經被譽為圍棋上帝,將來就是機器變成了人,人變成機器,我們願意嗎?我覺得這一點是值得考慮的問題。

李天笑:我覺得人的道德因素,控制機器人的道德因素是最根本的關鍵因素。我記得有一期節目提到為什麼不讓朝鮮擁有核子武器,而美國等西方國家擁有核武器?有位嘉賓從歷史的背景、條約角度解釋半天。但是最根本的原因,很簡單嘛,恐怖分子不能夠擁有大規模殺傷武器、不能夠擁有原子彈,但是美國就可以有;警察可以擁有武器,但是罪犯就不可以有,ISIS不可以有殺傷武器,但是美國就可以有。這很簡單的道理。

換句話說,為了仁義正義事業、為了民眾的利益、為了民眾的生命安全,從道德的高度是可以掌握武器的,目的是對付邪惡分子,這是可以的。但是邪惡分子是絕對不可以擁有這種武器,因為他道德敗壞,所以不能讓他有。

主持人:我們線上又有一位觀眾朋友,紐約的王先生。王先生您好!

紐約王先生:您好!各位嘉賓好!我有一個提醒,如果兩台機器人同樣的程序、同樣的級別對壘的話會怎麼樣?

主持人:您的意思大概理解了。就是說,兩台機器同樣的程序、同樣的級別,它們如果對奕的話會有什麼樣的結果?這是一個比較有意思的話題。另外一個話題,陳先生,現在看人類的社會,各個角落幾乎是有很多的人工智能,就像剛才您提到的,汽車的導航、無人駕駛等,在一定程度來說,好像是繁榮了人類社會,推動了人類社會的發展。像這種情況,您覺得這種人工智能到底對人類是好事還是壞事?

陳志飛:其實這是個最大的問題。因為好像我們在談人工智能,真的是把人的計算能力做為唯一衡量人類智慧的標準。按照這樣的說法,李白肯定就不是偉大的詩人,因為他絕對不合格;達‧芬奇是不是偉人也難說了,但他們確實是我們人中的楷模、人中的俊傑。計算能力只代表人類智慧的一方面,而自古至今,尤其到我們中國文化傳統當中,有「雕蟲小技」之說,從來都是提倡人的本性,崇尚君子之風,提倡道德楷模,這個從機器身上根本看不到,它是冰冷的鋼鐵,或者雜亂的一堆電線,還有一些二進制編碼。

所以我感覺最根本的問題不在於機器運算多少,而是機器多大程度代表我們人的本身。從遠古到現在,從剛開始我們坐在牛車上,其實人類最大的發明有一項是被大家忽略的,就是車轂轤的發明。車轂轤發明以後,使人類走路、還有交通便利了很多,人就會想像將來會由馬來拉車,甚至最後有了蒸氣車、汽油車,再有現在的飛機。所以人從便利當中看到機器人給人們帶來的這一切好處,可是其中都帶著一個根本的假設:我永遠是主人,它是我的工具。

可是從現在的人機大戰來看,要被掉了個;機器可能要做主人。柯潔已經匍伏於機器人對手之下,認它為師。這個我覺得顛覆了人性,最終能到什麼程度,這就要提到人在繁榮自己的同時、獲得很多享受的同時也丟掉了自己的本性,可能會不知不覺中被機器代替,我覺得這是絕對不允許發生的。

李天笑:我覺得這個問題應該這麼看,現代科技和人工智能已經發展到這個階段,人類不可能再倒回去了,這就要看它是為人類造福還是為人類造禍?要看掌握在誰的手裡!如果引導得好,比方用到發展民眾事業、醫療、無人駕駛飛機或者無人駕駛汽車,這些都是所謂「弱人工智慧」工具,都是可以做的,只要在道德的基礎上去掌握它。

還有一種,要掌握人工智能能夠真正不落在壞人手裡,不落到恐怖分子手裡邊,不落到專制政權手裡邊。這樣,我覺得這個事情就不會變成壞事。要看用在什麼地方。

陳志飛:我想要補充一下,最關鍵的一點我剛才沒說完,就在於怎麼來評判人類文明所能達到的最大高度。文明怎麼來解釋呢?古代有一些如《荷馬史詩》等重要文學作品,與我們現在沒法複製的交響樂,現在誰能吹牛他能作出像貝多芬、巴赫、布魯克納等偉大的樂章呢?沒有人。這是一二百年前的事情。有誰能畫出像達‧芬奇、拉斐爾的芎頂畫和巨大的壁畫呢?沒有。可是那是人類的傑作,機器達不到。李白的詩,那機器能寫嗎?

如果我們推崇的是現代機器帶來所謂的繁榮,所謂帶來物質的享受,那麼我們會被領向死胡同,就帶來人類精神文明的衰竭或者乾枯,可是另外一方面,重歸拾回人類的本性,比如對神的敬仰,對精神的追求,那麼現在人機大戰就不值一提。如果這事發生在唐朝,在古人眼裡是雕蟲小技而已,不是機器贏了就迎它來朝廷做大臣。古代從來也沒有這樣的事情。圍棋選手就像天笑說的,悠然自來,在松下學藝而已,頂多有陳搏老祖贏了華山之說。沒有把陳搏請回去做大臣之說吧?!所以人的智慧、運算能力和人機大戰的結果是完全不同的兩回事。這是我要表白的。

李天笑:我非常贊成陳教授的說法,人腦90%沒有開發出來,如果開發出來還有更大的潛能。為什麼?因為還有人的道德、對社會的責任等,這一方面我覺得是要大於人工智能的作用。如果在道德上能夠提升,人的智慧,不單是智能(智能只是智慧的一部分),會更加充分展現出來,對社會將有進一步的推動作用。

主持人:非常感謝兩位嘉賓的精采分析,不一樣的觀點帶給我們全新的思考。感謝觀眾朋友們的收看和參與,今天的節目就到這裡結束,觀眾朋友再會!

相關文章
評論