【新聞大家談】專家杜奕瑾:中美AI較量

Facebook

【新唐人北京時間2023年05月26日訊】扶搖:大家好,歡迎收看週五(5月26日)的《新聞大家談》。本期節目,我們對話杜奕瑾。

今日焦點:人工智能專家杜奕瑾:中美AI較量,大政府VS大科企;某政府散布虛假信息,數量排行10年第一;AI武器對付人類,會發生。

杜奕瑾,台灣BBS站批踢踢(PTT)創站站長、台灣AI實驗室創始人,台灣人工智能發展基金會董事長,曾任微軟公司人工智能(AI)部門亞太區研究總監。

在AI爆炸性發展的當下,作為行業專家,杜奕瑾如何看待美中在這一領域的激烈競賽?AI生成海量虛假信息;AI也步入現代戰場,徹底改變戰爭性質。對於這些問題,他又有何見解?

【發展AI 美中不路線大不同】

發展AI,美中路線有何不同?

杜奕瑾:因為我之前是在微軟做人工智能的研發,我們也有從Microsoft相關的技術轉到中國。所以其實我們可以看得到,兩邊的話,美國這邊比較屬於big tech模式,就是大科技公司,因為要獲利的這種角度,或者讓我們去做未來前瞻性的研發。

如果說在中國的話,其實它比較是從國家的角度,它比較統籌去連接中國的大科技公司去做,傾全國之力去做人工智能研發。

你可以看到美國就會比較多這種民生各種的、各式各樣的應用。那在中國其實最大的客戶,我們在講說智慧城市的話,其實它最大的客戶可能就是國家。

中共2017年發布的《新一代人工智能發展規劃》,要求到2030年,中國成為世界「主要」人工智能創新中心。中共工業和信息化部今年初強調,發展 AI 和其它新興產業是 2023 年的重點工作。舉國體制,對AI發展有何利弊?

杜奕瑾:我覺得,如果說政策只有bottom up(自下而上)和top down(自上而下)來講,bottom up就是民間自發去訂定的人工智慧發展,美國這邊是比較強大。但是top down就是由國家訂定策略讓大家一起來align,共同去執行的話,中國這邊是相當地強大。

也就是說你可以看得到,只要在美國這邊做到了怎麼樣的人工智慧的突破,其實中國這邊就會對標,然後做更好的突破。所以其實人工智慧透過top down的這種模式,也不得不讓西方國家或者民主國家去思考。就是說它絕對不是只有靠民間企業可以做得到的,國家也要有合縱連橫的方式,才可以讓這個國家的人工智慧的發展更有效率,而且更能夠增加一個國家的國力。

當然當你這個策略是top down,而且沒有任何像民主國家有監督機制去做制衡的話,它做出來的人工智慧的solution(產品)跟應用,就會比較傾向於純粹為國家發展,而比較不是為民間或是個人企業的發展。

【AI競賽 美國需擔心被中共趕超嗎?】

「日本經濟新聞」與荷蘭學術出版公司 Elsevier 的研究指,中國在人工智能方面的學術論文,質和量都已經超越美國。這個指標能說明問題嗎?

杜奕瑾:我想,其實因為我曾經在這兩個團隊都待過,我想這兩個團隊側重的地方是不一樣。比如說像中國團隊,只要你可以定成KPI(關鍵績效指標)的基本上都是可以超英趕美,那個是很自然會看得到的。

但是也有很多東西,就像我們在學生時代,成績好並不代表就全部最優秀。成績好是有一個代表性的,但是在美國這邊,你就是可以感覺到他們就是不會特別去重視這個KPI,但是它是會比較有多種的、不一樣的發展,那些不見得是可以反映在平常的論文指標上面。

我覺得以我過去的經驗,如果說在美國這邊,比較長的優勢應該是這邊的culture (文化),會比較多元,會比較有創新跟創造力。反過來在中國,其實中國在每個指標它是很努力的,都是會beat美國。但是,其實你在比較新的議題的發掘、新的議題發展的話,其實美國這邊是發展比較多元,而且比較迅速的。

所以美國不需要擔心AI水平被中國超越?

杜奕瑾:我其實在這段時間跟美國相關的人探討過,我是覺得好像這邊的人都很擔心。從我的角度,人工智慧本來就是未來發展的趨勢嘛,其實美國一樣還是有非常多的利基。

比如說,全世界最主要的人工智慧預算的晶片算力,以及最有影響力的演算法,其實目前主流都還是在美國這邊。比如說像雲端平台的,世界的主流也還是在美國這邊,所以其實美國自己本身是有非常多的優勢。

中國當然有它的優勢,它因為是從上而下的這種策略,所以它反應速度很快。另外來講,中國也有非常多好的talent(人才),所以它相對來講人才是不缺乏的。可能思考思路跟多元性,美國這邊又是比中國更具優勢。

所以,我覺得以各種角度縱觀來看,應該會有兩個人工智慧的勢力發生,就是看你要加入哪個陣營。

4月11日,中共網信辦發布《生成式人工智能服務管理辦法(徵求意見稿)》。其中第4條規定:AI機器人生成的內容要「體現社會主義核心價值觀」,不能「顛覆國家政權、推翻社會主義制度」等。

杜奕瑾:其實這個就是剛才講到的,當我們在做人工智慧的立法,你是以人為本體,還是你以國家為本體?

其實這個就是民主國家跟比較⋯⋯國家為主的不同。我相信在民主國家的話,我們會比較從數位人權的基本價值去做相關的法規立法。那以國家做立法其實是比較簡單,但是相較來講,人的權利就會小了一點。這是我們可以看得到。

杜奕瑾:另外來講,人工智慧其實不管是民間發起,像美國big tech(大科企)或者是中國的big government(大政府)這種模式。最後,還是會面臨到一個問題,就是這是服務於人,還是它會侵害到人。

【政治與利益勾結 AI成虛假信息溫床】

扶搖:與此同時,AI的快速生成論文、繪圖、聲音及編寫程式等能力,使它成為海量虛假信息的製造者,令許多企業和政府擔憂。

杜奕瑾:我想其實現在人工智慧運用在虛假信息宣傳,就是在生成式科技,一定是有很多新的樣貌。它只要有人,有經濟上面的誘因,它就可以藉由操縱社交媒體,去發動這種所謂的認知操作。

認知操作,我們在人工智慧實驗室是有看到,有一些集團式的力量,是在操作民主國家的選舉。尤其是像在烏俄戰爭,其實我們也有發現像俄羅斯的集團式的帳號在推特上面,只要你講到跟烏克蘭有關的,大概有10%的是跟我們叫「協同式行為」有關的。也就是說它看起來是被操作的,這個帳號。

那在台灣來講,台灣因為在過去10年來我們也有發現,我們在虛假訊息以及認知操作的部分,它有一個指標叫foreign government distribution of false information(外國政府散布虛假信息),一直都是冠軍。我們台灣因為是言論自由,另外一方面我們也是經濟自由,所以其實相關的言論操作或者是認知操作,在台灣第一個是比較沒有懲罰,另外一個就是比較容易操作。

所以我們也有觀察到,比如說在Covid-19 肺炎時期,全世界有很多有關肺炎跟疫苗的虛假消息,都是先在台灣操作成功之後,那你就可以看到,全世界會有repeat(重複)的事情發生。

我想會有這個操作,一方面就是因為操作本身是有利可圖的,有公關公司接受這個。以前我們把這個叫做精準行銷,那你拿來做政治公關就變成認知操作。因為精準行銷是非常有效的,所以你利用社交媒體去做認知操作,它當然也是會非常有效。

是否有應對方式?

以台灣來講的話,過去可能會比較從事實查核的方式來做,然後有民間力量去做視察,之外去做一些機制去反制。但其實像現在的操作,都是已經升級到通常沒有所謂的事實,而是不對稱的訊息,就會造成你認知產品的差異。

所以像這個部分,以台灣的工作形式來講的話,我們就是提供公開跟開放的方式,知道這個訊息是怎麼樣去被放大的,這個訊息是怎麼樣透過不正常的方式去做我們稱作「協同行為」,利用公關帳號,或者是說協同帳號,在網絡上去做訊息的傳遞。

【AI加入現代戰爭 網絡安全、情報成關鍵】

扶搖:除了在虛擬世界製造信息混亂,AI的殺傷力,已經進入真實戰場。

美國參謀長聯席會議主席、陸軍上將米利(Mark Milley)3月底說,如果把AI和機器人技術和精準制導武器等因素結合起來,人類「戰爭的性質將發生根本性的變化」,而且這個變化正在進行中。

他說,這意味著美國需要在「5到7年內對軍隊進行根本性的改革」,因為美國的對手也試圖進行類似的機器人和AI部署。而且他明確提到中共時說,中共「更傾向於放手讓AI自主行事,即使它們會不小心殺害自己人。」

對於AI參與實戰,杜奕瑾如何看?

杜奕瑾:其實我們這次在看烏俄戰爭,就已經有非常多無人載具去輔助攻擊。所以人工智慧運用在戰場上,我們已經看到。就是說不用擔心會不會發生,是已經發生了。

那以後會不會運用得更多?因為它是非常有效的,所以一定會更多地來應用。這就是水可以載舟,亦可以覆舟。你可以讓它來輔助你,但是你也可以讓它來go against human(對付人類),這個是絕對會發生的。

另外來講,我想其實美國應該也不是現在才發現人工智慧在國防跟國安上面是有用的,而是以現在的modern war(現代戰爭)來講,你可以看烏俄戰爭,它是先把網路中斷了,然後再用衛星通訊,然後其實還有相關的資安認知安全。你可以看到,真正實體軍隊、無人機開始攻擊,那個都是已經在後面,所以它前面有很多波的攻擊。你要先把一個智慧的中樞先癱瘓掉之後,你再去做後面的攻擊。

所以其實相對來講,我們從烏俄戰爭的觀察可以知道,未來其實怎麼去守護好cyber security(網絡安全)跟cyber intelligence(網絡情報)這一塊是越來越重要。

【AI的便利與攻擊】

對AI發展的展望

杜奕瑾:我覺得在接下來這幾年,我們可以看到很多事情,過去我們人會做的事情,人工智慧都會很大(程度)地可以幫你把它做好,這是肯定的。就像現在很多人寫文書,一定會用ChatGPT,畫畫會用Midjourney,StabelDiffusion。像我們AI Lab也有做音樂創作,就是音樂藝人唱歌,其實我們現在也可以用人工智慧做到專業藝人等級的這種歌聲。

所以在不管是文化創作到科技發展,到藝術相關的,到我們內容生成,大家會感受到它的便利性。

但是另外一個方面,它的問題也會來。當我們把這些便利作為攻擊性的話,那其實人自己的基本人權跟人的隱私一樣會受到影響。

為什麼現在我們在開始,不管是台灣或是很多民主國家、歐盟,我們現在講科技倫理以及怎麼去保障數位人權或是人的基本隱私、價值。

歡迎訂閱【 新聞大家談 】YouTube 獨立頻道:https://www.youtube.com/@NTD-XWDJT

新唐人網站:https://www.ntdtv.com/

新唐人乾淨世界:https://www.ganjingworld.com/zh-TW/channel/uUaEX5vIKTh6l

新唐人YouTube:https://www.youtube.com/user/NTDCHINESE

大紀元新聞網:https://www.epochtimes.com/b5/nf1334917.htm

支持新唐人:https://www.ntdtv.com/gb/donation.html

新唐人大紀元《直播節目》製作組

(責任編輯:劉明湘)

 

相關文章