【菁英論壇】AI自主武器將現 人類面臨奇異點

Facebook

【新唐人北京時間2023年12月21日訊】人類創造了機器,但人類從創造機器的第一天就開始害怕和恐懼這個機器。當然最大的恐懼是機器越來越發達,會不會有一天反過來控制人類甚至奴役人類、屠殺人類呢?隨著西方世界的整個工業化進程,在人工智能AI越來越發達的今天,尤其是AI武器化的大國競爭之下,這種恐懼已經從原來的杞人憂天變得越來越現實,機器超越人類的這個奇異點是否即將到來?或者是否已經到來了呢?

 

四法則有邏輯陷阱 AI武器化逼近奇異點

獨立電視制片人李軍在新唐人《菁英論壇》節目中表示,談到AI的未來,我是非常悲觀的。我記得那時候有一部電影,就是《黑客帝國》,我看了不下十遍,因為這部電影引起了我對整個人類科技的一種反思。就是一開始總覺得科技發展是好事,但是如果按照《黑客帝國》電影所描述的場景, AI控制的智能機器和人類發生了戰爭,最後人類戰敗了,只有極少部分人逃到了地下城市錫安來維持人類的生存。而大部分人類成為AI創造的一個虛擬現實的電池。這部電影實際是講了一個邏輯,就是人類科學是在朝這個方向走,所以我當時看了之後非常震驚,因為我是個有神論者,我相信這是神對人的警告,警示人類,如果按照現在這種科技發展下去,有可能最後有一天人類真的會成為機器人的一塊電池。我相信在西方國家,很多人看了這個影片之後也有這種概念,所以今天大家會看到社會上有很多人是反對AI高速發展的。他們認為要去控制AI,要去規劃它、監管它。但是現在AI產業被認為是人類下一個最有前景的產業,當人的慾望被控制的時候,他那種理性的東西已經失控了,所以很多人已經在這個領域不斷去研究一些突破底線的東西。

今年後半年以來,中國兩個AI頂尖人物死了。一個是7月1號,中共AI軍事推演的頂尖專家馮旸赫突然出車禍死亡。現在到了年底了,中國商湯科技的創始人湯曉鷗12月15號在睡夢中離奇的去世了。湯曉鷗這個人很特別,他是中國人臉識別AI系統的一個頂尖人才,而且商湯科技還聚集了中國AI方面的大量人才,商湯科技是一個軍工複合體,湯曉鷗也是軍方的人。

大紀元資深編輯與主筆石山在《菁英論壇》表示,我們現在看到的這種AI,業界叫做ANI,中文翻譯過來叫弱AI或者弱的人工智能。也就是說人類指定一個任務,它可以比人類完成的好,人類不指定的任務,它是不會去自動拓展的。然後就是AGI就是Artificial General Intelligence,通用人工智能,就有點像是強AI了。強AI的意思就是說,你給它設定一個基本的東西,它就能跟人做的差不多了,它也可以自己學習收集資料,任何領域,你只要給它提一個問題,它自己去學習,就能跟你做的差不多了。現在的chatGPT就往這個方向在走。

但是未來還有一種AI,這是更恐懼的,叫做ASI,就是超級AI了,超級人工智能,它的定義是什麼呢?它可以自己設計它的底層邏輯,這個時候恐怕人類就控制不住了。所以我們在談AI到底能走到哪一步的時候,大家知道這三個階段,我們可能要談到是AGI和ASI這個部分,到了這個部分,我們還能不能控制機器?到底是誰在控制誰?

石山說,我記得上世紀五十年代的時候,美國非常有名的科普作家阿西莫夫在寫書的時候,他寫了機器人三法則。第一法則是機器人不得傷害人類或坐視人類受到傷害。第二法則是機器人必須服從人類的命令,除非命令與第一法則發生衝突。第三個法則是在不違背第一或第二法則之下,機器人可以保護自己。後來他發現這裡面還有漏洞,他又加了一個第零法則,所以就變成了阿西莫夫的四法則了,他加了個第零法則,機器人不得傷害整體人類,或坐視整體人類受到傷害,這個是第零法則。然後才是第一法則,除非違反第零法則,否則機器人不得傷害人類或坐視人類受的傷害。他把個體人類放在整體人類之下了,這個時候就發生變化了,你怎麼衡量整體人類受到傷害?如果AI判斷整體人類可能受到傷害,它就可以傷害個體人類了,這裡面的邏輯陷阱是越填反而越大了,所以這裡面就非常可怕。所以人工智能開發全人類一直都是小心翼翼,擔心會不會超越這個所謂的奇異點。

大紀元時報總編輯郭君在《菁英論壇》表示,馬斯克曾經談這個奇異點問題,他的第一個觀點就是,一旦人工智能用於軍事或者武器,就可能超越這個奇異點,因為武器的攻略是傷害人類。那現在人工智能的武器已經開始了,比如說無人的自動武器系統,不管是自動行走的,還是自動飛翔的,只要是自動武器系統,它都有一定的自主決定權,目的就是傷害人類。只不過所有人都希望它去傷害敵人,而不是傷害自己,但是敵人也是人類。所以目前人工智能武器還有一個就是限制,就是說最終決定權是由人來控制,但是這種控制未來是否能夠被舍棄掉,最後由機器人自己來決定呢?說實話這是很有可能的。

人類環節將移出AI系統 AI戰爭迫在眉睫

軍事頻道主持人夏洛山在《菁英論壇》表示,美國現在急於和中共建立軍事方面的溝通。

可能出於兩個原因,一個就是在印太地區的緊張對峙態勢下,不要發生擦槍走火。另外一個原因就是一個很緊急的問題了,就是人工智能的自主應用。在人工智能應用領域,美國實際上一直是領先的,但現在中共正在縮短這個差距。美國看到人工智能控制的循環系統中放置人類決策這個環節,這樣一個涉及人類安全的道德底線,現在實際上是岌岌可危了。因此它要建立一個全球認可的、一個有約束力的限制性條約,這就是美國希望跟中共來溝通來達成的一個東西。我們說這個環節是一個道德底線,因為它涉及到人類的安全問題,但是要堅守、要維持這條底線,那誰維持誰就要付出代價。因為人工智能的自主應用實際是太有用了,太誘人了,特別是在軍事上。我們知道戰爭的關鍵因素是速度或者說是時間,而人工智能可以在本質上提高這個速度,或者是縮短時間,如果在這樣一個環路上加入一個人,那麼就會大大降低這個系統的速度,因為人的認知和反應的速度遠遠趕不上機器。那麼也就是說,現在就是誰也不願意放棄在軍事鬥爭中的競爭優勢,去維護這麼一個道德底線。

這個境況就很可怕,如果競爭的雙方有一方在競爭中不講武德,偷偷的或者是無底線的使用人工智能,那麼這個堅守底線的一方不但會失去競爭優勢,而且你繼續堅持這個底線也變得毫無意義,因為對手的破防實際上就等於人類安全底線已經被打破了,你這一方就是維持也沒有意義了。那麼一旦人類從這個環路中撤出來,那麼人工智能威脅人類安全的這個奇異點也就到來了。

石山在《菁英論壇》表示,這個前景確實是非常可怕,而且關鍵的問題不是說這個事情會發現在未來十年二十年,關鍵的問題是就近在眼前,就是說武器系統的自我應用,AI的自主決策,現在其實已經開始了。比如我們舉個例子,以色列的那個鐵穹防御系統,它是一個防守系統,但是如果由人類來控制,你的速度根本就不可能完成任務,它必須由一個超級電腦來控制。它雖然只是一個防守系統,還不是一個進攻系統,但是這說明武器的人工智能自主運用已經可以做到,也就是說,下一場戰爭如果是一場大型的戰爭,很可能這個問題就突破了。因為只要有一個人用,大家就一起全都開始用。

面臨中共威脅 美國AI發展激進派得勢

石山在《菁英論壇》表示,最近我看了一篇文章,談到美國矽谷一些AI新創公司的這些人,他們非常抱美國國防部,說你們國防部整天說AI很重要,但是你們的重視都是表面的,實際上國防部的訂單給矽谷的很少。就是說美國軍方對AI的投入其實是非常不足的。

夏洛山在《菁英論壇》表示,美國實現在每年軍費預算要八千八百多億美元,遠遠超出中共三倍多。但是五角大樓就有人認為,很多錢花在了不重要的事情上,而有些極其重要的事情卻沒有得到應有的重視。2021年五角大樓的一個軟體開發負責人叫夏蘭(Nicolas Chaillan),他宣布辭職。他的理由就是無法忍受看到中共在人工智能領域超越美國,他的辭職是為了抗議美國軍隊技術轉型太慢。他認為中共在人工智能機器學習和網路能力這方面的進步,正在走向全球主導地位。他認為軟件實際上比硬件更重要,比一些先進的戰鬥機還要重要,他認為就是對人工智能倫理的這種廣泛的爭論,拖慢了美國的發展速度。而相比之下,中共卻在不顧道德的情況下,對人工智能進行大規模投資,那麼這種競爭的後果當然是可想而知了,美國就有可能被甩在後面。

最近五角大樓的風向可能有些改變。前不久空軍部長肯德爾(Frank Kendall)說,在人工智能參與的武器系統中,如果放入人類決策者這個環節,就會導致輸掉戰爭,因為在如此快速運轉的系統裡邊,人的干預與機器相比簡直太慢了,其結果將會導致有人系統的失敗。言外之意就是要想贏得戰爭,現在就是掙脫這個倫理束縛的時候了。像美國空軍部長這種能夠決定裝備發展的重量級人物,已經表達了這種觀點,他應該是代表了相當一部分五角大樓官員的想法。

夏洛山說,從道義上說,其實我們很佩服一些美國人對道德底線的一種堅守,但是如果以輸掉戰爭為代價的話,這種做法就有問題了。美國在印太戰略中的核心,也是美國的責任,就是維護基於規則的國際秩序,確保美國美國的盟友和夥伴不受侵略,並且在與對手的競爭中取勝,這是一個原則。如果放棄這個原則,去維護一個其它的東西,那麼會導致一個對美國非常不利的後果。

新唐人、大紀元推出的新檔電視節目《菁英論壇》,是立足于華人世界的高端電視論壇,該節目將彙集全球各界精英,聚焦熱點議題,剖析天下大勢,為觀眾提供有關社會時事和歷史真相的深度觀察。

本期《菁英論壇》全部內容,敬請線上收看。

《菁英論壇》製作組

(責任編輯:劉明湘)

 

相關文章