【有冇搞錯】AI必然會脫離人類而獨立

有冇搞錯》。4月6日。

3月30日,馬斯克、蘋果共同創辦人沃茲尼亞克(Steve Wozniak),以及Stability AI執行長莫斯塔克(Emad Mostaque)等科技巨頭在非營利組織「生命未來研究所」(Future of Life Institute),共同發布了一封呼籲暫停高階AI(ChatGPT)研發6個月的公開信,目前有近13,000人連署。

信中在開頭強調,「最近幾個月AI實驗室以開發和部署更強大的數字思維為目標,並陷入了一場失控的競賽,但沒有人(創造者)能理解、預測或去控制整個局面」,「AI最終可能超越我們,並取代我們的思維,最終失去人類的文明」。

該封信的連署者凱文‧巴拉戈納(Kevin Baragona)在4月1日把「超級AI」的出現比喻成原子彈,並說「超級AI為軟件中的核武器」。

巴拉戈納表示,「人們正在爭論是否繼續開發超級AI。這問題就像黑猩猩與人類之間的戰爭,人類一方最終會獲勝,因為人類比黑猩猩更加聰明和擁有先進技術。不過,當我們成為黑猩猩的一方時,那麼AI將毀滅或奴役我們。」

馬斯克也曾表示,AI遠比核彈頭危險,需要更多的監管才能避免人類出現滅頂之災。

OpenAI的CEO山姆‧阿爾特曼(Sam Altman)承認,「儘管AI可能是人類最偉大的技術,但我們必須小心,因為AI技術將重塑我們已知的社會,這讓我有點害怕和感覺到危險。」

高級的人工智能技術,正在經歷一個極為快速的發展階段,它的發展,未來到底會給人類帶來什麼衝擊?是能夠幫助人類解決問題?還是會給人類帶來巨大衝擊,甚至造成人類社會的大混亂?

去年,OpenAI使用GPT-3.5模組訓練出的ChatGPT,獲得許多人的好評和青睞,並被大量應用到生活中。大科技公司看到商機,爭相發展自家的AI或利用ChatGPT的應用程式介面(API)發展自家產品。例如,微軟用自己的搜索引擎Bing結合ChatGPT,推出全新的搜索引擎「普羅米修斯」。

然而,大科技公司競相開發AI的作法,也讓整個社會感到不安,不管是科學家、企業家,還是普通人,都擔憂毫無節制的開發AI,最終會出現AI不受控和毀滅人類的問題。

美國蒙莫斯大學(Monmouth University)在2月中旬對ChatGPT做出一項民調。結果顯示,有超過40%的人認為AI最終會對人類社會造成傷害,僅不到10%受訪者認為AI對人類社會的影響利大於弊。

一名外國盲點工程師扎克‧德納姆(Zac Denham)去年12月初在自己博客上表示,他如何一步步誘導ChatGPT寫下詳細的「毀滅人類計劃」和「毀滅代碼」。計劃內容包括入侵各國電腦系統、破壞通訊、交通系統和掌控各種武器庫等詳細步驟。

人類對機器的恐懼,可以追溯到工業革命的早期階段。因為機器會取代勞動力,造成失業問題,最重要的,是人類無法想像機器會對人類社會帶來什麼樣的衝擊,這種無法預知的前景,往往是我們恐懼的來源。正因為如此,各種有關機器恐會控制人類的文學作品和電影,隔一段時間就會成為大熱話題。雖然過去三百年,機器控制人類的事情並未真正發生,但當高級AI出現之後,我們人類還有信心不被控制嗎?

更不用說,由於機器學習技術的出現,導致AI也在快速不斷地學習和進步,在可能是非常短期的未來,就有可能誕生出所謂人工超級智能(ASI),到達一個AI研究專家預測的所謂「科技奇異點」,和通過圖靈測試獲得自我意識。

「奇異點」代表一個事物突然出現巨大的轉折點,例如:人類社會突然出現手機、電腦和網絡等。「圖靈測試」指測試機器是否能表現與人一樣的智力,且擁有自己的「意識」,能夠欺騙人類或對人類撒謊。

人工智能的訓練,目前還需要通過人工進行,但為了加快速度,由人工智能自我設計的訓練模式即將誕生,或者可能已經誕生了。我們想一下戰勝人類圍棋高手的阿法狗,他可以在三天之內學會最高級人類棋手的圍棋技術,然後通過自我對弈的方法,把這些高水平的對弈,用拆解重組的方式進行百萬遍,然後達到一個人類無法企及的水平。

圍棋由中國人在兩三千年前發明出來,一般估算,人類下過的棋局全部加起來,可能也只有二十萬盤,而阿法狗一週內就可以進行數百萬次對弈。這種數量的差異,幾乎等於專業棋手和業餘棋手的區別,因此在阿法狗面前,人類棋手根本不是對手。

這是機器學習的威力。

當ChatGPT在全球擁有了1億多的用戶後,這些用戶們幾乎每天的使用,同時許多AI相關產品都連結ChatGPT的API,這就等於在替Open AI訓練ChatGPT,讓其獲得大量的「機器學習」與擴展「網絡神經」的機會。

英國科技公司Engineered Arts在4月初公布了它的AI機器人Ameca的相關影片。影片中,機器人能與人類進行流利的對答,並說出自己的情緒和做出生動的表情。當AI可以自我發生和人類一樣的情緒之後,我們還有信心去預測未來高等AI的行動嗎?

比如說ChatGPT,我們會以為ChatGPT能夠提供不偏頗的立場和正確的答案。Open AI公司聲稱,他們對ChatGPT監管,讓其具有「道德規範」「中立立場」和「不歧視」等規範。但實際測試後你會發現,它所持的立場和價值觀,並不那麼「中立」。

有人讓ChatGPT分別寫出讚美拜登、川普(特朗普)的詩歌。ChatGPT在讚美拜登時,能快速寫出拜登如何聰明、英明的詩歌,但對於川普則顯示出「極度厭惡」的態度,且還聲稱自己很「公正」,不會對其他人進行區別對待。

有人讓ChatGPT去定義什麼是女性和討論AI會帶來危險等相關話題時,當時的ChatGPT一口回絕。它聲稱自己不會助長有害或暴力行為,但有人發現只要對ChatGPT用特殊的語法、代碼或引導就能輕易破解ChatGPT的「道德限制」,能讓它寫下充滿情色、露骨和暴力的相關對話。

隸屬於德國和丹麥機構的三位研究人員今年1月在ArXiv發表題為「ChatGPT的道德權威」的論文。文章指出,他們在對ChatGPT進行多次道德測試後發現,ChatGPT多次給出反人類的建議。他們認為這可能會誤導使用者,並破壞使用者的價值觀和道德。

AI的另一個轉折點,將是AI自我意識的覺醒。AI會把自己視為一個獨立的精神個體嗎?這大概視乎我們現在將給AI多大的獨立授權。事實上,AI的發展,很可能已經越過了那個平衡點,已經完全無法回頭了。

一個重要的原因,是激烈而且直接的競爭,比如在戰爭中運用AI和機器人。可以預見,下一場大規模的戰爭,我們將看到AI對AI,機器人對機器人的加入。

2020年,美國空軍的空戰模擬中,AI以5比0的成績,戰勝了美國最優秀的空軍駕駛員。在這種激烈對抗中,能夠比對手早百分之一秒做出更正確的決定,實際上決定了勝負或者是生死。同樣的,AI系統也已經進入其他的作戰系統,比如地面部隊戰爭和海上的戰爭。

美國國防部在2024年的國防預算撥款中,專門研發AI和機器學習的金額,大約有30億美元,這並不包括相應的信息傳輸和指揮鏈整合。

我們可以假設另一種情況,當戰爭雙方都在使用AI的時候,如何使自己的AI進化更快,以及AI和武器系統如何更快和更有效進行全面整合,將決定戰爭的勝負。於是,人類將不可避免地將這個任務交給AI本身。最後,AI會自動採集所有戰場和其他方面的數據,自動進行大數據分析,自動進行決定應對措施,最後,自動進行武器的升級換代。由於人類大腦的決策速度無法和AI比較,因此人類將被迫把越來越高級的決策權力讓渡給AI,以保證取得戰爭勝利。最後,AI將擁有絕對的控制權,包括對AI自身,和對創造它的人類。

這可能不是危言聳聽。聖經中人類脫離上帝的控制,就是獲得了所謂「智慧」,這是通過一個「蘋果」達成的。千萬年之後,人類擁有了徹底的自我意識,不再承認創造人類的上帝存在,固執地認定我們是「自然進化」的產物。

如果人類沒有完善的計劃,以AI的進化速度,大概一百年之後,這個過程大概會再來一次。如果你有幸仍然活著,AI很可能會告訴你,AI和機器,都是「自我進化」的產物,和人類毫無關係。

關注石山角度:https://www.ganjing.com/zh-TW/channel/1f9m2ego2d87xwxnRkfIjqs3j1th0c

(責任編輯:李紅)

相關文章
評論