科研突破

AI飛速發展,我們是否應該嘗試放慢腳步?

By: 陳志武
AI飛速發展,我們是否應該嘗試放慢腳步?

陳志武教授現為香港大學經管學院金融學講座教授及鄭裕彤基金教授(金融學),量化歷史研究中心主任,兼任香港人文社會研究所所長及香港大學校務委員會委員。

一年前,我測試了特斯拉的自動駕駛系統。一趟行程中,車輛犯了兩個嚴重錯誤:一次是闖紅燈後駛入對向車道,另一次是在距離目的地還有兩條街時,自行轉入一座教堂的停車場。今年,我用了六個星期,每天使用同一套系統駕駛,沒有出現過一次失誤。

這就是AI前進的速度。大型語言模型正在編寫代碼、管理研究、運營企業。我一位以前的學生在三月創辦了一家AI公司,四月估值達到1.3億美元,六月已達5億美元。從事金融研究數十年,我從未見過如此之快的財富創造速度。

然而,這種非凡的生產力並未被平等分享。AI讓個人的生產力大幅提升,但它同時也讓一些人失業——而失業者願意接受更低的工資,這反過來拉低了仍在職者的薪酬水平。中國頂尖的AI人才年薪可達一億元人民幣,但北大、清華的碩士畢業生月收入可能不到一萬元。歷史證據告訴我們,這並非異常現象。和平時期的每一次重大技術革命,都擴大了能駕馭技術的人與無法駕馭技術的人之間的差距。

那麼,我們是否應該放慢腳步?

有人說是的。一位前OpenAI研究員辭職後公開警告,如果開發不加制約地繼續下去,AI在十年內毀滅人類的概率可能超過10%。這是一個戲劇性的判斷,也確實引起了廣泛關注。

我不贊同這個觀點。

並非因為我認為AI是無害的。而是因為「AI必然會失控」這一論點,未能考慮到文明史反覆證明的一個事實:當一項技術強大到足以威脅社會時,社會就會作出回應。

回顧軸心時代。當煉鐵技術在古代中國普及時,它不僅改良了農具,更讓暴力變得民主化。與青銅不同,青銅需要稀有的錫,只能由中央集權的力量生產;而鐵礦石豐富且分布廣泛。突然之間,致命武器遍地皆是。結果便是長達數個世紀的戰爭——春秋和戰國時期。

但那也正是孔子、孟子、墨子、老子等思想家湧現的時代。他們只是恰好在對的時間出現的曠世天才嗎?我不這麼認為。他們是在回應一場危機。鐵製武器對社會秩序構成了根本性的生存威脅,而這些思想家建構了哲學和倫理框架——等級關係、禮儀規範、道德準則——使中國社會得以存續和穩定。

孔子的社會角色體系,後來通過朱熹的《家禮》等著作落實到具體操作層面,其功能相當於我們今天所說的「社會操作系統」。這套系統延續了兩千多年,正是因為在此期間沒有出現根本性的新型顛覆性技術。

核武器提供了一個更近的類比。原子彈過去有、現在仍然有將人類毀滅數十遍的能力。但這一切並未發生。不是因為這項技術是溫和的,而是因為人類以有序、文明的方式生存下去的願望,最終比我們創造的任何工具都更為強大。

AI將遵循同樣的邏輯。這項技術是強大的。如果完全不加制約,工程師和科學家確實可以製造出具有自主複製和獨立行動能力的系統。這一趨勢已經初現端倪。但我毫不懷疑,人類社會將會作出回應——一如既往。

一個核心原則已經從部分地區政策制定者的討論中浮現:每一個AI系統、每一個機器人,都必須有一個人類所有者——一個為該機器所做的一切承擔責任的自然人。機器目前沒有法律權利、沒有自由、沒有獨立的法律人格。只要這一原則成立,AI就無法超出人類的控制。

在中國,這場對話的面貌有所不同。人們忙於跟上AI的飛速發展,很少有人暫停下來思考這些根本性的治理問題。在西方,共識正在形成——緩慢地、不完美地,但正在形成。商業力量也在發揮作用:像DeepSeek這樣的開源模型,迫使閉源領先者放慢了步伐。

這一切都不意味着我們可以掉以輕心。那些警告發揮着健康的作用:它們營造出激發行動的危機感。沒有警報,就沒有討論。沒有討論,就沒有框架。沒有框架,技術就真的可能跑在我們管理能力的前面。

但我完全有信心——在人類事務中能有多大信心,我就有多大信心——人類終將建立起那個框架。我們在面對青銅時做到了。面對鐵器時做到了。面對核武器時做到了。面對AI,我們同樣會做到。

真正的問題不在於AI是否會毀滅我們,而在於我們是否有智慧建立與所創造之物相匹配的制度、法律和規範。歷史暗示我們會做到。但歷史也提醒我們,這一過程既非自動,也非無痛。它需要願意深思熟慮、果斷行動的人,有時也需要有人喊一聲「慢下來」——不是為了阻止進步,而是為了給文明追趕的時間。

相關主題

  • 評論