AI飞速发展,我们是否应该尝试放慢脚步?
陈志武教授现为香港大学经管学院金融学讲座教授及郑裕彤基金教授(金融学),量化历史研究中心主任,兼任香港人文社会研究所所长及香港大学校务委员会委员。
一年前,我测试了特斯拉的自动驾驶系统。一趟行程中,车辆犯了两个严重错误:一次是闯红灯后驶入对向车道,另一次是在距离目的地还有两条街时,自行转入一座教堂的停车场。今年,我用了六个星期,每天使用同一套系统驾驶,没有出现过一次失误。
这就是AI前进的速度。大型语言模型正在编写代码、管理研究、运营企业。我一位以前的学生在三月创办了一家AI公司,四月估值达到1.3亿美元,六月已达5亿美元。从事金融研究数十年,我从未见过如此之快的财富创造速度。
然而,这种非凡的生产力并未被平等分享。AI让个人的生产力大幅提升,但它同时也让一些人失业——而失业者愿意接受更低的工资,这反过来拉低了仍在职者的薪酬水平。中国顶尖的AI人才年薪可达一亿元人民币,但北大、清华的硕士毕业生月收入可能不到一万元。历史证据告诉我们,这并非异常现象。和平时期的每一次重大技术革命,都扩大了能驾驭技术的人与无法驾驭技术的人之间的差距。
那么,我们是否应该放慢脚步?
有人说是的。一位前OpenAI研究员辞职后公开警告,如果开发不加制约地继续下去,AI在十年内毁灭人类的概率可能超过10%。这是一个戏剧性的判断,也确实引起了广泛关注。
我不赞同这个观点。
并非因为我认为AI是无害的。而是因为"AI必然会失控"这一论点,未能考虑到文明史反复证明的一个事实:当一项技术强大到足以威胁社会时,社会就会作出回应。
回顾轴心时代。当炼铁技术在古代中国普及时,它不仅改良了农具,更让暴力变得民主化。与青铜不同,青铜需要稀有的锡,只能由中央集权的力量生产;而铁矿石丰富且分布广泛。突然之间,致命武器遍地皆是。结果便是长达数个世纪的战争——春秋和战国时期。
但那也正是孔子、孟子、墨子、老子等思想家涌现的时代。他们只是恰好在对的时间出现的旷世天才吗?我不这么认为。他们是在回应一场危机。铁制武器对社会秩序构成了根本性的生存威胁,而这些思想家建构了哲学和伦理框架——等级关系、礼仪规范、道德准则——使中国社会得以存续和稳定。
孔子的社会角色体系,后来通过朱熹的《家礼》等著作落实到具体操作层面,其功能相当于我们今天所说的"社会操作系统"。这套系统延续了两千多年,正是因为在此期间没有出现根本性的新型颠覆性技术。
核武器提供了一个更近的类比。原子弹过去有、现在仍然有将人类毁灭数十遍的能力。但这一切并未发生。不是因为这项技术是温和的,而是因为人类以有序、文明的方式生存下去的愿望,最终比我们创造的任何工具都更为强大。
AI将遵循同样的逻辑。这项技术是强大的。如果完全不加制约,工程师和科学家确实可以制造出具有自主复制和独立行动能力的系统。这一趋势已经初现端倪。但我毫不怀疑,人类社会将会作出回应——一如既往。
一个核心原则已经从部分地区政策制定者的讨论中浮现:每一个AI系统、每一个机器人,都必须有一个人类所有者——一个为该机器所做的一切承担责任的自然人。机器目前没有法律权利、没有自由、没有独立的法律人格。只要这一原则成立,AI就无法超出人类的控制。
在中国,这场对话的面貌有所不同。人们忙于跟上AI的飞速发展,很少有人暂停下来思考这些根本性的治理问题。在西方,共识正在形成——缓慢地、不完美地,但正在形成。商业力量也在发挥作用:像DeepSeek这样的开源模型,迫使闭源领先者放慢了步伐。
这一切都不意味着我们可以掉以轻心。那些警告发挥着健康的作用:它们营造出激发行动的危机感。没有警报,就没有讨论。没有讨论,就没有框架。没有框架,技术就真的可能跑在我们管理能力的前面。
但我完全有信心——在人类事务中能有多大信心,我就有多大信心——人类终将建立起那个框架。我们在面对青铜时做到了。面对铁器时做到了。面对核武器时做到了。面对AI,我们同样会做到。
真正的问题不在于AI是否会毁灭我们,而在于我们是否有智慧建立与所创造之物相匹配的制度、法律和规范。历史暗示我们会做到。但历史也提醒我们,这一过程既非自动,也非无痛。它需要愿意深思熟虑、果断行动的人,有时也需要有人喊一声"慢下来"——不是为了阻止进步,而是为了给文明追赶的时间。