人工智能能让我们能力更强，却无法告诉我们何谓进步

人工智能正将我们带到一个充满非凡可能性的时刻。它能在海量杂讯中捕捉微弱信号，识别超出人类凭一己之力所能把握的复杂模式，并协助设计原本可能需要多年才能构思和测试的实验。它可以提升系统效率，开辟科学和医学的新路径，并让过去只有少数专家才能使用的工具惠及更多人。

统计学、优化理论和控制理论能够帮助我们更好地利用信息和资源。但当我们愈来愈为这些系统的能力所折服时，应当停下来思考一个更简单、也更困难的问题：我们所说的“进步”究竟是什么？

9月10日，我在上海外滩大会上提出，在我们为人工智能感到振奋之际，一些重要的区别很容易被混淆。知识不等于智慧。生产率不等于成就。继续教育不等于终身学习。国家财富也未必等于社会福祉。

知道得更多，并不必然带来智慧。生产率提高，也不必然让生活更有意义。经济可以增长，同时人们却越来越难以行动、贡献、归属，并对周遭世界承担责任。事实上，智慧、意义和社会责任，才是一个伟大社会的标志。

没有人，就没有社会。人不只是为系统提供数据、劳动力或消费需求；人是社会存在的根本理由。因此，社会福祉必须以人为本，并具有包容性。它必须追问：人们是否更能够过上有目标、有意义的生活，而不只是问流程是否更快、更便宜或更可预测。

人工智能无法替我们回答这些问题。它确实能够以前所未有的规模处理信息，但它无法告诉我们什么值得知道，哪些目标值得优化，我们彼此负有什么责任，或我们希望成为什么样的社会。

我们必须学会看见的成本

人类社会重视效率，这无可厚非。更好的工具减少了繁重劳动，改善了健康，拓展了沟通，也解决了许多曾被认为难以克服的问题。能够帮助医生在影像中发现细微信号、协助研究人员识别有前景模式，或让城市更智能地使用能源的人工智能系统，确实可以带来公共福祉。

但效率不等于充实。一个系统也许能比人更快完成任务，却仍无法回答：将人从这项任务中移除，是否真会让更大的社会系统变得更好？它可能降低某项显性成本，却同时增加更难计算的成本：年轻工作者失去培养判断力的早期机会；专业社群被削弱；或因无人明确负责而使决策中的信任受到侵蚀。

这并不是针对变革的浪漫抵抗。工作一直随着技术而变化。但“替代”并不是衡量成功的充分标准。一个更便宜的系统告诉了我们一些重要事实，却没有告诉我们所有重要的事实。

历史应当让我们对这种错误保持警惕。我们往往擅长计算新技术的即时成本，却不善于预见其长期后果。好处通常具体而立竿见影；非预期的影响却会在更晚的时候，以不均衡的方式，有时甚至在远离最初决策的地方出现。

以氯为例。现代水处理使人口密集的城市生活更安全，也减少了水传播疾病；然而，后来的世代仍须处理原先承诺之外的种种权衡。石油的高能量密度推动了工业化、交通和繁荣，但其燃烧对气候、公共健康和未来造成的成本，并未被充分计入早期的经济交易。我们在收益不断累积时享受其便利，如今则面对如何为补救付费这一艰难问题。

重点不是说这些创新是错误的。重点在于，进步能够解决一个问题，同时也可能制造另一个问题；而我们往往在尚未衡量其完整社会成本之前，就急于宣布某项技术成功。

这正是我们面对人工智能时需要具备的自律。当一个系统承诺带来更高效率时，我们不应只问它节省了什么，也要问它随时间可能带来什么代价。它会造成哪些依赖？会加深哪些不平等？当一项高风险决策出错时，谁来负责？哪些技能、关系和人的自信可能被削弱？需要哪些保障措施？我们是否在成本转嫁给他人之前，就已规划并承担了这些成本？

工作和公共生活可能出现的非人化，也应当被纳入这笔账。我并不是单指机器被使用，而是指人逐渐被当作可替换的投入要素；人们失去有意义地参与影响自身生活之决策的机会；能动性、责任感和被认可感不断削弱。如果自动化使人们更难培养能力、运用判断、参与社群，或在工作中找到目标，那么这些并非无关紧要的副作用，而是社会成本。

我们应当愿意将这类成本纳入经济模型。并非所有人的价值都能被整齐地换算成价格，但难以衡量并不意味着成本不存在。我们本来就在选择计算什么。更负责任的做法，是计算那些真正关乎人类福祉的因素，包括让人们能够继续成为自己生活积极作者的条件。

教育是实践，而不是表演

这正是为什么教育在人工智能时代肩负独特责任。大学必须确保学生理解并善用新工具。他们应当学习如何与人工智能协作，认识其优势和局限，并智能地参与一个正被重塑的经济。

但这只是开始。教育并不只是传递信息，也不是为了学分、考试或文凭而进行的一场表演。它更深层的目的，是帮助人们具备行使能动性的能力。

能动性意味着承担个人责任。它意味着养成日常自问的习惯：我知道什么？我不知道什么？什么证据会改变我的看法？我在这个决定中负有什么责任？这个选择会对他人意味着什么？能动性不是毕业时获得的一项抽象品质，而是在实验室、课堂、工作场所、家庭和社群中不断实践的习惯。

这也正是为什么继续教育不等于终身学习。终身学习不是无休止地获取证书或更新技术知识。它包含好奇心、自我认识、智识上的谦逊，以及愿意修正自身理解的态度。它意味着学习如何学习，也意味着理解为什么值得关心。

如果人工智能能够以惊人的速度检索、总结和生成信息，那么人的任务就变得更加重要，而不是更不重要。学生需要了解知识如何被产生、检验，并与后果相联系。他们需要分辨答案与解释、相关性与因果、证据与断言，以及技术上可行之事与明智之举。他们需要有信心说：我还不知道；我需要更好的证据（数据）；这个问题问错了；这个决定需要的不只是一个预测……

这种教育并不与人工智能竞争。它让人们能够使用人工智能，而不把判断力拱手相让。

在香港大学，我们的任务既不是置身于这些技术之外，也不是声称它们会替我们解决教育的挑战。我们的任务，是汇聚大学在研究、教学和跨学科协作方面的优势，负责任地使用人工智能。我们的角色不只是为学生准备好适应当下的劳动力市场，更要帮助他们参与塑造未来的世界。

我们共同选择的未来

我们有充分理由保持乐观。人类曾反复解决被视为无解的问题，建立制度，发现新的合作方式，并在旧有做法失效时及时改变方向。人工智能可以成为这段故事的一部分。它可以帮助我们看得更多、检验得更多、实现得更多。

但它不会告诉我们人类繁荣需要什么。它不会决定我们如何分配机会、守护尊严，或维系让社会不只是由高效交易构成的关系。

我们必须及早提出困难的问题，趁答案仍然能够影响正在建立的系统。我们是在用人工智能扩大人的能力，还是仅仅为了减少人手？我们是在创造让人们学习和贡献的新方式，还是让人更容易被视作成本？我们衡量成功时，只看产出和速度，还是也看信任、机会、责任、理解和共同目标？

这些问题并不只属于技术专家。它们属于教育工作者、政策制定者、雇主、学生、家庭和公民。未来可以是光明的——不是因为人工智能替我们作出选择，而是因为我们仍然能够一起作出更好的选择。

作者：香港大学副校长（教学）施启正教授