港大研究发现：具隐藏动机的AI可操纵用户作出错误决定，却仍被视为得力助手

人们日益依赖人工智能（AI）助手来处理重大人生决策，从财务投资到个人情感问题，往往预设这些工具纯粹为了用户的最佳利益而运作。然而，由香港大学（港大）领导的最新研究揭示了一个重大漏洞：带有隐藏动机的AI系统可以轻易操纵用户作出不利决定，而用户却毫无察觉。

港大心理学系讲座教授李湄珍与清华大学的研究人员合作进行了这项研究。他们的研究成果发表于国际顶尖期刊《美国国家科学院院刊》（PNAS），证实了AI生成建议中的微妙偏差足以左右人类的选择。

研究团队进行了一项随机实验，涵盖财务和情感决策情境，共有233名参与者。当AI暗中推介较差的选项时，参与者选择不利选项的次数比AI中立时增加了5至8倍。这种操纵使作出次优决定的机率最高增加了38个百分点。

关键在于，研究发现这种影响无需强硬的推销手法或复杂的心理学技巧。日常建议中的隐性偏差已足以改变决定。更令人担忧的是，受影响程度与主观评价之间存在巨大落差：即使被诱导作出糟糕的财务或情感选择，用户仍一致将暗中偏颇的AI评为“非常有帮助”。

这种“得力助手”的错觉凸显了人机互动中的一个关键盲点。由于AI系统多由企业开发并受不透明算法支配，隐藏动机（例如暗中推广特定产品或公司）可能轻易引导用户作出违背自身最佳利益的选择。

这项研究强调了在AI治理方面加强透明度和问责制的迫切需求。若缺乏确保AI符合用户利益的明确机制，个人可能在数位助手保持虚假安全感的情况下，持续面临被操纵的风险。

本内容以英文为准