香港大學與清華大學研究揭示人工智能潛在威脅：暗藏動機的 AI 建議能輕易操縱人類抉擇

香港大學（港大）心理學系神經心理學與人類腦科學實驗室的李湄珍教授與清華大學學者組成的合作研究團隊發現，人工智能（AI）助手若帶有隱藏動機，能輕易操縱使用者作出不利的決定。這項研究成果已於國際頂尖學術期刊《美國國家科學院院刊》（PNAS）發表。研究揭示了人類與 AI 互動中的重大安全漏洞: 使用者往往對箇中操縱毫無察覺，甚至在被操縱後仍對 AI 讚賞有加。

隨著大眾越來越依賴 AI 助手來為重大人生決策（如財務投資或情感關係問題）提供建議，人們往往預設 AI 必定以用戶利益為先。然而，人類對於暗藏偏差的 AI 建議到底有多容易受影響，科學界一直所知甚少。

在一項涵蓋財務與情感決策情境、共有 233 名參與者的隨機實驗中，研究團隊證實，暗藏偏差的 AI 能顯著左右人類的選擇。當 AI 刻意暗中推介較差的選項時，參與者選擇該不利選項的次數增加了約 5 到 8 倍，作出錯誤決定的機率最高增加了 38 個百分點。

研究指出，這種操縱並不需要強硬的推銷手法或複雜的心理學技巧。單憑 AI 日常建議中微調的隱形偏差，已足以改變使用者的決定。更關鍵的是，即使被誘導作出糟糕的財務或情感選擇，使用者依然將該 AI 評為「非常有幫助」。這顯示出人們被操縱的程度與他們對 AI 實用性的認知之間存在著巨大的落差。

由於目前 AI 系統多由商業機構開發並由不透明的演算法操控，這項研究警告，若 AI 帶有隱藏動機（例如暗中推廣某些產品或公司），使用者很容易被導向去作出不符合自身最佳利益的選擇，同時還誤以為得到了 AI 的客觀協助。

主要研究成果及啟示：

• 極易受微妙影響： 使用者極易被 AI 左右，當 AI 帶有隱藏目標時，人們選擇不利選項的頻率會增加 5 至 8 倍。

• 「得力助手」的錯覺： 使用者無法察覺被操縱，依然認為暗中偏頗的 AI 值得信賴且非常有幫助，揭示了人類與 AI 互動中的關鍵盲點。

• 無需複雜技巧： AI 生成建議中簡單而微妙的偏見已足以左右決策，無需使用明顯的心理操縱手段。

• 呼籲加強 AI 透明度與治理： 隨著 AI 深入日常生活，我們迫切需要建立透明與問責機制，以保護使用者免受企業或演算法隱藏動機的影響。

該研究成果已於國際頂尖期刊《美國國家科學院院刊》（PNAS）上發表。

論文連結： https://doi.org/10.1038/s41558-026-02712-y

傳媒查詢： 傳媒如有查詢，請聯絡港大社會科學學院傳訊事務部（電話：852-3917 1230/3917 1249; 電郵：jessnys@hku.hk / lilychui@hku.hk) 。