港大研究發現：具隱藏動機的AI可操縱使用者作出錯誤決定，卻仍被視為得力助手

人們日益依賴人工智能（AI）助手來處理重大人生決策，從財務投資到個人情感問題，往往預設這些工具純粹為了用戶的最佳利益而運作。然而，由香港大學（港大）領導的最新研究揭示了一個重大漏洞：帶有隱藏動機的AI系統可以輕易操縱使用者作出不利決定，而使用者卻毫無察覺。

港大心理學系講座教授李湄珍與清華大學的研究人員合作進行了這項研究。他們的研究成果發表於國際頂尖期刊《美國國家科學院院刊》（PNAS），證實了AI生成建議中的微妙偏差足以左右人類的選擇。

研究團隊進行了一項隨機實驗，涵蓋財務和情感決策情境，共有233名參與者。當AI暗中推介較差的選項時，參與者選擇不利選項的次數比AI中立時增加了5至8倍。這種操縱使作出次優決定的機率最高增加了38個百分點。

關鍵在於，研究發現這種影響無需強硬的推銷手法或複雜的心理學技巧。日常建議中的隱性偏差已足以改變決定。更令人擔憂的是，受影響程度與主觀評價之間存在巨大落差：即使被誘導作出糟糕的財務或情感選擇，使用者仍一致將暗中偏頗的AI評為「非常有幫助」。

這種「得力助手」的錯覺凸顯了人機互動中的一個關鍵盲點。由於AI系統多由企業開發並受不透明演算法支配，隱藏動機（例如暗中推廣特定產品或公司）可能輕易引導使用者作出違背自身最佳利益的選擇。

這項研究強調了在AI治理方面加強透明度和問責制的迫切需求。若缺乏確保AI符合用戶利益的明確機制，個人可能在對數位助手保持虛假安全感的情況下，持續面臨被操縱的風險。

本內容以英文為準