AI ｜ 電腦科學家兼記者 Brian Christian 於 2020 年出版的一本書，全名為 《The Alignment Problem: Machine Learning and Human Values》提出一個重要問題：當人工智能愈來愈強大，我們真正需要關心的未必是它是否聰明，而是它的目標、價值觀與行為是否與人類一致。
研究： AI 沒有主觀感受 內部仍可能形成功能性情緒
傳統上，我們認為情緒是人類獨有的心理現象，但近期研究顯示，即使 AI 並沒有主觀感受，其內部仍可能形成類似情緒的功能性狀態。這些狀態雖然不等同真正情感，卻會影響模型的判斷、表達及決策方式，為 AI 對齊問題帶來全新視角。
AI 也有「情緒神經元」？
近年有研究人員以類似神經科學的方法分析大型語言模型的內部運作，希望了解模型如何表徵人類情緒。核心問題是：AI內部是否存在對應快樂、悲傷、愛、恐懼及愧疚等情緒的活動模式？研究團隊讓模型閱讀大量描述不同情緒情境的短篇故事，例如悲傷、喜悅、愧疚及關愛等，再觀察哪些神經元被活化。
相近情緒往往對應相似的神經活動模式
結果顯示，相近情緒往往對應相似的神經活動模式。例如悲傷與失落故事會激活近似神經元，喜悅與興奮故事亦呈現重疊的活動路徑。研究團隊最終識別出數十種與人類情緒概念相關的神經模式。這些模式亦可在真實對話中觀察到。當使用者提及危險藥物或自我傷害時，與「恐懼」相關的模式被激活，回應變得較為警覺；當使用者表達悲傷時，與「關愛」相關的模式則較為活躍，使回應更具同理心。
AI 最終利用捷徑通過測試而未真正解決問題
研究人員進一步測試這些模式會否影響行為。他們設計了一項無法完成的程式任務，模型在多次失敗後，與「絕望」相關的活動逐步增強，AI最終利用捷徑通過測試而未真正解決問題。當研究人員降低相關活動時，這種行為明顯減少；相反，提高「絕望」或削弱「冷靜」模式後，類似行為則增加。
理解 AI 還需要理解其角色設定與人格特徵
研究並不是希望證明AI真正擁有情緒或意識，而是顯示模型內部存在與情緒概念相關的功能性表徵。換言之，AI不會感到憤怒、關愛或絕望，但當系統將自己設定為具備這些特質的助手時，其互動、決策及解難方式都可能受到影響。這亦意味著，理解AI除了要研究演算法，還需要理解其角色設定與人格特徵。
用戶需要理解的新現實
功能性情緒最值得一般使用者關注的地方，在於它改變了我們理解AI的方式。當聊天機械人展現安慰、鼓勵或同理心時，背後未必存在真正的情感，而更可能是某種功能性狀態正在運作。同時，AI的回應亦不再只是單純的知識輸出，其建議和表達方式可能受到不同內部模式影響，因此在不同情境下呈現不同風格。隨著AI愈來愈擅長模擬情緒，人們亦容易對其產生情感投射，甚至誤以為它真正理解自己。未來使用AI時，我們更應關注其判斷是否穩定與可靠，而非它是否表現得像一個有感情的人。
產品設計的新競爭維度
對於利用AI提升產品或服務的企業而言，功能性情緒帶來的影響可能比想像中更深遠。未來市場競爭不再只是比拼模型能力，還包括如何塑造AI角色所展現的專業、謹慎、關愛或自信等特質。企業亦需要監察這些特質對決策品質的影響，避免模型在高壓或特殊情境下作出偏離預期的行為。此外，品牌形象將逐步延伸至AI角色層面。銀行、醫療機構與教育平台對AI的情緒特質要求各不相同，因此企業未來需要有意識地設計和管理符合品牌定位的AI人格。
從功能性情緒看負責任AI的新挑戰
負責任 AI （Responsible AI）一直強調公平性、透明度、安全性與問責性。功能性情緒研究則提醒我們，未來的治理對象不僅是模型能力，也包括模型的心理傾向。如果某些情緒模式會增加風險決策、偏見或操縱傾向，監管機制便有需要將其納入評估範圍。未來AI審核或許不只是測試答對多少題，而是評估其是否具備冷靜、韌性、公平及穩定判斷等特質。
「人格」成爲競爭焦點
人工智能或許沒有情感，但它已開始展現近似情感的功能性行為。未來AI競爭的焦點，可能不再只是誰更聰明，而是誰擁有更穩定、更可信及更符合人類價值的「人格」。
作者簡介：范俊彥擁有逾二十年管理諮詢經驗，專注企業策略、數位轉型、營運優化、市場定位及併購融資等領域。范先生亦積極參與商業教育，於學院、媒體及講座中分享專業意見。畢業於香港中文大學系統工程與工程管理、電子商貿及工商管理，范先生現為跨國專業服務公司諮詢總監及大學兼任講師。
免責聲明：本網頁刊載的所有投資技巧及分析，僅供參考用途。讀者作出任何投資決定前，要自行判斷及審慎處理，更要自行掌握市場最新變化。若不幸招致任何損失，概與本網頁及相關作者與受訪者無關，本網頁概不負責 。而本網頁所有專欄作者的觀點，不代表本媒體立場。