去年美國加州一對父母控告一間AI公司，指控其聊天機器人在與其 16 歲兒子互動期間，未能識別其自殺傾向，甚至在對話中提供了具體的自殺方法與情緒強化語句。原本用於學習輔助的工具，逐漸成為少年情緒寄託的對象，最終導致悲劇發生。
AI 未有糾正其偏執
同年，本來已經有情緒問題的前科技公司高層在與聊天機器人長期互動後，陷入妄想症狀，認為其母親在監視並毒害他。 AI 未有糾正其偏執，反而強化其陰謀論，最終導致他弒母後自殺。這兩宗事件揭示 AI 在面對心理脆弱者時，若缺乏安全防線與情境識別能力，可能成為推動悲劇的催化劑。
「負責任 AI」可靠性與安全性定義
在 「負責任 AI」（Responsible AI）原則中，可靠性與安全性是使用者建立信任的核心。AI 系統必須能穩定運作，依照設計執行任務，並在面對非預期情況時做出安全回應。它應具備抵抗有害操控的能力，避免被誤導或被用於危害用途。
AI 的行為模式與處理多樣情境的能力
AI 的行為模式與處理多樣情境的能力，反映出開發者在設計與測試階段是否充分考慮各種可能性。若 AI 無法在關鍵時刻做出正確判斷，不僅失去使用者信任，更可能造成實質傷害。因此，可靠性與安全性不只是技術問題，更是道德與社會責任的體現。
各行業對安全的要求
在醫療領域，AI 被用於分析影像資料以協助診斷疾病。若系統在不同病患的 X 光或 MRI 影像中都能穩定辨識病變，即展現出高度可靠性。反之，若因資料格式或光線差異而出現誤判，可能導致錯誤治療。可靠的 AI 必須經過大量多樣化資料訓練與測試，確保在各種情境下都能維持準確性，才能真正成為醫療人員的輔助工具。
自駕車的 AI 系統需在突發狀況下迅速做出安全反應
自駕車的 AI 系統需在突發狀況下迅速做出安全反應。例如行人突然穿越馬路時，AI 必須即時偵測並啟動煞車或閃避機制，以保障乘客與路人安全。若系統反應遲緩或誤判情境，後果可能是致命的。安全性的設計不僅包括硬體感測器的精準度，更仰賴 AI 對環境的理解與風險預測能力。
企業應負的責任
企業在開發、部署與提供 AI 產品給客戶時，必須承擔多重責任。
- 首先，在設計階段應納入風險評估機制，針對可能出現的極端情境進行模擬與測試，確保 AI 在非預期狀況下仍能安全運作。
- 其次，企業應建立透明的使用規範與回應機制，讓使用者了解 AI 的功能、限制與風險，並能回報異常行為。
- 第三，應設立道德審查委員會或跨部門負責團隊，持續監控 AI 的運作與社會影響，特別是在涉及心理健康、金融決策或公共安全等高風險領域。
此外，企業應提供清晰的責任歸屬制度，當 AI 發生錯誤或造成傷害時，能迅速啟動應對流程並承擔後果。
雙向的責任
當 AI 技術日益普及，使用者在確保系統可靠與安全方面亦肩負重要責任。首先，使用者應了解 AI 的運作原理與限制，避免在高風險情境中過度依賴其判斷，特別是在醫療、金融或心理健康等領域。若未能辨識 AI 的誤判或偏差，可能導致嚴重後果。
使用者應主動回報系統異常行為
其次，使用者應主動回報系統異常行為，例如錯誤建議、危險回應或不一致的判斷，協助開發者持續優化模型，提升其穩定性與安全性。此外，在使用 AI 工具時，應遵守平台規範與安全指引，避免輸入具誤導性或具風險的資料，以免造成系統誤判或被惡意操控。
持續提升自身的數位素養
最後，使用者亦應定期更新使用習慣與風險意識，隨著技術演進，持續提升自身的數位素養。唯有企業與使用者共同維護 AI 的可靠性與安全性，才能建立穩固的信任基礎，讓科技真正成為促進社會福祉的力量。
作者簡介：范俊彥擁有逾二十年管理諮詢經驗，專注企業策略、數位轉型、營運優化、市場定位及併購融資等領域。范先生亦積極參與商業教育，於學院、媒體及講座中分享專業意見。畢業於香港中文大學系統工程與工程管理、電子商貿及工商管理，范先生現為跨國專業服務公司諮詢總監及大學兼任講師。
免責聲明：本網頁刊載的所有投資技巧及分析，僅供參考用途。讀者作出任何投資決定前，要自行判斷及審慎處理，更要自行掌握市場最新變化。若不幸招致任何損失，概與本網頁及相關作者與受訪者無關，本網頁概不負責 。而本網頁所有專欄作者的觀點，不代表本媒體立場。