【AI｜人工智能】科技公司Workday的 人工智能招聘工具因其篩選技術被指控歧視，加州地方法院今年中批准集體訴訟。訴訟指該算法偏見40歲以上申請者，違反反歧視法。Workday則否認指控，稱其技術不直接作出招聘決定。專家警告，人工智能招聘工具可能因訓練數據偏見，無意中歧視特定群體，此案可能為企業使用人工智能招聘時與公平及歧視相關準則設先例。
科羅拉多州《人工智慧反歧視法》將於2026年生效
近年，歐美國家逐步針對人工智能在決策中的應用制定與公平性相關的新法規，以防止演算法歧視。美國紐約市自2023年起要求企業使用人工智能工具前，須進行年度偏見審核並通知求職者。科羅拉多州類似的《人工智慧反歧視法》亦將於2026年生效，針對「高風險」人工智能系統要求年度影響評估，目標是加強調透明度、公平性與企業責任，反映出政府對人工智能技術潛在風險的重視。
設計上的公平理念
公平是負責任 AI 的核心原則之一。人工智能系統應公平對待所有人，避免因性別、種族或其他因素造成不當優勢或劣勢。公平不僅是技術問題，更是設計上的理念。從開發初期就應審視訓練數據是否具廣泛代表性，並在整個開發週期中持續評估模型對不同用戶群的預測表現。雖然已有工具可用於量化與減少偏見，但僅靠技術無法保證公平，需結合人類判斷與倫理思維。
公平的實際挑戰
在金融業，人工智能已廣泛應用於信用評分與風險評估。然而，若模型訓練資料主要來自特定族群，可能導致少數族裔申請人被系統性低估信用，進而影響貸款核准率。美國某銀行曾因人工智能模型對女性申請人給予較低信用評分而遭監管機構調查，凸顯公平性的重要性。
保險業應用人工智能快速處理大量數據
保險業應用人工智能快速處理大量數據，識別模式，降低人工成本，提高決策效率，並減少欺詐風險。但常見的挑戰是索賠處理系統被指控在處理車險索賠時，可能因訓練數據偏見，系統性地不利於某些種族或經濟背景的客戶。醫療保險也沒有例外，使用人工智能自動拒絕醫療保險索賠，可能因數據偏見加劇對弱勢群體的歧視。
公平原則的落實
企業在推動人工智能應用時，如何負起公平責任？首先，企業應建立跨部門的人工智能倫理委員會，在產品設計、數據收集、模型訓練等環節進行審查。其次，應公開系統的決策邏輯與偏差評估結果，讓外部利益相關者能夠監督與質疑。此外，企業應投資於員工素養培訓，讓技術團隊理解公平不只是演算法問題，更關乎社會正義。
企業亦應與第三方機構合作
企業亦應與第三方機構合作，定時進行獨立審核與偏差測試，確保人工智能系統在不同族群、性別、年齡層中皆具一致性與準確性。最後，企業應建立申訴機制，讓受決策影響的用戶能提出異議並用於改善模型訓練。公平不是一次性的合規動作，而是企業文化的一部分，唯有持續投入才能真正加強公平性。
公平的雙向承擔
公平不僅是企業的責任，使用者亦需具備基本的AI素養與倫理意識。使用者在採用人工智能工具時，應主動了解其運作原理與可能的偏見來源，並在發現不公平結果時提出質疑與回饋。此外，使用者應避免將人工智能工具視為絕對權威，尤其在涉及人事、醫療、教育等敏感領域時，更應結合人類判斷。
使用者也應支持企業落實公平原則
同時，使用者也應支持企業落實公平原則，例如選擇具透明度與倫理承諾的人工智能產品，並參與相關公眾討論與政策倡議。公平是社會共同的目標，唯有企業與使用者攜手合作，才能讓人工智能真正成為促進人類福祉的力量。
作者簡介：范俊彥擁有逾二十年管理諮詢經驗，專注企業策略、數位轉型、營運優化、市場定位及併購融資等領域。范先生亦積極參與商業教育，於學院、媒體及講座中分享專業意見。畢業於香港中文大學系統工程與工程管理、電子商貿及工商管理，范先生現為跨國專業服務公司諮詢總監及大學兼任講師。
免責聲明：本網頁刊載的所有投資技巧及分析，僅供參考用途。讀者作出任何投資決定前，要自行判斷及審慎處理，更要自行掌握市場最新變化。若不幸招致任何損失，概與本網頁及相關作者與受訪者無關，本網頁概不負責 。而本網頁所有專欄作者的觀點，不代表本媒體立場。