-基于云的新型偏向性檢測和糾偏控制 (Bias-detection and mitigation controls) 功能解決了人們要求提高人工智能決策透明度的急迫需求

-今天，IBM 公司 (NYSE: IBM) 推出了一項提高人工智能透明度的技術，使企業能夠更全面地駕馭人工智能的力量。

這一基于 IBM 云計算的軟件服務，能夠在人工智能進行決策時自動檢測偏向性并能夠對決策過程進行解釋，從而幫助各行各業的組織管理人工智能系統。IBM 服務部門也將與企業一同合作，幫助他們更好地利用這一全新的軟件服務。

此外，IBM 研究院還將面向開源社區發布人工智能偏向性檢測和糾偏控制工具包，旨在通過先進的工具和培訓促進全球協作，以進一步解決人工智能偏見問題。

IBM Watson AI 總經理 Beth Smith 表示：“IBM 曾引領行業確立了開發新型人工智能技術的信任原則和透明度原則，現在我們將這些原則付諸了實踐。任何有缺陷的決策都會給使用人工智能的企業帶來極大的潛在風險，而我們為企業提供了提高透明度和加強控制的方法。”

在此之前，IBM 商業價值研究院的研究結果表明，雖然有82%的企業正在考慮運用人工智能，但有60%的企業都擔心責任問題，63%的企業都缺乏能夠可靠管理這種技術的內部人才。

提高人工智能的決策透明度

基于 IBM 云計算的全新信任和透明度功能，適用于多樣的機器學習框架和人工智能構建環境，例如 Watson、Tensorflow、SparkML、AWS SageMaker、AzureML 等。也就是說，企業可以將這些新的控制工具用于大部分流行的人工智能框架。該軟件服務還可根據用戶需求提供定制化服務，企業可對其進行編程，以監視任何業務工作流的獨特決策因素。

這種完全自動化的軟件服務能夠解釋決策并在運行時（也就是進行決策時）及時檢測出人工智能模型中的潛在偏向性。重要的是，它還能自動建議應添加到模型的數據，幫助減少測到的偏差。

它使用通俗易懂的術語提供解釋，說明是哪些因素的權重使決策朝某一方向傾斜，決策建議的置信度有多大，置信度是由哪些因素構成的。此外，它還會記錄模型的準確性、性能和公正性以及人工智能系統的譜系，以便用戶追溯和調閱，用于客戶服務、監管或合規用途，例如 GDPR 合規。

所有這些功能都是通過可視化操作面板來訪問的，使企業用戶獲得前所未有的理解、解釋和管理人工智能主導型決策的能力，并降低對專業人工智能管理技能的需求。

IBM 還提供新的咨詢服務，來幫助公司設計業務流程和人機交互界面，從而進一步減小決策偏向性的影響。

賦能開源社區，構建更公正的人工智能

此外，IBM 研究院還將向開源社區提供AI Fairness 360工具包，其中包括一系列新型算法、代碼和教程的資源庫，可為專業學者、研究者和數據專家提供在構建和部署機器學習模型時整合偏向性檢測功能的工具和知識。開源社區中的其他資源往往只是著眼于檢查訓練數據中的偏向，而   IBM 研究院創建的 IBM AI Fairness 360工具包將能幫助使用者檢查并減少人工智能模型中的偏向性。IBM 希望借助這一舉措，邀請全球開源社區攜手推動人工智能的進步，降低解決人工智能偏向性問題的難度。更多信息詳見IBM博客。

研究揭示了主流人工智能部署中的優先級和障礙

IBM 最近發布了IBM 商業價值研究院 2018 人工智能報告 ，這份面向5000名企業高管的調研結果表明，對于人工智能推動商業價值和收入增長的潛力，商界領袖的看法正在發生重大變化。

報告中的重要結果包括：

?82%的企業，以及93%的高績效企業正在考慮采用人工智能應用，以增加利潤收入。

?60%的企業擔心責任問題，63%的企業缺乏能夠可靠利用人工智能潛力的技能。

?首席執行官們認為在 IT、信息安全、創新、客戶服務和風險管理方面采用人工智能可以獲得最大的價值。

?人工智能的應用范圍正在擴大，在金融服務等數字化程度較高的行業很可能會加速推廣。