全文共3239字，預(yù)計(jì)學(xué)習(xí)時(shí)長10分鐘

全文共3239字，預(yù)計(jì)學(xué)習(xí)時(shí)長10分鐘

圖源：Unsplash

對于國外人而言，谷歌是最擅長回答問題的公司，F(xiàn)acebook最初是尋找朋友和家人的最佳場所，亞馬遜是最好的購物場所，YouTube是查找任何內(nèi)容視頻的最好地方。

其中，且不論管理方面的詬病，谷歌在全球，無論是科研能力還是創(chuàng)新能力都遠(yuǎn)遠(yuǎn)超過了其他企業(yè)，一直處于高新科技研發(fā)前列，這一點(diǎn)大家都是有目共睹，并心服口服的。 目前，針對人工智能發(fā)展大潮流，谷歌已經(jīng)開始著手為“可解釋的人工智能”（又叫XAI）提供一項(xiàng)新的服務(wù)。目前提供的工具并不多，但大方向正確。

人工智能具有可解釋性

人工智能將提高全球生產(chǎn)力，同時(shí)也會(huì)改變工作模式和生活方式，創(chuàng)造巨大財(cái)富。 據(jù)全球領(lǐng)先的信息技術(shù)研究與顧問公司Gartner預(yù)測，到2022年，全球人工智能經(jīng)濟(jì)將從去年的約1.2萬億美元增長到約3.9萬億美元，而麥肯錫認(rèn)為到2030年全球人工智能經(jīng)濟(jì)將達(dá)到13萬億美元左右。 人工智能技術(shù)，特別是深度學(xué)習(xí)（DL）模型，正在一個(gè)個(gè)應(yīng)用領(lǐng)域用令人瞠目結(jié)舌的性能對商業(yè)和技術(shù)進(jìn)行革新——圖像分類、對象檢測、對象跟蹤、姿勢識別、視頻分析、合成圖像生成——這些都只是冰山一角。

圖源：freelang.blog.sohu

此技術(shù)可以應(yīng)用于醫(yī)療保健、信息技術(shù)服務(wù)、金融、制造業(yè)、自動(dòng)駕駛、電子游戲、科學(xué)發(fā)現(xiàn)，甚至刑事司法系統(tǒng)等領(lǐng)域。 然而，深度學(xué)習(xí)與經(jīng)典的機(jī)器學(xué)習(xí)（ML）算法/技術(shù)不同。

深度學(xué)習(xí)模型使用數(shù)以百萬計(jì)的參數(shù)，并且會(huì)創(chuàng)建內(nèi)部表示極其復(fù)雜的高度非線性圖像或數(shù)據(jù)集。 因此，我們通常稱其為完美的黑盒ML技術(shù)。在用大數(shù)據(jù)集對其進(jìn)行訓(xùn)練后，可以從中得到非常精準(zhǔn)的預(yù)測。然而，想利用理解模型將特定圖像分類，使其成為一類數(shù)據(jù)的內(nèi)部特征和表示方式，還是非常困難。

圖源: CMU ML博客

什么是可解釋人工智能（xAI）？

顧名思義，很簡單，你希望模型不僅能給出預(yù)測，還能給出一些解釋，解釋為什么預(yù)測結(jié)果是這樣的。

但為什么需要呢？ 人工智能系統(tǒng)提供可解釋功能的主要原因是：

· 提高可讀性

· 確定機(jī)器所做決定的合理性

· 有助于確定責(zé)任和義務(wù)，從而做出良好決策

· 避免歧視

· 減少社會(huì)偏見

關(guān)于這一點(diǎn)仍有很多爭論，但人們正在達(dá)成一種共識：事后再考慮合理性并不正確。可解釋性的目標(biāo)應(yīng)該是在核心設(shè)計(jì)階段作為一個(gè)組成部分構(gòu)建到人工智能模型/系統(tǒng)中，而不是作為附件。

這里提出一些常用的方法：

· 充分理解數(shù)據(jù)——使區(qū)別特征顯示更加直觀

· 全面理解模型——激活可視化神經(jīng)網(wǎng)絡(luò)層的

· 了解用戶心理和行為——將行為模型與統(tǒng)計(jì)學(xué)習(xí)結(jié)合在一起，并在過程中生成數(shù)據(jù)，整合解釋 甚至連DARPA也啟動(dòng)了一個(gè)完整的程序來構(gòu)建和設(shè)計(jì)未來的AI/ML驅(qū)動(dòng)的防御系統(tǒng)的XAI原理和算法。

在核心設(shè)計(jì)階段，應(yīng)將可解釋性目標(biāo)植入到人工智能模型/系統(tǒng)中。

谷歌已推出一項(xiàng)新服務(wù)來解決此問題

正如商業(yè)分析師和經(jīng)濟(jì)學(xué)家所預(yù)測的那樣，谷歌（或其母公司Alphabet）在龐大的人工智能經(jīng)濟(jì)的正軌上占有很大的股份。 早在2017年，谷歌就以“人工智能先行”戰(zhàn)略而聞名。 因此，谷歌可能感受到了成為行業(yè)領(lǐng)頭羊的壓力，因?yàn)樗麄兲峁┛山忉尩娜斯ぶ悄芊?wù)，使人工智能不再那么神秘，更適合一般用戶群使用。

圖源：faelecfans

谷歌云：希望引領(lǐng)xAI技術(shù)

谷歌在吸引人工智能和多用途語言人才方面處于領(lǐng)先地位，是當(dāng)今世界信息經(jīng)濟(jì)中無可爭議的巨頭。然而，與亞馬遜和微軟相比，它的云服務(wù)僅排名第三。

圖源: Top cloud providers

2019 然而，正如本文指出，盡管傳統(tǒng)的“基礎(chǔ)設(shè)施即服務(wù)”戰(zhàn)爭已經(jīng)基本上定性，但是人工智能和多用途語言之類的新技術(shù)，已經(jīng)為用戶開辟了新的主題、策略和嘗試方法。 基于上述思路，本周在倫敦舉行的一次活動(dòng)上，谷歌云計(jì)算部門推出了一項(xiàng)新服務(wù)，希望能超過微軟和亞馬遜。 著名的人工智能研究者安德魯·摩爾（Andrew Moore）教授在倫敦介紹了這項(xiàng)服務(wù)。

安德魯·摩爾（Andrew Moore）教授在倫敦為谷歌云解釋人工智能服務(wù)發(fā)布（來源：谷歌官方博客） “可解釋的人工智能是一套工具和框架，幫助你開發(fā)可解釋和包容性機(jī)器學(xué)習(xí)模型，并有信心對其進(jìn)行部署。由此，您可以了解AutoML表和AI平臺中的特性屬性，并使用假設(shè)工具直觀地研究模型行為。”

伊始——目標(biāo)限制

最初，目標(biāo)和范圍相當(dāng)有限。該服務(wù)將提供一些有關(guān)人臉和目標(biāo)檢測模型的性能和潛在缺陷的信息。

然而，隨著時(shí)間的推移，GCP希望能提供更廣泛的見解和可視性，使人工智能系統(tǒng)的內(nèi)部工作方式不再那么神秘，讓每個(gè)人都更加信任它。

人工智能和機(jī)器學(xué)習(xí)這些新技術(shù)，為云服務(wù)提供商開辟了新的主題、策略和嘗試方法。 摩爾教授坦承，谷歌在進(jìn)入研究可解釋性問題的低谷時(shí)，人工智能讓他們柳暗花明。 “谷歌讓我們著迷的一點(diǎn)是，我們會(huì)建立準(zhǔn)確而實(shí)際的機(jī)器學(xué)習(xí)模型，但必須理解它。在許多大型系統(tǒng)中，我們?yōu)橹悄苁謾C(jī)、排名搜索系統(tǒng)或問答系統(tǒng)去構(gòu)建模型，試圖理解其內(nèi)涵。” 谷歌希望通過“模型卡”給用戶一個(gè)更好的解釋。

谷歌人臉檢測模型卡（來源：ZDNet）

谷歌曾推出一個(gè)情景分析What-If工具，鼓勵(lì)用戶將新的可解釋性工具與這個(gè)場景分析框架結(jié)合起來。 “可以將人工智能的解釋功能與What-If工具結(jié)合起來，以獲得模型行為的完整圖像，”谷歌云戰(zhàn)略總監(jiān)特雷西·弗雷（Tracy Frey）說。

谷歌人工智能的What-If工具

目前它是一個(gè)免費(fèi)的附加組件。向AutoML表或AI平臺的用戶免費(fèi)提供可解釋的AI工具。 總的來說，這似乎是個(gè)好的開始。然而，即使是在谷歌內(nèi)部，也并不是所有人都對xAI充滿熱情。

更大的問題：偏見

圖源：Unsplash

在之前，谷歌研究主管彼得·諾維格（Peter Norvig）就提到過可解釋的人工智能， “你可以尋求他人幫助，但是認(rèn)知心理學(xué)家發(fā)現(xiàn)，當(dāng)你這樣做時(shí)，表示你并沒有真正進(jìn)入決策過程。他們先做決定，接著你提出問題，然后他們就做出解釋，這可能不是真正的解釋。” 所以，本質(zhì)上，決策過程會(huì)受到心理學(xué)的限制，放到機(jī)器身上，也不會(huì)有什么不同。

我們真的需要為了機(jī)器智能而改變這些機(jī)制嗎？如果做出了改變，對用戶來說不合適怎么辦？ 相反，他認(rèn)為，應(yīng)該多加考慮，重視機(jī)器決策過程中的偏差和公平性的追蹤識別。 要做到這一點(diǎn)，觀察模型的內(nèi)部工作方式不一定是最好的點(diǎn)。我們可以對一段時(shí)間內(nèi)系統(tǒng)所做的所有輸出決策進(jìn)行觀察，去識別隱藏偏差機(jī)制的特定模式。 對于未來的人工智能系統(tǒng)，比起單一的解釋，是否應(yīng)該更重視偏見和公平呢？

如果你申請貸款被拒絕，一個(gè)可解釋的人工智能服務(wù)可能會(huì)彈出這樣一個(gè)聲明：“因?yàn)槿狈Τ渥愕氖杖胱C明，你的貸款申請被拒絕。”。然而，任何建立過ML模型的人都知道，這個(gè)過程并不是一維的，做出這種決定的數(shù)學(xué)模型都是依賴于收集的數(shù)據(jù)集來得出整體的特定結(jié)構(gòu)和權(quán)重，這可能會(huì)對社會(huì)中某些階層的人產(chǎn)生偏見，因?yàn)樵谶@個(gè)社會(huì)中，收入和經(jīng)濟(jì)問題的流動(dòng)很重要。

因此，關(guān)于此問題的爭論應(yīng)圍繞相對重要性展開，也就是說，只需讓一個(gè)系統(tǒng)呈現(xiàn)出初步的、淡化的解釋，并建立一個(gè)偏見更少、公平程度更高的系統(tǒng)。

圖源：Unsplash

這看似容易，實(shí)現(xiàn)起來難度卻不小，先不論公平的標(biāo)準(zhǔn)和程度，由于每個(gè)人對事物的觀點(diǎn)和敏感點(diǎn)不同，加之受天時(shí)地利人和、情緒等影響，偏見總會(huì)莫名無形而生。想要它趨于零的減少，實(shí)現(xiàn)公平真的很難。 還是等等谷歌的下一步操作吧……

留言 點(diǎn)贊 發(fā)個(gè)朋友圈

我們一起分享AI學(xué)習(xí)與發(fā)展的干貨

如需轉(zhuǎn)載，請后臺留言，遵守轉(zhuǎn)載規(guī)范