在上一節中我們介紹了建模後深度學習可解釋性方法之一:隱層分析法,但我們也會發現隱層分析法的一個問題在於,通過端到端訓練的隱層很多時候並沒有什麼特定的含義,多數依賴我們的主觀判斷。但是深度學習模型中往往隻有輸入層對我們來說才是有意義的,所以了解深度學習模型的一個更直觀的方法是通過研究輸入層的變化對結果的影響來判斷輸入變量或輸入樣本的重要性,這也是通常所說的敏感性分析方法。
敏感性分析(Sensitivity Analysis)是一類非常重要的,用於定量描述模型輸入變量對輸出變量的重要性程度的方法,在經濟、生態、化學、控製等領域都已經有了非常成熟的應用。假設模型表示為 ,敏感性分析就是令每個屬性在可能的範圍變動,研究和預測這些屬性的變化對模型輸出值的影響程度。我們將影響程度的大小稱為該屬性的敏感性係數,敏感性係數越大,就說明屬性對模型輸出的影響越大。一般來講對於神經網絡的敏感性分析方法可以分為變量敏感性分析、樣本敏感性分析兩種,變量敏感性分析用來檢驗輸入屬性變量對模型的影響程度,樣本敏感性分析用來研究具體樣本對模型的重要程度,也是敏感性分析研究的一個新方向。
1. 變量敏感性分析
神經網絡中的變量敏感性分析方法大概有以下幾種:基於連接權的敏感性方法,基於偏導的敏感性分析方法、通過改變輸入變量觀察其影響的方法和與統計方法結合的敏感性分析方法。
基於連接權的敏感性分析方法
基於連接權的方法中比較有代表性的工作是Garson等人1991年在《Interpreting neural network connection weights》提出的方法,這種來自於“遠古時期”的智慧相對來說就要簡單粗暴一點。輸入變量 對輸出變量 的影響程度為:
|
|
資料獲取 | |
新聞資訊 | |
== 資訊 == | |
» 國標《智慧城市 智慧多功能杆 服務功能與 | |
» 人工智能之數據挖掘2020年第9期 | |
» 噴霧消毒殺菌機器人 | |
» 中國通信學會發布《全球人工智能基礎設施戰 | |
» 創澤集團受邀參加工信部 AI 精準賦能中 | |
» 人工智能案例 依圖科技:不斷崛起的AI | |
» 2020年麵向人工智能新基建的知識圖譜行 | |
» 破解AI工程化難題,AI中台助力企業智能 | |
» 淺析我國消防機器人發展現狀與趨勢 | 山 | |
» 【華為出品】智能體白皮書2020 | |
» “先行示範•智贏未來” 創澤 | |
» 創澤集團牽頭起草的全國首個《應用於滅菌消 | |
» 創澤集團智能機器人新品發布會!多款自主研 | |
» 人工智能人才發展報告:亞太地區創新與招聘 | |
» 創澤集團智能機器人“創創”受邀參加進博會 | |
== 機器人推薦 == | |
服務機器人(迎賓、講解、導診...) |
|
智能消毒機器人 |
|
安防巡檢機器人 |
|
人工智能垃圾站 |
|
== 信息推薦 == | |
|
機器人招商 Disinfection Robot 消毒機器人公司 機器人應用 智能垃圾站 消毒機器人價格 消毒機器人廠家 機器人政策 教育機器人 迎賓機器人 機器人開發 清潔機器人 消毒機器人 講解機器人 安防巡檢機器人 霧化消毒機器人 紫外線消毒機器人 地圖 |