創澤機器人
CHUANGZE ROBOT
 
  當前位置:首頁 > 新聞資訊 > 機器人知識 > 深度學習的可解釋性研究(二)——不如打開箱子看一看  
 

深度學習的可解釋性研究(二)——不如打開箱子看一看

來源:圖靈人工智能      編輯:創澤      時間:2020/6/4      主題:其他   [加盟]

在上一節中我們介紹了深度學習可解釋性的三種方法:1. 隱層分析法,2. 敏感性分析法 3. 代理/替代模型法。在這一節中我們主要介紹第一種方法:隱層分析法。

1. 黑箱真的是黑箱嗎?——深度學習的物質組成視角

通過上一節的介紹我們也了解到,深度學習的黑箱性主要來源於其高度非線性性質,每個神經元都是由上一層的線性組合再加上一個非線性函數的得到,我們無法像理解線性回歸的參數那樣通過非常solid的統計學基礎假設來理解神經網絡中的參數含義及其重要程度、波動範圍。但實際上我們是知道這些參數的具體值以及整個訓練過程的,所以神經網絡模型本身其實並不是一個黑箱,其黑箱性在於我們沒辦法用人類可以理解的方式理解模型的具體含義和行為,而神經網絡的一個非常好的性質在於神經元的分層組合形式,這讓我們可以用物質組成的視角來理解神經網絡的運作方式。比如如下圖所示,人體的組成過程是從分子-細胞-組織-器官-係統-人體:

而通過一些對神經網絡隱層的可視化我們也發現:比如下圖的一個人臉識別的例子,神經網絡在這個過程中先學到了邊角的概念,之後學到了五官,最後學到了整個麵部的特征。

如果我們能夠用一些方法來幫助我們理解這個從低級概念到高級概念的生成過程,那麼就離理解神經網絡的具體結構就近了很多。而這也可以逐漸幫助我們完成一個“祛魅”的過程,將調參的魔法真正變成一項可控、可解釋的過程。

要理解這個概念的生成過程很重要的一點就是要研究隱層的概念表示,在接下來的部分中我將給大家介紹業界關於隱層分析方法的幾個研究工作。

2. 模型學到了哪些概念?

要理解神經網絡中每層都學到了哪些概念一個非常直觀的方法就是通過對隱層運用一些可視化方法來將其轉化成人類可以理解的有實際含義的圖像,這方麵一個非常具有代表性的一個工作就是14年ECCV的一篇經典之作:《Visualizing and Understanding Convolutional Networks》,這篇文章主要利用了反卷積的相關思想實現了特征可視化來幫助我們理解CNN的每一層究竟學到了什麼東西。我們都知道典型的CNN模型的一個完整卷積過程是由卷積-激活-池化(pooling)三個步驟組成的。而如果想把一個CNN的中間層轉化成原始輸入空間呢?我們就需要經過反池化-反激活-反卷積這樣的一個逆過程。整個模型的結構如下圖所示:






創澤智能機器人
創澤智能機器人
中國智能服務機器人領軍企業,涵蓋商用、家庭、特種等多用途的智能機器人產品體係,十幾年行業應用解決方案提供商



深度學習的可解釋性研究(一)— 讓模型具備說人話的能力

為決策樹模型是一個具有比較好的可解釋性的模型,以決策樹為代表的規則模型在可解釋性研究方麵起到了非常關鍵的作用

不完美場景下的神經網絡訓練方法

騰訊優圖實驗室高級研究員Louis在分享了自適應缺陷數據,業務場景下的神經網絡訓練方法

AI在COVID-19診斷成像中的應用

人工智能技術支持的圖像采集可以顯著幫助掃描過程實現自動化,還可以重塑工作流程,最大限度地減少與患者的接觸,為成像技術人員提供最佳保護

國內外舵機參數性能價格比較

舵機是步態服務機器人的核心零部件和成本構成,是包含電機、傳感器、控製器、減速器等單元的機電一體化元器件

SLAM與V-SLAM特征對比

基於激 光雷達的SLAM(激光SLAM)和基於視覺的SLAM(V-SLAM)。激光SLAM目前發展比較成熟、應用廣泛,未來多傳感器融合的SLAM 技術將逐漸成為技術趨勢,取長補短,更好地實現定位導航。

《視覺SLAM十四講》作者高翔:非結構化道路激光SLAM中的挑戰

SLAM階段:解決從原始傳感器數據開始,構建某種基礎地圖的過程,標注階段:在SLAM結果基礎上進行人為標注,實現更精細的交通規則控製

圖像檢索入門、特征和案例

圖像檢索是計算機視覺中基礎的應用,可分為文字搜圖和以圖搜圖。借助於卷積神經網絡CNN強大的建模能力,圖像檢索的精度越發提高

如何加快解決數據產權問題

數據所有權方麵,1原始數據屬於個人,2企業享有衍生數據所有權,3政府享有政府數據的歸屬權
 
資料獲取
新聞資訊
== 資訊 ==
» 國標《智慧城市 智慧多功能杆 服務功能與
» 人工智能之數據挖掘2020年第9期
» 噴霧消毒殺菌機器人
» 中國通信學會發布《全球人工智能基礎設施戰
» 創澤集團受邀參加工信部 AI 精準賦能中
» 人工智能案例 依圖科技:不斷崛起的AI
» 2020年麵向人工智能新基建的知識圖譜行
» 破解AI工程化難題,AI中台助力企業智能
» 淺析我國消防機器人發展現狀與趨勢 | 山
» 【華為出品】智能體白皮書2020
» “先行示範•智贏未來” 創澤
» 創澤集團牽頭起草的全國首個《應用於滅菌消
» 創澤集團智能機器人新品發布會!多款自主研
» 人工智能人才發展報告:亞太地區創新與招聘
» 創澤集團智能機器人“創創”受邀參加進博會
 
== 機器人推薦 ==
 
迎賓講解服務機器人

服務機器人(迎賓、講解、導診...)

智能消毒機器人

智能消毒機器人

安防巡檢機器人

安防巡檢機器人

人工智能垃圾站

人工智能垃圾站

== 信息推薦 ==
 

機器人招商  Disinfection Robot   消毒機器人公司  機器人應用  智能垃圾站  消毒機器人價格  消毒機器人廠家  機器人政策  教育機器人  迎賓機器人  機器人開發  清潔機器人  消毒機器人  講解機器人  安防巡檢機器人  霧化消毒機器人  紫外線消毒機器人  地圖 
版權所有 © 必威主頁     中國運營中心:北京·清華科技園九號樓5層     中國生產中心:山東日照太原路71號
銷售1:4006-935-088    銷售2:4006-937-088   客服電話: 4008-128-728

機器人
Baidu
map