文章選自IEEE Spectrum中文版《科技縱覽》。
當前,合成孔徑雷達(SAR)憑借其全天時、全天候、高分辨率成像的特點,已經被廣泛應用于地球科學、全球變化研究、環境和地球系統監測、海洋資源利用、行星探測、戰場感知偵察等領域,具有很高的民用價值和軍用價值。但遙感大數據時代下的SAR圖像解譯是一個極大的科學應用挑戰。發展先進的SAR智能信息獲取方法顯得十分迫切?;诖耍瑥偷┐髮W電磁波信息科學教育部重點實驗室徐豐等人將深度學習運用在SAR目標識別與地物分類中,取得了一系列顯著成效。
深度卷積網絡示意圖
深度學習算法變革了計算機視覺領域,而深度卷積網絡(CNN)作為計算機視覺領域中最常采用的算法,是一種特殊結構的深度神經網絡。其前幾層由卷積層(convolution layer)與池化層(pooling layer)交替構成,后面若干層是全連接層。其工作原理是由卷積層學習不同的特征,由池化層將空域形狀匯聚到高維特征空間,多層交替的卷積+池化可以學出層次化的特征表征。最后的全連接層的作用則是在高維特征空間學習一個分類器。與傳統依據統計或者物理特性進行手動設計的算法不同,CNN憑借自動學習數據分層特征已經將其取代,并取得了一系列突破。在2012年ImageNet大規模視覺挑戰賽(ILSVRC),Krizhevsky等人采用深度卷積網絡取得了15.3%的錯誤率,遠遠超過以往最好的水平。在2014年,Szegedy等人提出了一個包含22層的GoogleNet,將前五項錯誤率降至6.67%。在2015年,He等人提出152層的殘差網絡(ResNet)并取得了3.57%的整體錯誤率。2016年,中國公安三所團隊在ILSVRC中取得第一名成績,錯誤率已降至3%以下。
CNN在業界所取得的巨大成功得益于算法的改進、海量數據的獲得、圖形處理單元(GPU)等高性能計算資源的普及幾方面。其中算法的改進是深度神經網絡出現飛躍式發展的關鍵因素。改進的網絡結構傳統神經網絡層與層之間采用全連接形式。這一獨特的網絡結構可以有效地從海量數據中學到層次化組合的特征,對視覺信息進行高效地表征。另一個重要改進就是采用ReLU激活函數。改進的激活函數ReLU的梯度在右側恒等于1,其梯度在累乘后保持穩定,這是深度網絡能夠有效學習的重要原因。對于分類應用,還采用了改進的目標函數,即首先在輸出層采用Softmax結構,使得最終輸出為歸一化的概率。其次通過輸出概率與標簽概率的交叉熵作為目標函數進行學習。這一組合有效避免了梯度回傳時的非線性失真。
由于SAR圖像數據比較少、對觀測條件敏感,直接用SAR數據來訓練CNN很很容易出現過擬合(Overfitting)的問題。值得注意的是,CNN中絕大部分的可訓練參數都包含在全連接層。一些實驗結果表明,網絡的層數對于CNN的性能具有最重要的影響。因此,他們通過用卷積層取代全連接層,而不是大量地減少網絡的層數,來減少需要訓練的參數。這在一定程度上也大大減小了過擬合。
實數卷積神經網絡結構圖
十類軍事目標示例 光學圖像vs. SAR圖像
徐豐團隊在國際上首先將改進CNN應用到SAR目標識別,在標準MSTAR數據集上對10類目標取得了平均99%的識別準確率。該實驗數據是由Sandia國家實驗室(SNL)的SAR傳感器采集的。數據的采集是由美國國防部先進研究項目局(DARPA)和空軍研究實驗室(AFRL)共同資助的,作為運動和靜止目標獲取與識別(MSTAR)項目的一部分。該項目采集了幾十萬張包含地面軍事目標的SAR圖像,其中包括不同的目標類型、方位角、俯仰角、炮筒轉向、外型配置變化和型號變種的目標SAR圖像。此外,在極化SAR地物分類中,他們為了利用極化SAR數據的相位信息將實數CNN推廣至復數域,稱為復數卷積網絡(CV-CNN)。將CV-CNN在Flevoland數據集上進行分類實驗,結果表明,在同等條件下CV-CNN相比傳統實數CNN有更高的分類正確率。這些成果已在IEEE地球科學與遙感匯刊中發表。
復數卷積神經網絡結構圖
CV-CNN的整體結構圖
最近,針對神經網絡無法對未經過訓練的目標進行分類識別的局限性,徐豐團隊又采用深度生成神經網絡對SAR數據集進行自動表征建模,通過表征學習自動建立SAR目標本征特征空間,該本征特征空間由已知目標支撐。然后通過訓練一個逆向CNN將SAR圖像映射到連續的本征特征空間中,由此建立一個準無監督SAR目標識別器,任意一個新目標SAR圖像輸入到該識別器中即可以得到該新目標在本征特征空間中的分布,并由此解讀目標的物理特征。該成果已接收在2017年國際地球科學與遙感年會中匯報??梢钥闯錾疃葘W習技術對雷達遙感的重要意義。雖然如此,研究人員仍在不懈努力,爭取更大的進步。
研究團隊簡介
徐豐:復旦大學博士學位,教授、復旦大學電磁波信息科學教育部重點實驗室副主任、電磁大數據與遙感智能研究所常務副所長。研究方向:SAR圖像解譯、電磁散射建模、人工智能。
王海鵬:復旦大學電磁波信息科學教育部重點實驗室副教授。研究方向為雷達系統設計與算法開發、遙感圖像處理與信息獲取、機器學習與目標識別、智能圖像處理等。
金亞秋:美國麻省理工學院博士學位,教授、復旦大學電磁波信息科學教育部重點實驗室主任、中科院院士。研究方向:復雜自然介質的電磁輻射、散射與傳輸。