壓縮感知是一個令人振奮、發(fā)展迅速的領域,在電氣工程、應用數(shù)學、統(tǒng)計學和計算機科學等領域引起了相當大的關注。自推出以來,已經(jīng)取得了大量理論和實踐方面的成果。本書首先重點介紹了新近的理論進展和一系列應用,并概述了許多目前的研究挑戰(zhàn)。接著,在全面回顧了基本理論之后,介紹了該領域的許多前沿進展,包括先進的信號建模、模擬信號的亞奈奎斯特采樣、硬件原型、隨機矩陣的非漸近分析、自適應感知、貪婪算法、圖模型的使用,以及形態(tài)上不同數(shù)據(jù)成分的分離。本書每一章都是由該領域國際知名的研究人員編寫的。
壓縮感知(CS)是一門發(fā)展迅猛的學科,因其令人振奮的顯著成效,已經(jīng)在電氣工程、應用數(shù)學、統(tǒng)計學和計算機等領域獲得高度關注。從壓縮感知的概念在幾年前首次提出到現(xiàn)在,其已經(jīng)在理論以及實踐上碩果累累。各種學術會議、研討會以及專題報告一直致力發(fā)展這一日益重要的研究領域。本書首次全面介紹了這一主題,重點介紹了最近的理論進展和一系列的應用實例,并概述了許多目前還未解決的研究難題。
壓縮感知為同時感知和壓縮有限維向量提供了一個依賴于線性降維的框架。令人驚訝的是,它預測到所有具有稀疏表達的高維信號都可以通過有效算法,從高度不完整的測量數(shù)據(jù)中恢復。具體而言,就是假設x是一個長度為n的向量。在壓縮感知理論中,我們不直接測量x,而是通過使用一個大小為m×n 的壓縮感知矩陣A,獲取形式y(tǒng) = Ax的m 信號的稀疏性是壓縮感知中最流行的信號結構。最簡單的情形下,稀疏性意味著x只有少量的非零值。更廣泛地說,當x以某種適當?shù)姆绞奖硎臼窍∈钑r,就可以應用壓縮感知思想。壓縮感知核心理論有個驚人的結果:如果x(或x的合適表示)是k稀疏的,即它至多有k個非零元素,那么它可以通過y=Ax使用數(shù)量級為klog(n)的測量m來恢復信號。此外,重建算法的復雜度可以是簡單的多項式時間量級。 并且可以證明這些算法對x的噪聲和錯誤建模是魯棒的。壓縮感知的首批研究論文大多致力于分析壓縮感知的矩陣A的理論保證,以期實現(xiàn)穩(wěn)定的恢復并開發(fā)出高效的算法。
信號的稀疏性這一基本發(fā)現(xiàn)為信號處理、圖像恢復和壓縮算法帶來了全新的方法,在本書中也列舉了從壓縮感知中受益的一些領域。有趣的是,壓縮感知的研究領域源自于近似理論、Banach空間理論、凸優(yōu)化、框架理論、數(shù)值線性代數(shù)、隨機矩陣理論以及信號處理等眾多領域。數(shù)學家、計算機科學家和工程師共同努力為壓縮感知理論和應用做出了卓越的貢獻。這包括各種高效感知矩陣、用于稀疏恢復的快速算法、稀疏概念擴展到更一般的信號結構(包括低秩矩陣和模擬信號模型)、依賴壓縮感知思想的亞奈奎斯特轉換器的硬件設計,以及雷達分析、人臉識別、圖像處理和生物醫(yī)學成像的應用等。此外,壓縮感知還有望通過利用信號結構來提高分辨率。在這些設置中有效地利用可用的自由度,可能會徹底改變許多應用,如雷達和顯微鏡,F(xiàn)在的顯微學、民用和軍用監(jiān)視、醫(yī)學成像、雷達以及其他許多應用都依賴于有效的采樣,且分辨率有限。降低這些應用中的采樣率并提高分辨率可以改善用戶體驗,增加數(shù)據(jù)傳輸,提高成像質(zhì)量,減少曝光時間。
本書是第一本提供壓縮感知全面概述的專著。本書的潛在讀者可能是應用數(shù)學、計算機科學、電子工程或者相關研究領域的研究人員,也可能是尋求了解壓縮感知的研究生。本書既可作為研究人員的最新參考資料,也可作為研究生的教科書。
本書包含12章,由來自世界各地的著名專家撰寫,涵蓋了各種各樣的主題。本書以對壓縮感知的全面介紹開始,作為后面幾章的背景,并設置了貫穿全書的符號。第1章不要求任何該領域的預備知識,而接下來的章節(jié)分為四部分:擴展信號模型(第2~4章),感知矩陣設計(第5、6章),恢復算法和性能保證(第7~9章),以及應用(第10~12章)。 這些章節(jié)是獨立的,涵蓋了相關主題的最新研究成果,并且可以獨立于其他章節(jié)進行閱讀。下面給出每章的簡要概述。
第1章全面介紹了壓縮感知的基礎知識。在簡要的歷史概述之后,本章首先討論稀疏性和其他低維信號模型。然后,作者討論如何從一組小規(guī)模的測量中準確地恢復高維信號的中心問題,并為各種稀疏恢復算法提供了性能保證。本章最后討論了稀疏恢復框架的一些擴展。
第2章超越了傳統(tǒng)的稀疏建模,并解決了協(xié)作式結構化稀疏,為稀疏表示添加了穩(wěn)定性和先驗信息。在結構化稀疏建模中,將字典原子分組而不是將其視為單子,并且一次選擇幾個組進行信號編碼。然后通過協(xié)作添加更多結構,其中允許遵循相同模型的多個信號在編碼中協(xié)作。作者討論了這些模型在圖像恢復和盲源分離中的應用。
第3章將壓縮感知泛化為模擬信號的降速采樣。它介紹了Xampling,這是一個用于低速采樣和處理聯(lián)合子空間信號的統(tǒng)一框架。整個過程倡導硬件導向的觀點,解決實際制約因素,并舉例說明亞奈奎斯特系統(tǒng)的硬件實現(xiàn)。在Xampling的統(tǒng)一框架內(nèi)回顧了一些模擬壓縮感知的應用,包括帶有未知載波頻率的多頻帶通信、超聲成像和寬帶雷達等。
第4章討論了有限新息率(FRI)模擬信號(如來自離散測量的脈沖流)的降速采樣過程。為了充分描述FRI信號,需要利用每單位時間只有少量參數(shù)的前提,用低于奈奎斯特的速率采樣它們。作者提供了理論和算法的概述,以及在諸如超分辨率、雷達和超聲等領域的多種應用。
第5章討論了具有性能保證的隨機壓縮
Yonina C. Eldar是以色列理工學院電子工程系教授(愛德華茲工程主席),麻省理工學院電子研究實驗室研究員,斯坦福大學客座教授,導師為信號處理領域的先驅——奧本海姆。她在研究和教學方面已獲得眾多卓越獎勵,包括沃爾夫基金科研獎、赫謝爾•里奇創(chuàng)新獎、羅斯柴爾德基金會的邁克爾•布魯諾紀念獎、魏斯曼科學獎,以及穆里爾和大衛(wèi)•杰克諾卓越教學獎。她是IEEE期刊《信號處理的基礎和趨勢》的主編,信號處理和數(shù)學領域等幾個期刊的副主編,是信號處理方面的卓越教授、IEEE會士、以色列青年科學與人文科學院和以色列高等教育委員會的成員。
Gitta Kutyniok是德國柏林理工大學數(shù)學系的愛因斯坦教授,曾任普林斯頓大學、斯坦福大學和耶魯大學的博士后研究員,德國奧斯納布呂克大學的全職教授。她的研究和教學得到了各種獎項的認可,包括德國海森堡獎學金、馮•凱文獎、愛因斯坦基金會的愛因斯坦主席獎,以及韋爾斯特拉杰出教學獎,她是應用數(shù)學領域多個期刊的副主編。
譯者序
原書前言
壓縮感知簡介
引言
向量空間綜述
賦范向量空間
基底和框架
低維信號模型
稀疏模型
子空間的有限集合
模擬信號模型的子空間集合
低秩矩陣模型
流形和參數(shù)模型
感知矩陣
零空間條件
約束等距性質(zhì)(RIP)
相干性
構造感知矩陣
1.5基于 最小化方法的信號重建
1.5.1 不含噪聲的信號重建
1.5.2 含噪聲的信號重建
1.5.3 情況-最優(yōu)保證條件問題
1.5.4 正軸形與相位變化
1.6 信號重建算法
1.7 多維測量向量
1.8 總結
附錄 第1章的證明
A.1 定理1.4的證明
A.2 引理1.3的證明
A.3 引理1.6的證明
A.4 定理1.13的證明
參考文獻
第二代稀疏建模:結構化和協(xié)作信號分析
2.1 引言
2.2 圖像復原的逆問題
2.2.1 傳統(tǒng)稀疏建模
2.2.2 結構化稀疏建模
2.2.3 實驗結果
2.3 用結構和協(xié)作模型鑒別和分離源
2.3.1 分組Lasso
2.3.2 分層Lasso
2.3.3 協(xié)作分層Lasso
2.3.4 實驗結果
2.4 總結
參考文獻
Xampling:模擬信號的壓縮感知
3.1 引言
3.2 從子空間到聯(lián)合空間
3.3 Xampling
3.3.1 子空間聯(lián)合
3.3.2 架構
3.4 稀疏平移不變框架
3.4.1 平移不變子空間中的采樣
3.4.2 SI子空間的稀疏聯(lián)合
3.4.3 無限測量模型和連續(xù)有限測量模型
3.5 從理論到多頻段采樣的硬件
3.5.1 信號模型和稀疏SI公式
3.5.2 通過不均勻采樣的模擬壓縮感知
3.5.3 建模實用的ADC器件
3.5.4 調(diào)制寬帶轉換器
3.5.5 硬件設計
3.5.6 亞奈奎斯特信號處理
3.6有限新息率信號
3.6.1 模擬信號模型
3.6.2 壓縮信號采集
3.6.3 恢復算法
3.7 新息信號序列
3.7.1 模擬信號模型
3.7.2 壓縮信號采集
3.7.3 恢復算法
3.7.4 應用
3.8 聯(lián)合建模與有限離散化
3.8.1 隨機解調(diào)器
3.8.2 有限模型靈敏度
3.8.3 硬件復雜度
3.8.4 計算負載
3.8.5 模擬與離散CS雷達
3.9 討論
3.9.1 將CS擴展到模擬信號
3.9.2 CS是否是一個通用采樣方案
3.9.3 總結
參考文獻
新息率采樣:理論和應用
4.1 引言
4.1.1 采樣方案
4.1.2 FRI歷史
4.1.3 本章概覽
4.1.4 符號和約定
4.2有限新息率信號
4.2.1 FRI信號定義
4.2.2 FRI信號例子
4.3無噪聲環(huán)境中FRI信號的采樣與恢復
4.3.1使用sinc核進行采樣
4.3.2 使用加和的sinc核進行采樣
4.3.3 使用指數(shù)生成核進行采樣
4.3.4 多通道采樣
4.4噪聲對FRI恢復的影響
4.4.1 連續(xù)時間噪聲下的性能界限
4.4.2 采樣噪聲下的性能界限
4.4.3提高采樣噪聲魯棒性的FRI技術
4.5 仿真
4.5.1無噪聲環(huán)境下的采樣和重建
4.5.2 噪聲環(huán)境下的采樣和重建
4.5.3 周期FRI信號與半周期FRI信號
4.6 擴展和應用
4.6.1 采樣分段正弦信號
4.6.2 信號壓縮
4.6.3 超分辨率成像
4.6.4 超聲成像
4.6.5 多徑介質(zhì)識別
4.6.6 超分辨率雷達
附錄 Cramér-Rao界限推導
參考文獻
隨機矩陣的非漸近分析
5.1 引言
5.1.1漸近和非漸近的體系
5.1.2高矩陣是近似等距同構的
5.1.3模型和方法
5.1.4 應用
5.1.5 相關資源
5.2 預備知識
5.2.1 矩陣及其奇異值
5.2.2 網(wǎng)絡
5.2.3 亞高斯隨機變量
5.2.4 亞指數(shù)隨機變量
5.2.5 各向同性隨機向量
5.2.6 獨立隨機矩陣的求和
5.3 具有獨立元素的隨機矩陣
5.3.1 極限定理和高斯矩陣
5.3.2 具有獨立元素的一般隨機矩陣
5.4具有獨立行的隨機矩陣
5.4.1 亞高斯行
5.4.2 重尾行
5.4.3 應用:估算協(xié)方差矩陣
5.4.4 應用:隨機子矩陣和子框架
5.5 具有獨立列的隨機矩陣
5.5.1 亞高斯列
5.5.2 重尾列
5.6 約束等距同構
5.6.1 亞高斯約束等距同構
5.6.2 重尾約束等距同構
5.7 注釋
參考文獻
自適應感知的稀疏重建
6.1 引言
6.1.1去噪
6.1.2逆問題
6.1.3貝葉斯的角度
6.1.4結構稀疏性
6.2貝葉斯自適應感知
6.2.1使用一個簡單生成模型進行貝葉斯推理
6.2.2使用多成分模型進行貝葉斯推理
6.2.3量化性能
6.3準貝葉斯自適應感知
6.3.1用非自適應測量去噪
6.3.2蒸餾感知
6.3.3壓縮感知中的蒸餾法
6.4 相關工作和進一步閱讀的建議
參考文獻
壓縮感知的基本閾值方法:一種高維幾何方法
7.1 引言
7.1.1 l_1最小化魯棒性的閾值邊界
7.1.2 加權和迭代重加權l(xiāng)_1最小化閾值
7.1.3 與其他閾值邊界的比較
7.1.4 高維幾何的一些概念
7.1.5 組織結構
7.2 零空間特征
7.3 零空間特征的Grassmann角框架
7.4 評估閾值界限ζ
7.5 內(nèi)角指數(shù)的計算
7.6 外角指數(shù)的計算
7.7ρ_N (δ,C)的存在性與縮放
7.8 弱、部分和強魯棒性
7.9 ζ界限的數(shù)值計算
7.10 加權l(xiāng)_1最小化的恢復閾值
7.11 近似支撐恢復和迭代重加權l(xiāng)_1
7.12 總結
7.13 附錄
7.13.1 內(nèi)角的推導
7.13.2 外角的推導
7.13.3 引理7.7的證明
7.13.4 引理7.8的證明
參考文獻
壓縮感知貪婪算法
8.1貪婪算法,凸集最優(yōu)化的一個靈活替代算法
8.2貪婪追蹤
8.2.1基本框架
8.2.2系數(shù)更新變型
8.2.3 元素選擇的幾種變型
8.2.4 計算
8.2.5 性能保證
8.2.6 經(jīng)驗比較
8.3 閾值類算法
8.3.1迭代硬閾值
8.3.2壓縮采樣匹配追蹤和子空