香農(nóng)采樣定理告訴我們，離散信號的頻譜是其采樣的連續(xù)信號頻譜的周期延拓。為了保證信號在采樣的過程中信息不失真，信號就必須在[-pi,pi]內(nèi)是帶限的（歸一化采樣頻率，采樣頻率為N的話，信號應該帶限于[-N*pi, N*pi]）。也就是說，采樣頻率N必須大于信號所包含的最高頻率的2倍。只有滿足這個條件的信號，以N為采樣頻率時，信息不丟失。
既然帶限于[-pi,pi]的信號采樣后沒失真，就可以用離散的數(shù)字信號精確的回復連續(xù)信號。如何回復？太簡單了，在頻域內(nèi)取離散信號頻譜的一個周期不就行了嗎？如下所示：
根據(jù)頻域內(nèi)相乘等價于時域內(nèi)卷積的理論，將上式進行傅里葉反變換：
如果截止頻率wc=pi，即這個低通在[-pi,pi]內(nèi)是全通濾波器，其反變換就是sinc函數(shù)，又稱香農(nóng)函數(shù)。這樣，利用香農(nóng)函數(shù)，就能夠完整的回復原來的帶限于[-pi,pi]的信號。
仔細觀察連續(xù)信號的回復公式，你會發(fā)現(xiàn)，{sinc(t-k) : k屬于Z}這是一個互相線性無關(guān)且互相正交的函數(shù)族。函數(shù)的正交是什么概念？我們都知道空間中線段正交，指的是互相垂直。函數(shù)互相垂直怎么理解啊？好，你懂幾何空間的正交和垂直，我就能給你講明白。
解析幾何給我們提供了用代數(shù)分析幾何的工具，當把空間中的點定義了坐標軸以后，例如二維坐標，該空間中的任何一個點（或向量，向量是坐標零點和該點的連線，方向指向外部）都可以用坐標來表示，這個坐標實際上是這個向量在坐標軸上的投影。根據(jù)解析幾何，一個向量在另一個線段上的投影實際上是兩個向量的內(nèi)積，假如A的坐標（x1,x2），B的坐標(y1,y2)，那么A在B上的投影即為他們的內(nèi)積：
如果A在B上的投影為零，說明兩個線段互相垂直，又稱為正交，所以內(nèi)積為零的兩個向量是互相垂直的。這其實是歐氏二維幾何空間。好，推廣一下，假設(shè)這里有n維空間，A的坐標為(x1,x2,...,xn)，B的坐標為(y1,y2,...yn)，那么他們的內(nèi)積仍然很容易寫出來：
再進一步推廣，假設(shè)是無窮維空間，且其坐標是連續(xù)的，即x1，x2,...之間的距離為無窮小，那么上述的相乘相加就變成了兩個連續(xù)函數(shù)的相乘積分（g上面的橫杠表示共軛）：
根據(jù)這個內(nèi)積的定義，我們很容易證明，sinc函數(shù)在時間軸上的平移組成的函數(shù)族是互相正交的，用Parseval恒等式證明最為簡單。所謂Parseval恒等式其實就是信號處理中的能量守恒定律，即如果傅里葉變換是一一映射關(guān)系（嚴格的說，F(xiàn)ourier變換并不完備，必須做修改后才是一一對應的映射關(guān)系，例如，絕對值可積分的信號的Fourier變換存在，然而其Fourier變換后卻只能保證有界，不能保證Fourier變換也絕對值可積分，即反變換不一定存在，用數(shù)學的術(shù)語，就是L1(R)空間映射至L8(R)空間，這不是8，是橫過來的，表示無窮大，即有界函數(shù)組成的空間。必須對Fourier變換做改造，改造后的映射是一一對應的，這樣就不存在信息的丟失。不至于某些函數(shù)映射到頻域后，無法反變換回來），那么時域內(nèi)和頻域內(nèi)存在如下關(guān)系：
根據(jù)這個定理不難證明sinc(t-k), sinc(t-m)的內(nèi)積，在k不等于m的時候，其內(nèi)積為零，k=m的時候，內(nèi)積為1. 因為sinc函數(shù)傅里葉變換是[-pi,pi]內(nèi)的矩形函數(shù)，那么sinc(t-k)的傅里葉變換是[-pi,pi]內(nèi)是exp(-jwk)。因此有：
可見，sinc函數(shù)在時間軸上的平移函數(shù)族構(gòu)成了帶限于[-pi,pi]內(nèi)的所有函數(shù)所組成的函數(shù)空間的一組正交基，這個空間實際上是由sinc函數(shù)的位移構(gòu)成的正交基張成的。因為所有帶限于[-pi,pi]的函數(shù)都可以由sinc函數(shù)族線性組合而成。就好比整個二維空間由兩個單位坐標張成的一樣，因為整個二維空間上的點都可以用這兩個坐標軸的坐標線性組合而成。不知道線性組合、正交基的同學，回去好好讀讀線性代數(shù)。用數(shù)學的語言，就是：
注意，帶限于[-pi,pi]的所有函數(shù)的空間是{sinc(t-k)}張成的，帶限于[-pi/2, pi/2]的所有函數(shù)是{sinc(t/2-k)}張成的。前者的采樣頻率為1，后者的采樣頻率為0.5。所以他張成的這個空間又叫采樣空間，因為與采樣頻率是有關(guān)系的。前者的分辨率高于后者的分辨率（參見I. Daubichies 著的《Ten Lectures on wavelets》）。
很顯然，帶限于[-pi/2,pi/2]的函數(shù)一定也帶限于[-pi,pi]，所以，低分辨率的函數(shù)可以用高分辨率的基線性的疊加，反過來就不行。也就是說，你的采樣頻率比如是1，分辨率變低，可以。變高不可能，只能估計插值。所以，不同分辨率的{sinc(2^j-k)}張成的空間Vj是嵌套的。即高分辨率的空間包含低分辨率的。
信號從高分辨率向低分辨率的分解是可以的，即由帶限于[-pi,pi]的空間V0，分辨率降低一半后，包含帶限于[-pi/2.pi/2]的空間V1。那么[-pi, -pi/2], [pi/2, pi]這部分信息呢？包含在V1的補空間W1中。即
V0=V1+W1。
函數(shù)空間W1的正交基，就是小波基，其母函數(shù)，就是小波函數(shù)(wavelet function)。采樣空間的正交基的母函數(shù)，又稱為尺度函數(shù)Scale function.
實際上，能夠稱得上尺度函數(shù)的函數(shù)有無窮多，但必須滿足如下幾個條件：
（1）在[-pi, pi]內(nèi)是全通的濾波器；
（2）正交，即在頻域內(nèi)，其周期延拓能夠剛好覆蓋整個頻率軸（下面這個定理也很容易證明，參見崔錦泰著，程正興譯的《小波分析導論》）：
這種在不同的采樣空間內(nèi)的分解稱為多分辨分析，多分辨分析是小波分析的重要內(nèi)容之一，只有構(gòu)成一組正交基，最起碼也需要是無約束基（Riesz）的母函數(shù)，才能稱為合格的小波函數(shù)，因為只有這樣的函數(shù)，在進行不同尺度變換分解的時候，其快速的分解算法（Mallat算法）才成立。很遺憾，很多應用小波的人并不注意這一點。
由此可見，香農(nóng)采樣定理包含的內(nèi)容很廣泛！用香農(nóng)基對信號的回復只不過是多分辨分析的一種特例，函數(shù)在正交基上的投影恰好是其采樣值。
離散時間的傅里葉變換（DTFT）把原來的連續(xù)信號的頻譜周期延拓了，在頻域內(nèi)變?yōu)橹芷诘暮瘮?shù)，但其頻譜仍然是連續(xù)的，不適合我們進行計算機的處理。實際上，在很多工程應用中，頻率也需要離散。頻率如何離散？DFT和DTFT的區(qū)別是什么？請看下回。
