您的位置:網(wǎng)站首頁 > 優(yōu)秀論文 > 正文
一種基于神經(jīng)網(wǎng)絡(luò)的自適應(yīng)濾波器設(shè)計(jì)-科技論文
作者:趙愛良來源:原創(chuàng)日期:2012-12-18人氣:969
濾波器結(jié)構(gòu)與算法
根據(jù)濾波器的要求,采用復(fù)雜反饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),如圖1所示,此結(jié)構(gòu)為單個(gè)隱含層,隱含層結(jié)點(diǎn)數(shù)目大約在3-(2N+1)之間,N為輸入的節(jié)點(diǎn)數(shù)。
濾波器的參數(shù)是由預(yù)知的一定長(zhǎng)度的輸入序列與輸出序列來確定的,學(xué)習(xí)算法的目的是通過分析這組預(yù)知的教師值來確定濾波器參數(shù)使其在指定的輸入序列激勵(lì)下,濾波器的輸出與期望的輸出之間的均方差最小。由于本文濾波器的結(jié)構(gòu)中既包括單層網(wǎng)絡(luò),又包括多層網(wǎng)絡(luò),而且濾波器中存在反饋回路,因而傳統(tǒng)的訓(xùn)練算法-BP反傳算法不適用。直接從誤差最速下降原則出發(fā)研究訓(xùn)練算法,誤差最速下降原則是指濾波器的參數(shù)沿著誤差對(duì)參數(shù)的負(fù)梯度方向運(yùn)動(dòng)。根據(jù)迭代方式和誤差負(fù)梯度計(jì)算方法的不同可分為兩種算法:第一種算法是在每一個(gè)訓(xùn)練周期內(nèi)計(jì)算所有教師值序列的均方差對(duì)ω的導(dǎo)數(shù),然后再修改ω值,這樣不斷訓(xùn)練直至均方差達(dá)到可接受范圍,這種訓(xùn)練方法稱為離線訓(xùn)練算法,此算法精度高,但訓(xùn)練時(shí)間長(zhǎng);第二種算法是在每一個(gè)訓(xùn)練周期內(nèi)只計(jì)算當(dāng)前該輸入和輸出值的影響,并綜合考慮前面訓(xùn)練結(jié)果來修改ω值,這種訓(xùn)練方法可以邊獲得教師值邊訓(xùn)練,因此稱為在線訓(xùn)練算法,此算法計(jì)算量小,收斂快,但精度較低。
為了驗(yàn)證本文提出的濾波器的有效性,進(jìn)行了“同構(gòu)濾波器逼近實(shí)驗(yàn)”。本實(shí)驗(yàn)的目的是通過用相同結(jié)構(gòu)的待訓(xùn)練濾波器來逼近已知的濾波器來驗(yàn)證:(1)訓(xùn)練算法的有效性(2)各種訓(xùn)練法的訓(xùn)練時(shí)間以及逼近精度的比較。
(一)實(shí)驗(yàn)過程
設(shè)有已知濾波器A,它的前饋端輸入階次N=8,反饋端輸入階次M=8,隱層單元數(shù)Q=8,A的所有ω值和θ值均為[-1,1]區(qū)間內(nèi)的等概率隨機(jī)數(shù)。另有待訓(xùn)練濾波器B,B與A的結(jié)構(gòu)相同,它的ω值和θ值均為[-0.5,0.5]之間的等概率隨機(jī)數(shù)且不等于0。A、B的各輸入端初始值均為零。
取隨機(jī)序列x(n)和XT(n),二者均為[0,1]區(qū)間上等概率分布。其中x(n)的長(zhǎng)度為10000,XT(n)的長(zhǎng)度為300。A在x(n)驅(qū)動(dòng)下輸出序列為y(n),A在XT(n)驅(qū)動(dòng)下輸出為YT(n)。
使用{x(n),y(n)}訓(xùn)練濾波器B,并在每個(gè)訓(xùn)練周期后計(jì)算B與A的誤差,誤差公式為:設(shè)B在XT(n)驅(qū)動(dòng)下輸出為YT(n),則:
不使用前100組數(shù)據(jù)的原因是為了避免濾波器不同初態(tài)對(duì)結(jié)果的影響。
在同樣的初始條件下,對(duì)濾器B采用三種訓(xùn)練方法:
(1)線訓(xùn)練算法
(2)線訓(xùn)練算法
(3)先進(jìn)行在線訓(xùn)練算法,再用離線訓(xùn)練算法提高精度。
以下是計(jì)算機(jī)仿真結(jié)果:
(二)數(shù)據(jù)分析
經(jīng)過充分訓(xùn)練之后,三種訓(xùn)練方法均收斂,其中,在線訓(xùn)練算法大約提供:的精度,離線訓(xùn)練算法在精度上較在線訓(xùn)練算法好,不過每訓(xùn)練周期離線算法要求計(jì)算所有的10000樣本,整個(gè)訓(xùn)練耗時(shí)約為在線算法的100倍。
在線與離線結(jié)合算法,是當(dāng)在線算法訓(xùn)練中誤差均方不再減小時(shí)(大約訓(xùn)練3000次之后),以此時(shí)的ω為初態(tài)使用離線訓(xùn)練算法,經(jīng)過大約200次訓(xùn)練后均方差降至離線訓(xùn)練算法水平。因此這種方法提供與離線訓(xùn)練算法相同的精度,但訓(xùn)練時(shí)間大幅度減小。
濾波器的實(shí)現(xiàn)
神經(jīng)網(wǎng)絡(luò)濾波器運(yùn)行過程分為學(xué)習(xí)過程和濾波過程。學(xué)習(xí)過程指濾波器根據(jù)教師值來確定自身參數(shù)的過程。這部分計(jì)算復(fù)雜、數(shù)據(jù)量大,但不需要實(shí)時(shí)處理,對(duì)系統(tǒng)計(jì)算能力要求不高,應(yīng)該使用通用計(jì)算機(jī)系統(tǒng)或DSP系統(tǒng)將前面所討論的算法編寫相應(yīng)的代碼即可實(shí)現(xiàn)。濾波過程是實(shí)時(shí)處理的過程,它的速度直接關(guān)系到濾波器的數(shù)據(jù)吞吐率,應(yīng)該使用FPGA和一些專用芯片組合來實(shí)現(xiàn)。
神經(jīng)網(wǎng)絡(luò)濾波器的前饋端和反饋端的輸入是卷積結(jié)構(gòu),隱層和輸出層是加權(quán)求和結(jié)構(gòu)。濾波器的模塊圖如圖5所示。卷積器可采用如圖6的倒置型結(jié)構(gòu)。
倒置型卷積器由n個(gè)乘加器與n-1個(gè)延時(shí)器組成,它的特點(diǎn)是輸入僅經(jīng)過一個(gè)乘加器的延遲就產(chǎn)生輸出,能獲得很高的數(shù)據(jù)吞吐率。
濾波器性能的瓶頸是圖5的虛線框A中間部分。這一部分可以采用流水線結(jié)構(gòu),由流水線S函數(shù)求值器、流水線乘法器和流水線累加器組成。設(shè)數(shù)據(jù)進(jìn)入流水線的時(shí)鐘間隔為,數(shù)據(jù)通過流水線的時(shí)間為,則這部分總耗時(shí)為??s短tT要求流水線節(jié)拍少,而縮短要求流水線節(jié)拍多,節(jié)拍多又會(huì)增大系統(tǒng)的規(guī)模,設(shè)計(jì)中應(yīng)該依據(jù)實(shí)際情況來確定如何劃分節(jié)拍和節(jié)點(diǎn),圖7示例一種四節(jié)拍流水線,實(shí)際應(yīng)用時(shí)應(yīng)劃分得更細(xì)一些。
圖5中虛線框B與A具有同樣的結(jié)構(gòu),但是,兩輸入的加權(quán)求和器使用流水線在性能和規(guī)模上都是不經(jīng)濟(jì)的。諳以B中兩個(gè)S函數(shù)求值器可不在同一時(shí)間完成,上面的S函數(shù)求值器可以在計(jì)算A框時(shí)完成,所以B框可采用圖8結(jié)構(gòu),它的延時(shí)為。
根據(jù)濾波器的要求,采用復(fù)雜反饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),如圖1所示,此結(jié)構(gòu)為單個(gè)隱含層,隱含層結(jié)點(diǎn)數(shù)目大約在3-(2N+1)之間,N為輸入的節(jié)點(diǎn)數(shù)。
濾波器的參數(shù)是由預(yù)知的一定長(zhǎng)度的輸入序列與輸出序列來確定的,學(xué)習(xí)算法的目的是通過分析這組預(yù)知的教師值來確定濾波器參數(shù)使其在指定的輸入序列激勵(lì)下,濾波器的輸出與期望的輸出之間的均方差最小。由于本文濾波器的結(jié)構(gòu)中既包括單層網(wǎng)絡(luò),又包括多層網(wǎng)絡(luò),而且濾波器中存在反饋回路,因而傳統(tǒng)的訓(xùn)練算法-BP反傳算法不適用。直接從誤差最速下降原則出發(fā)研究訓(xùn)練算法,誤差最速下降原則是指濾波器的參數(shù)沿著誤差對(duì)參數(shù)的負(fù)梯度方向運(yùn)動(dòng)。根據(jù)迭代方式和誤差負(fù)梯度計(jì)算方法的不同可分為兩種算法:第一種算法是在每一個(gè)訓(xùn)練周期內(nèi)計(jì)算所有教師值序列的均方差對(duì)ω的導(dǎo)數(shù),然后再修改ω值,這樣不斷訓(xùn)練直至均方差達(dá)到可接受范圍,這種訓(xùn)練方法稱為離線訓(xùn)練算法,此算法精度高,但訓(xùn)練時(shí)間長(zhǎng);第二種算法是在每一個(gè)訓(xùn)練周期內(nèi)只計(jì)算當(dāng)前該輸入和輸出值的影響,并綜合考慮前面訓(xùn)練結(jié)果來修改ω值,這種訓(xùn)練方法可以邊獲得教師值邊訓(xùn)練,因此稱為在線訓(xùn)練算法,此算法計(jì)算量小,收斂快,但精度較低。
為了驗(yàn)證本文提出的濾波器的有效性,進(jìn)行了“同構(gòu)濾波器逼近實(shí)驗(yàn)”。本實(shí)驗(yàn)的目的是通過用相同結(jié)構(gòu)的待訓(xùn)練濾波器來逼近已知的濾波器來驗(yàn)證:(1)訓(xùn)練算法的有效性(2)各種訓(xùn)練法的訓(xùn)練時(shí)間以及逼近精度的比較。
(一)實(shí)驗(yàn)過程
設(shè)有已知濾波器A,它的前饋端輸入階次N=8,反饋端輸入階次M=8,隱層單元數(shù)Q=8,A的所有ω值和θ值均為[-1,1]區(qū)間內(nèi)的等概率隨機(jī)數(shù)。另有待訓(xùn)練濾波器B,B與A的結(jié)構(gòu)相同,它的ω值和θ值均為[-0.5,0.5]之間的等概率隨機(jī)數(shù)且不等于0。A、B的各輸入端初始值均為零。
取隨機(jī)序列x(n)和XT(n),二者均為[0,1]區(qū)間上等概率分布。其中x(n)的長(zhǎng)度為10000,XT(n)的長(zhǎng)度為300。A在x(n)驅(qū)動(dòng)下輸出序列為y(n),A在XT(n)驅(qū)動(dòng)下輸出為YT(n)。
使用{x(n),y(n)}訓(xùn)練濾波器B,并在每個(gè)訓(xùn)練周期后計(jì)算B與A的誤差,誤差公式為:設(shè)B在XT(n)驅(qū)動(dòng)下輸出為YT(n),則:
不使用前100組數(shù)據(jù)的原因是為了避免濾波器不同初態(tài)對(duì)結(jié)果的影響。
在同樣的初始條件下,對(duì)濾器B采用三種訓(xùn)練方法:
(1)線訓(xùn)練算法
(2)線訓(xùn)練算法
(3)先進(jìn)行在線訓(xùn)練算法,再用離線訓(xùn)練算法提高精度。
以下是計(jì)算機(jī)仿真結(jié)果:
(二)數(shù)據(jù)分析
經(jīng)過充分訓(xùn)練之后,三種訓(xùn)練方法均收斂,其中,在線訓(xùn)練算法大約提供:的精度,離線訓(xùn)練算法在精度上較在線訓(xùn)練算法好,不過每訓(xùn)練周期離線算法要求計(jì)算所有的10000樣本,整個(gè)訓(xùn)練耗時(shí)約為在線算法的100倍。
在線與離線結(jié)合算法,是當(dāng)在線算法訓(xùn)練中誤差均方不再減小時(shí)(大約訓(xùn)練3000次之后),以此時(shí)的ω為初態(tài)使用離線訓(xùn)練算法,經(jīng)過大約200次訓(xùn)練后均方差降至離線訓(xùn)練算法水平。因此這種方法提供與離線訓(xùn)練算法相同的精度,但訓(xùn)練時(shí)間大幅度減小。
濾波器的實(shí)現(xiàn)
神經(jīng)網(wǎng)絡(luò)濾波器運(yùn)行過程分為學(xué)習(xí)過程和濾波過程。學(xué)習(xí)過程指濾波器根據(jù)教師值來確定自身參數(shù)的過程。這部分計(jì)算復(fù)雜、數(shù)據(jù)量大,但不需要實(shí)時(shí)處理,對(duì)系統(tǒng)計(jì)算能力要求不高,應(yīng)該使用通用計(jì)算機(jī)系統(tǒng)或DSP系統(tǒng)將前面所討論的算法編寫相應(yīng)的代碼即可實(shí)現(xiàn)。濾波過程是實(shí)時(shí)處理的過程,它的速度直接關(guān)系到濾波器的數(shù)據(jù)吞吐率,應(yīng)該使用FPGA和一些專用芯片組合來實(shí)現(xiàn)。
神經(jīng)網(wǎng)絡(luò)濾波器的前饋端和反饋端的輸入是卷積結(jié)構(gòu),隱層和輸出層是加權(quán)求和結(jié)構(gòu)。濾波器的模塊圖如圖5所示。卷積器可采用如圖6的倒置型結(jié)構(gòu)。
倒置型卷積器由n個(gè)乘加器與n-1個(gè)延時(shí)器組成,它的特點(diǎn)是輸入僅經(jīng)過一個(gè)乘加器的延遲就產(chǎn)生輸出,能獲得很高的數(shù)據(jù)吞吐率。
濾波器性能的瓶頸是圖5的虛線框A中間部分。這一部分可以采用流水線結(jié)構(gòu),由流水線S函數(shù)求值器、流水線乘法器和流水線累加器組成。設(shè)數(shù)據(jù)進(jìn)入流水線的時(shí)鐘間隔為,數(shù)據(jù)通過流水線的時(shí)間為,則這部分總耗時(shí)為??s短tT要求流水線節(jié)拍少,而縮短要求流水線節(jié)拍多,節(jié)拍多又會(huì)增大系統(tǒng)的規(guī)模,設(shè)計(jì)中應(yīng)該依據(jù)實(shí)際情況來確定如何劃分節(jié)拍和節(jié)點(diǎn),圖7示例一種四節(jié)拍流水線,實(shí)際應(yīng)用時(shí)應(yīng)劃分得更細(xì)一些。
圖5中虛線框B與A具有同樣的結(jié)構(gòu),但是,兩輸入的加權(quán)求和器使用流水線在性能和規(guī)模上都是不經(jīng)濟(jì)的。諳以B中兩個(gè)S函數(shù)求值器可不在同一時(shí)間完成,上面的S函數(shù)求值器可以在計(jì)算A框時(shí)完成,所以B框可采用圖8結(jié)構(gòu),它的延時(shí)為。
欄目分類
熱門排行
推薦信息
- 公路混凝土施工裂縫的防治措施探析
- 大型水利工程中地基處理技術(shù)及質(zhì)量控制研究 ——以皮山縣皮山河流域供水工程為例
- 大數(shù)據(jù)在特種設(shè)備檢驗(yàn)和管理中的應(yīng)用
- 論建筑樁基工程施工中旋挖鉆孔成樁施工技術(shù)的應(yīng)用
- 市政管網(wǎng)給排水工程中混凝土結(jié)構(gòu)施工質(zhì)量控制
- 小學(xué)網(wǎng)球體能訓(xùn)練問題及突圍策略探尋
- 中職網(wǎng)球技能培養(yǎng)與體能訓(xùn)練策略
- 個(gè)性化教學(xué)在網(wǎng)球培訓(xùn)中的應(yīng)用與實(shí)踐
- 深度學(xué)習(xí)視域下網(wǎng)球大單元教學(xué)改革研究 ——基于“教會(huì)、勤練、常賽”理念的實(shí)踐方略
- “學(xué)練賽”一體化助力初中網(wǎng)球教學(xué)的轉(zhuǎn)型與升級(jí)策略
期刊知識(shí)
- 2025年中科院分區(qū)表已公布!Scientific Reports降至三區(qū)
- 2023JCR影響因子正式公布!
- 國(guó)內(nèi)核心期刊分級(jí)情況概覽及說明!本篇適用人群:需要發(fā)南核、北核、CSCD、科核、AMI、SCD、RCCSE期刊的學(xué)者
- 我用了一個(gè)很復(fù)雜的圖,幫你們解釋下“23版最新北大核心目錄有效期問題”。
- CSSCI官方早就公布了最新南核目錄,有心的人已經(jīng)拿到并且投入使用!附南核目錄新增期刊!
- 北大核心期刊目錄換屆,我們應(yīng)該熟知的10個(gè)知識(shí)點(diǎn)。
- 注意,最新期刊論文格式標(biāo)準(zhǔn)已發(fā)布,論文寫作規(guī)則發(fā)生重大變化!文字版GB/T 7713.2—2022 學(xué)術(shù)論文編寫規(guī)則
- 盤點(diǎn)那些評(píng)職稱超管用的資源,1,3和5已經(jīng)“絕種”了
- 職稱話題| 為什么黨校更認(rèn)可省市級(jí)黨報(bào)?是否有什么說據(jù)?還有哪些機(jī)構(gòu)認(rèn)可黨報(bào)?
- 《農(nóng)業(yè)經(jīng)濟(jì)》論文投稿解析,難度指數(shù)四顆星,附好發(fā)選題!