前言：想要寫出一篇令人眼前一亮的文章嗎？我們特意為您整理了5篇神經(jīng)網(wǎng)絡(luò)反向傳播公式范文，相信會(huì)為您的寫作帶來幫助，發(fā)現(xiàn)更多的寫作思路和靈感。

神經(jīng)網(wǎng)絡(luò)反向傳播公式范文第1篇

關(guān)鍵詞:電氣設(shè)備;故障診斷;神經(jīng)網(wǎng)絡(luò);學(xué)習(xí)算法

中圖分類號(hào):TP183

近年來,隨著電氣設(shè)備復(fù)雜度的增加,其發(fā)生故障的概率也逐漸上升。即使是熟練工程師,面對(duì)日趨復(fù)雜的設(shè)備內(nèi)部電氣結(jié)構(gòu),也難以迅速分析及判別其故障原因。與此同時(shí),涌現(xiàn)出的各種智能算法、專家系統(tǒng)等,為設(shè)備診斷問題提供了可行的方案。其中,神經(jīng)網(wǎng)絡(luò)以其特有優(yōu)勢(shì)在電氣設(shè)備故障診斷中發(fā)揮了重要作用。神經(jīng)網(wǎng)絡(luò)理論是人工智能、認(rèn)知學(xué)、腦神經(jīng)學(xué)、信息學(xué)等諸多學(xué)科融合發(fā)展的結(jié)果,它是由大量簡(jiǎn)單的處理單元(稱為神經(jīng)元),通過廣泛的互相連接而形成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)能力,可以根據(jù)電氣設(shè)備的正常歷史數(shù)據(jù)訓(xùn)練,將訓(xùn)練結(jié)果信息與當(dāng)前測(cè)量數(shù)據(jù)進(jìn)行比較,以確定故障。同時(shí)它具有濾除噪聲的能力,這使其能在噪聲環(huán)境中有效地在線監(jiān)測(cè)及診斷。其具有的分辯故障原因及類型的能力,為未來實(shí)現(xiàn)故障智能診斷奠定了基礎(chǔ)。本文介紹神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其學(xué)習(xí)算法,提出一種基于BP網(wǎng)絡(luò)的電氣設(shè)備故障診斷方法,通過網(wǎng)絡(luò)訓(xùn)練及結(jié)果測(cè)試表明,該方法具有良好的故障診斷能力。[JP]

1 BP神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)有很多模型,例如BP網(wǎng)絡(luò)、Kohonen,Hopfield及ART等。其中,反向傳播網(wǎng)絡(luò)(Back[CD*2]Propagation Network)在神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中有著十分重要的影響,工程應(yīng)用中的絕大多數(shù)網(wǎng)絡(luò)模型都采用BP模型或其變形,可以說BP模型體現(xiàn)了神經(jīng)網(wǎng)絡(luò)中的精華。

1.1 BP神經(jīng)網(wǎng)絡(luò)模型

以三層前向BP網(wǎng)絡(luò)為例,對(duì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行分析,其組成包括輸入層、隱含層和輸出層。如圖1所示,圖中圓圈表示神經(jīng)元,Wir表示輸入層第i個(gè)神經(jīng)元與隱含層第r個(gè)神經(jīng)元的連接權(quán)值;Vrj表示隱含層第r個(gè)神經(jīng)元與輸出層第j個(gè)神經(jīng)元的連接權(quán)值;其間的連線表示神經(jīng)元之間的相互作用強(qiáng)度。И

從圖1的結(jié)構(gòu)中可以得到,隱含層節(jié)點(diǎn)的輸出函數(shù)和輸出層節(jié)點(diǎn)的輸出函數(shù)分別為:

式中:Tr和θr分別為隱含層和輸出層的單元閾值。在本文設(shè)計(jì)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中,式(1)中的f(•)采用sigmoid函數(shù),即f(x)=(1+e-x)-1。И

1.2 BP學(xué)習(xí)算法

BP模型的成功得益于BP算法的應(yīng)用,即誤差反向傳播算法。BP算法屬于梯度下降算法,是一種監(jiān)督式的學(xué)習(xí)算法。用網(wǎng)絡(luò)的實(shí)際輸出與目標(biāo)矢量之間的誤差來修正網(wǎng)絡(luò)權(quán)值,使輸出與期望盡可能接近(網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小);通過反復(fù)在誤差函數(shù)梯度下降方向上調(diào)整網(wǎng)絡(luò)權(quán)值的變化,逐漸逼近目標(biāo)。每次權(quán)值和偏差的變化都與網(wǎng)絡(luò)輸出誤差的影響成正比,并以反向傳播的方式傳遞到每一層。BP網(wǎng)絡(luò)是由兩部分組成:信息的正向傳遞和誤差的反向傳播。

設(shè)神經(jīng)元的輸入矢量為[WTHX]X[WTBX]=\[x1,x2,…,xn\],其中n是輸入層的神經(jīng)元數(shù)。對(duì)應(yīng)于輸入[WTHX]X的輸出矢量是Y[WTBX]=\[y1,y2,…,ym\],其中m 是輸出層的神經(jīng)元數(shù)。如果要求網(wǎng)絡(luò)的期望輸出是[WTHX]T[WTBX]=\[t1,t2,…,tm\],г蛭蟛詈數(shù)可以定義為:

BP算法采用梯度下降法來調(diào)整網(wǎng)絡(luò)的權(quán)值,以使上述誤差函數(shù)減小,即:

Иw(n+1)=w(n)-η(E/w)[JY](3)И

式中:常數(shù)Е鞘僑ㄖ檔髡速率,通常取值0.01≤η≤1。權(quán)值WУ牡髡方法采用以下公式:

式中:ИΔwpq表示某層第p個(gè)節(jié)點(diǎn)到下一層第q個(gè)節(jié)點(diǎn)的權(quán)值修正量;xp表示節(jié)點(diǎn)p的輸出;δq表示節(jié)點(diǎn)qУ畝說愕燃畚蟛,由輸出層的等效誤差反傳而來:

式中:對(duì)應(yīng)BP模型網(wǎng)絡(luò)結(jié)構(gòu)(見圖1);節(jié)點(diǎn)q位于輸出層;節(jié)點(diǎn)h位于隱層。

2 電氣設(shè)備故障檢測(cè)實(shí)例

在電氣設(shè)備中發(fā)動(dòng)機(jī)是故障率比較高的設(shè)備之一,其在故障診斷中比較具有代表性。在此,以發(fā)動(dòng)機(jī)為例,分析BP神經(jīng)網(wǎng)絡(luò)在電氣設(shè)備故障診斷過程中的一般模式及步驟。

2.1 網(wǎng)絡(luò)樣本選取及參數(shù)選擇

分析發(fā)動(dòng)機(jī)的常見故障模式,首先選擇具有代表性的故障作為特征向量,取[WTHX]X[WTBX]=[x1,x2,x3,x4]作為神經(jīng)網(wǎng)絡(luò)的輸入。其中:x1代表功率不足故障;x2代表聲音異常故障;x3代表排氣溫度高故障;x4代表消耗量過大故障。通過分析故障原因,取[WTHX]Y[WTBX]=[y1,y2,y3,y4,y5]作為目標(biāo)輸出向量。其中:y1代表點(diǎn)火不正確;y2代表高壓線圈損壞;y3代表出現(xiàn)燃爆現(xiàn)象;y4代表進(jìn)氣排氣管故障;y5代表增壓積炭過多故障。表1給出了輸入故障現(xiàn)象[WTHX]X和輸出原因分析Y[WTBX]е間的對(duì)應(yīng)關(guān)系。

由此可知,在設(shè)計(jì)基于三層BP神經(jīng)網(wǎng)絡(luò)的發(fā)動(dòng)機(jī)故障診斷系統(tǒng)中,輸入層神經(jīng)元節(jié)點(diǎn)數(shù)N=4,輸出層神經(jīng)元節(jié)點(diǎn)數(shù)M=5。由公式h=(N+M)+σ可得隱含層神經(jīng)元節(jié)點(diǎn)數(shù)h取3~6之間的數(shù)。И

2.2 訓(xùn)練及測(cè)試

通過輸入樣本組對(duì)所設(shè)計(jì)的網(wǎng)絡(luò)進(jìn)行訓(xùn)練,選擇訓(xùn)練誤差為10-6。例如,輸入樣本[WTHX]X[WTBX]=[0,0,1,0],調(diào)整網(wǎng)絡(luò)狀態(tài),使其輸出接近目標(biāo)[WTHX]Y[WTBX]=[1,0,0,1,0],即當(dāng)發(fā)生排氣溫度過高故障時(shí),可能原因是點(diǎn)火不正確以及進(jìn)氣排氣管問題。訓(xùn)練網(wǎng)絡(luò)的過程,實(shí)際上就是調(diào)整網(wǎng)絡(luò)參數(shù)的過程,具體來說,最主要的就是確定各個(gè)網(wǎng)絡(luò)權(quán)值。最終訓(xùn)練好的網(wǎng)絡(luò)在測(cè)試過程中,能較為準(zhǔn)確地診斷出故障問題的原因。在工程使用過程中,選擇故障檢測(cè)過程中各種儀器測(cè)量出來、有代表意義的測(cè)量數(shù)據(jù),根據(jù)先驗(yàn)知識(shí)及專家分析,組成輸入樣本和目標(biāo)向量組,對(duì)設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)訓(xùn)練。在訓(xùn)練過程中,可增加輸入樣本的數(shù)量。因?yàn)橥ㄟ^大量樣本訓(xùn)練,神經(jīng)網(wǎng)絡(luò)能具有更好的適應(yīng)性和魯棒性,其故障診斷的準(zhǔn)確性有所提高。采用C++builder及Matlab混合編程,前者負(fù)責(zé)做界面系統(tǒng)的開發(fā),后者集中在神經(jīng)網(wǎng)絡(luò)算法的設(shè)計(jì)上,據(jù)此進(jìn)一步提高本工作的實(shí)際應(yīng)用能力。

神經(jīng)網(wǎng)絡(luò)反向傳播公式范文第2篇

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)造價(jià)預(yù)測(cè)研究

Abstract: this paper introduces the BP neural network of network structure and the learning process, and the BP neural network to predict the application of project cost.

Keywords: BP neural network cost prediction research

中圖分類號(hào)：TU723.3文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：

BP神經(jīng)網(wǎng)絡(luò)的算法稱為反向傳播算法(Back-Propagation)簡(jiǎn)稱BP算法，BP網(wǎng)絡(luò)也由此得名。BP網(wǎng)絡(luò)的學(xué)習(xí)過程是由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過程組成。在正向傳播過程中，信號(hào)從輸入層傳入，經(jīng)隱單元逐層處理后傳向輸出層，如果在輸出層的實(shí)際輸出與期望輸出不符，則轉(zhuǎn)入反向傳播，將誤差信號(hào)以某種形式由原來的連接通路返回，通過隱層向輸入層反傳，并在返回過程中修改各層神經(jīng)元連接的權(quán)值。這種過程循環(huán)進(jìn)行，直到輸出誤差達(dá)到允許的范圍或達(dá)到網(wǎng)絡(luò)預(yù)先設(shè)定的學(xué)習(xí)次數(shù)。

1BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)

BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示，輸入數(shù)據(jù)由輸入層進(jìn)入，輸入層連接隱層，隱層連接輸出層，輸出數(shù)據(jù)從輸出層導(dǎo)出。輸入層、輸出層神經(jīng)元個(gè)數(shù)根據(jù)具體實(shí)際情況設(shè)置，隱層可以是一層，也可是多層由相應(yīng)的輸入層、輸出層神經(jīng)元個(gè)數(shù)根據(jù)公式確定。各層之間神經(jīng)元連接強(qiáng)度的加權(quán)值（簡(jiǎn)稱權(quán)值）允許不同，權(quán)值越大表示該輸入的影響越大。神經(jīng)元的所有輸入采用加權(quán)和的方式。輸入、輸出向量分別用x和y，且x=(x1，x2，…，xn)，y=(y1，y2，…，ym)，表示輸入層、輸出層分別有n、m個(gè)節(jié)點(diǎn)輸入輸出向量分別是 n 維和 m 維。

圖1BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

2BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程

簡(jiǎn)單說來BP網(wǎng)絡(luò)的整個(gè)學(xué)習(xí)過程就是權(quán)值與閾值的不斷修正過程，BP網(wǎng)絡(luò)的整個(gè)學(xué)習(xí)過程的步驟如下圖：

圖2 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程

3 BP 神經(jīng)網(wǎng)絡(luò)在工程造價(jià)預(yù)測(cè)中應(yīng)用

工程造價(jià)預(yù)測(cè)是一個(gè)十分復(fù)雜的模式識(shí)別問題，特別是預(yù)測(cè)中存在廣泛的非線性問題，這增加了模式識(shí)別的復(fù)雜性。BP 神經(jīng)網(wǎng)絡(luò)由于其本身信息處理的特點(diǎn)，使其能夠出色解決那些傳統(tǒng)識(shí)別方法難以解決的問題，近年來工程領(lǐng)域的仿真預(yù)測(cè)成為神經(jīng)網(wǎng)絡(luò)的重要應(yīng)用領(lǐng)域之一。

對(duì)于一般的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)，診斷工作可以分為測(cè)前工作與測(cè)后工作兩部分工作。測(cè)前工作，根據(jù)經(jīng)驗(yàn)在一定的條件下，將常見的各種費(fèi)用超支情況及正常情況所對(duì)應(yīng)的理論值用實(shí)驗(yàn)或理論計(jì)算求出。并以此作為BP神經(jīng)網(wǎng)絡(luò)的樣本及樣本期望,輸入特定的BP神經(jīng)網(wǎng)絡(luò)，進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練，實(shí)際預(yù)測(cè)時(shí)，在同樣的條件下，將實(shí)際數(shù)據(jù)經(jīng)處理后輸入特定的BP神經(jīng)網(wǎng)絡(luò)。其輸出即是對(duì)應(yīng)的預(yù)測(cè)值。神經(jīng)網(wǎng)絡(luò)具有推論聯(lián)想的能力，具有很強(qiáng)的泛化能力，不僅能識(shí)別已經(jīng)訓(xùn)練過的樣本，而且能通過推論聯(lián)想識(shí)別為出現(xiàn)過的樣本。綜上所述，用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行公路工程造價(jià)預(yù)測(cè)，步驟可以總結(jié)為：建模、參數(shù)選定、預(yù)測(cè)模型結(jié)構(gòu)確定。

3.1神經(jīng)網(wǎng)絡(luò)建模步驟

在實(shí)際應(yīng)用中，面對(duì)一個(gè)具體的問題，首先需要分析利用神經(jīng)網(wǎng)絡(luò)求解問題的性質(zhì)，然后依據(jù)問題特點(diǎn)，確立網(wǎng)絡(luò)模型。最后通過對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練、仿真等，檢驗(yàn)網(wǎng)絡(luò)的性能是否滿足要求。主要步驟包括：確定信息表達(dá)式、網(wǎng)絡(luò)模型的確定、網(wǎng)絡(luò)參數(shù)的選擇、訓(xùn)練模式的確定、網(wǎng)絡(luò)測(cè)試。

3.2模型參數(shù)的確定

（1）實(shí)際完成金額

公路工程造價(jià)的發(fā)展具有連續(xù)性，其數(shù)量特征呈相對(duì)穩(wěn)定，或者與其他經(jīng)濟(jì)現(xiàn)象之間的相互聯(lián)系具有相對(duì)穩(wěn)定的模式，因而有可能對(duì)其發(fā)展過程加以模擬，利用實(shí)際完成金額等歷史資料比較準(zhǔn)確地推斷其將來。

（2）主要材料價(jià)格

由于公路工程涉及工程材料種類多，工程施工經(jīng)歷時(shí)間跨度大，期間材料價(jià)格波動(dòng)影響因素較多，要綜合考慮這些因素進(jìn)行預(yù)測(cè)往往要大量的基礎(chǔ)資料。

（3）天氣狀況

由于公路項(xiàng)目施工主要是在野外作業(yè)，所以受天氣影響比較大，所以天氣狀況也是影響工程造價(jià)的一個(gè)因素。

（4）進(jìn)場(chǎng)主要施工機(jī)械設(shè)備數(shù)量

設(shè)備材料費(fèi)，是工程造價(jià)的主要組成部分。因此，施工設(shè)備投入數(shù)量，是影響工程造價(jià)增減的重要?jiǎng)討B(tài)因素

4結(jié)語

基于 BP 神經(jīng)網(wǎng)絡(luò)的公路工程造價(jià)預(yù)測(cè)，能夠充分利用公路工程造價(jià)的歷史數(shù)據(jù)，通過高度的非線性映射，得到預(yù)測(cè)結(jié)果。與傳統(tǒng)的工程造價(jià)方法相比較，該方法具有自組織、自學(xué)習(xí)、自適應(yīng)和泛化能力，因而有廣泛的應(yīng)用前景。而 BP 神經(jīng)網(wǎng)絡(luò)的精確預(yù)測(cè)需要真實(shí)、可靠、準(zhǔn)確的樣本輸入數(shù)據(jù)以及相對(duì)應(yīng)的樣本期望數(shù)據(jù)，就需要我國(guó)公路工程造價(jià)歷史數(shù)據(jù)的不斷積累，公路工程造價(jià)制度的不斷完善。

參考文獻(xiàn)

[1]袁助,基于項(xiàng)目總控模式的高速公路造價(jià)動(dòng)態(tài)控制方法研究[D],長(zhǎng)沙理工大學(xué),2009年.

神經(jīng)網(wǎng)絡(luò)反向傳播公式范文第3篇

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)、BP算法、工程快速估價(jià)

引言

現(xiàn)在經(jīng)濟(jì)的快速發(fā)展，建筑市場(chǎng)的管理機(jī)制逐步完善，大中型工程復(fù)雜，施工周期長(zhǎng)，對(duì)施工方柱子投標(biāo)階段及時(shí)準(zhǔn)確的做出項(xiàng)目的最終成本成為工程造價(jià)管理中重要內(nèi)容，本文中應(yīng)用神經(jīng)網(wǎng)絡(luò)原理，通過編寫MATLAB程序，針對(duì)多層現(xiàn)澆框架混凝土寫字樓，通過調(diào)整計(jì)算權(quán)值，計(jì)算反向傳播誤差，輸出計(jì)算結(jié)果和繪制誤差曲線誤差，將誤差控制在10%以內(nèi)，從而對(duì)2011年進(jìn)行預(yù)測(cè)。

1基于神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)原理

1.1正向建模[3]

正向建模是指訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)表達(dá)系統(tǒng)正向動(dòng)態(tài)的過程，這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型。正向模型的結(jié)構(gòu)如圖4-1所示，其中神經(jīng)網(wǎng)絡(luò)與待辨識(shí)上網(wǎng)系統(tǒng)并聯(lián)，兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號(hào)。顯然這是一個(gè)典型的有教師學(xué)習(xí)問題，實(shí)際系統(tǒng)作為教師，向神經(jīng)網(wǎng)絡(luò)提供算法所需的期望輸出。當(dāng)系統(tǒng)是被控對(duì)象或傳統(tǒng)控制器時(shí)，神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式，可直接選用BP網(wǎng)絡(luò)或其它的各種變形。當(dāng)系統(tǒng)為性能評(píng)價(jià)器時(shí)，則可選取再勵(lì)學(xué)習(xí)算法，這時(shí)網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)，如多層感知器，也可采用具有局部逼近能力的網(wǎng)絡(luò)，如小腦模型關(guān)節(jié)控制器（CMAC）等。

1.2BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

BP神經(jīng)網(wǎng)絡(luò)是一種具有三層或三層以上神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，包括輸入層、中間層和輸出層，上下層之間實(shí)現(xiàn)全連接，而每層神經(jīng)元之間無連接。當(dāng)一對(duì)學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后，神經(jīng)元的激活值從輸入層經(jīng)各中間層向輸出層傳播，在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來，按照減少目標(biāo)輸出與實(shí)際輸出之間誤差的方向，從輸出層反向經(jīng)過各中間層回到輸入層，從而逐層修正各種連接權(quán)值，即“誤差反向傳播算法”，即BP算法。

2基于BP神經(jīng)網(wǎng)絡(luò)的工程快速估價(jià)方法

2.1BP網(wǎng)絡(luò)結(jié)構(gòu)

房屋建筑的任何一個(gè)特征都會(huì)影響到總的預(yù)算，論文中選取了寫字樓類建筑物為例進(jìn)行研究，選定現(xiàn)澆鋼筋混凝土框架結(jié)構(gòu)多層寫字樓，基礎(chǔ)類型、樓面工程、墻體工程、門窗形式、房間組合、層數(shù)、外墻裝飾共計(jì)七個(gè)對(duì)工程造價(jià)起主要影響作用的因素，將這些因素作為神經(jīng)網(wǎng)絡(luò)的輸入向量，建立神經(jīng)網(wǎng)絡(luò)模型，首先進(jìn)行網(wǎng)絡(luò)訓(xùn)練，這時(shí)的BP網(wǎng)絡(luò)共計(jì)三層，其中輸入層含有7個(gè)變量，中間層采取常用經(jīng)驗(yàn)公式得到15個(gè)，輸出為1個(gè)變量即為寫字樓的米造價(jià)。

2.2數(shù)據(jù)歸一化處理

程序調(diào)用數(shù)據(jù)之前，為保證所有的數(shù)據(jù)均落在[0,1]之間，首先需要進(jìn)行歸一化處理，論文的程序中采取的歸一化處理方式是使每一影響因素中同時(shí)處理這一因素中的最大值或偏大于最大值，處理后的數(shù)據(jù)調(diào)入程序后，更方便計(jì)算，同時(shí)使得誤差更小。

2.3BP網(wǎng)絡(luò)程序?qū)崿F(xiàn)

論文中的數(shù)據(jù)是搜集到的已建現(xiàn)澆混凝土框架結(jié)構(gòu)寫字樓工程的工程造價(jià)數(shù)據(jù)，選取30組作為測(cè)試樣本，其中的20組作為預(yù)測(cè)樣本，通過進(jìn)行誤差的求解和繪制誤差曲線得出結(jié)果，過程見圖2-1

function main()

SSE1=0;

DelthadW1Ex=0;

DelthadW2Ex=0;

SamNum=30;

TestSamNum=20;

HiddenUnitNum=15;

InDim=7;

OutDim=1;

%顯示計(jì)算結(jié)果

i

W1=W1Ex(:,1:InDim)

B1=W1Ex(:,InDim+1)

W2

B2=W2Ex(:,1+HiddenUnitNum)

相對(duì)誤差a：

a =

0.1080 0.0902 -0.0148 -0.0227 0.0327 0.0198 0.0096 0.1182 0.0164 0.0857 -0.0221 0.0794 -0.0368 0.0260 0.0306 0.0338 0.0562 0.0467 0.0736 0.0638

誤差曲線：

3結(jié)論

應(yīng)用BP算法，通過編寫MATLAB程序，如果搜集得到的歷史數(shù)據(jù)真實(shí)，通過調(diào)整權(quán)值，能夠?qū)⒄`差控制在10%，能夠很好的解決工程快速估價(jià)問題。

參考文獻(xiàn):

[1] 段曉牧. 基于RBF神經(jīng)網(wǎng)絡(luò)的非確定性工程投資估算新方法的研究.[D]

神經(jīng)網(wǎng)絡(luò)反向傳播公式范文第4篇

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò) 特征提取 模式識(shí)別

中圖分類號(hào)：U495 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-098X（2017）01（a）-0115-05

隨著通信技術(shù)的飛速發(fā)展，出現(xiàn)了適用于不同背景環(huán)境的通信標(biāo)準(zhǔn)，每種標(biāo)準(zhǔn)都有其特定的調(diào)制方式和工作頻段，為了滿足人們實(shí)現(xiàn)不同標(biāo)準(zhǔn)間互通的需求，軟件無線電技術(shù)應(yīng)運(yùn)而生。它利用可升級(jí)、可替代的軟件來完成盡可能多的通信功能硬件模塊，將多種類型的信號(hào)處理基于一體。為了能夠處理不同類型的調(diào)制信號(hào)，必須首先識(shí)別出信號(hào)的調(diào)制類型，然后才能進(jìn)行下一步處理。因此，調(diào)制信號(hào)的自動(dòng)識(shí)別技術(shù)，就成了軟件無線電技術(shù)中的關(guān)鍵。

神經(jīng)網(wǎng)絡(luò)具有的信息分布式存儲(chǔ)、大規(guī)模自適應(yīng)并行處理和高度的容錯(cuò)性等特點(diǎn)，是用于模式識(shí)別的基礎(chǔ)。特別是其學(xué)習(xí)能力和容錯(cuò)性對(duì)不確定性模式R別具有獨(dú)到之處。其中BP網(wǎng)絡(luò)長(zhǎng)期以來一直是神經(jīng)網(wǎng)絡(luò)分類器的熱點(diǎn)，由于它理論發(fā)展成熟，網(wǎng)絡(luò)結(jié)構(gòu)清晰，因此得到了廣泛應(yīng)用?；贏.K. Nandi和E.E. Azzouz從瞬時(shí)頻率、瞬時(shí)幅度和瞬時(shí)相位中提取的特征參數(shù)，我們就可以用神經(jīng)網(wǎng)絡(luò)對(duì)常用的數(shù)字調(diào)制信號(hào)進(jìn)行自動(dòng)分類。

1 神經(jīng)網(wǎng)絡(luò)

根據(jù)T. Koholen的定義：“人工神經(jīng)網(wǎng)絡(luò)是由具有適應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界物體做出交互反應(yīng)?！比斯ど窠?jīng)網(wǎng)絡(luò)是在現(xiàn)代神經(jīng)學(xué)研究成果的基礎(chǔ)上發(fā)展起來的模仿人腦信息處理機(jī)制的網(wǎng)絡(luò)系統(tǒng)，它由大量簡(jiǎn)單的人工神經(jīng)元廣泛連接而成，反映了人腦功能的若干特性，可以完成學(xué)習(xí)、記憶、識(shí)別和推理等功能。

2 數(shù)字調(diào)制信號(hào)特征參數(shù)的提取

計(jì)算機(jī)處理的信號(hào)都是對(duì)調(diào)制信號(hào)采樣后的采樣信號(hào)序列，因此設(shè)采樣序列為（n=0，1，2，…，Ns），采樣頻率為。對(duì)采樣序列進(jìn)行希爾伯特變換，得如下解析表達(dá)式：

（1）

采樣序列的瞬時(shí)幅度：

（2）

瞬時(shí)相位：

（3）

由于是按模計(jì)算相位序列，當(dāng)相位的真值超過，按模計(jì)算相位序列就會(huì)造成相位卷疊。載波頻率引起的線性相位分量，是造成相位卷疊的主要因素。因此，必須對(duì)進(jìn)行去相位卷疊。去相位卷疊后的相位序列為，再對(duì)進(jìn)行去線性相位運(yùn)算，得到真正相位序列。瞬時(shí)頻率為：

（4）

在上述基礎(chǔ)上，提取下面5個(gè)特征參數(shù)。

（1）是被截取信號(hào)片段的零中心歸一化瞬時(shí)幅度的譜密度的最大值，定義為：

（5）

其中為零中心歸一化瞬時(shí)幅度在t=i/fs（i=1，2，…，Ns）時(shí)刻的值；為采樣速率；為每一個(gè)信號(hào)樣本采樣點(diǎn)的樣本個(gè)數(shù)。定義如下：

-1 （6）

其中：

， （7）

（2）為非弱信號(hào)段中瞬時(shí)相位非線性分量的絕對(duì)值的標(biāo)準(zhǔn)偏差，定義如下：

（8）

其中為經(jīng)過零中心化處理后瞬時(shí)相位的非線性分量在時(shí)刻的值；為判斷弱信號(hào)段的一個(gè)幅度判決門限電平，在門限以下信號(hào)對(duì)噪聲非常敏感，這里取；C為全部取樣數(shù)據(jù)中大于判決門限的樣本數(shù)據(jù)的個(gè)數(shù)。

（3）為非弱信號(hào)段中瞬時(shí)相位非線性分量的標(biāo)準(zhǔn)偏差，定義如下：

（9）

（4）為零中心歸一化非弱信號(hào)段瞬時(shí)幅度絕對(duì)值的標(biāo)準(zhǔn)偏差，定義如下：

（10）

（5）為零中心歸一化非弱信號(hào)段瞬時(shí)頻率絕對(duì)值的標(biāo)準(zhǔn)偏差，定義如下：

（11）

其中，，，，rs為數(shù)字序列的符號(hào)速率。

3 基于BP網(wǎng)絡(luò)的數(shù)字調(diào)制信號(hào)的自動(dòng)識(shí)別

把BP網(wǎng)絡(luò)應(yīng)用于數(shù)字調(diào)制信號(hào)的自動(dòng)識(shí)別，是應(yīng)用了其簡(jiǎn)單的結(jié)構(gòu)和非線性映射的本質(zhì)。將特征參數(shù)映射成與其對(duì)應(yīng)的調(diào)制信號(hào)，是此方法的基本思路。

3.1 調(diào)制信號(hào)識(shí)別的基本原理

由上述得到的5個(gè)特征參數(shù)區(qū)分多種數(shù)字調(diào)制信號(hào)的原理，可用圖1簡(jiǎn)單示意。

用于區(qū)分是否包含幅度信息的信號(hào)；用于區(qū)分是否包含絕對(duì)相位信息的信號(hào)；用于區(qū)分是否包含直接相位信息的信號(hào)；用于區(qū)分是否包含絕對(duì)幅度信息的信號(hào)；用于區(qū)分是否包含絕對(duì)頻率信息的信號(hào)。

3.2 BP網(wǎng)絡(luò)

BP網(wǎng)絡(luò)結(jié)構(gòu)上是一個(gè)多層感知器，其基本算法是反向傳播算法，反向傳播（BP）算法是一種有師學(xué)習(xí)算法，BP算法的學(xué)習(xí)過程由正向傳播和反向傳播兩部分組成，在正向傳播過程中，輸入向量從輸入層經(jīng)過隱含層神經(jīng)元的處理后，傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元狀態(tài)。如果在輸出層得不到期望輸出，則轉(zhuǎn)入反向傳播，此時(shí)誤差信號(hào)從輸出層向輸入層傳播并沿途調(diào)整各層間連接權(quán)值和閾值，以使誤差不斷減小，直到達(dá)到精度要求。

標(biāo)準(zhǔn)的BP算法如下（以單隱層結(jié)構(gòu)為例）。

W和b分別為輸入層與隱層神經(jīng)元之間的權(quán)值和閾值；x為輸入層的輸入；u和v分別為隱層的輸入和輸出；為輸出層的輸入；為隱層與輸出層之間的權(quán)值；y為網(wǎng)絡(luò)的實(shí)際輸出；d為網(wǎng)絡(luò)的期望輸出；e為誤差。

（1）正向傳播過程。

輸入層：特征參數(shù)向量組x為網(wǎng)絡(luò)的輸入。

隱含層：其輸入值u為輸入層的加權(quán)和（當(dāng)網(wǎng)絡(luò)為單隱層時(shí)）。

（12）

輸出為：

（13）

式中為神經(jīng)元的激勵(lì)函數(shù)，通常為Sigmoid函數(shù)。

（14）

輸出層：輸出層神經(jīng)元的激勵(lì)函數(shù)通常為線性函數(shù)，所以輸出值為輸入值的加權(quán)和。

（15）

由y和d求出誤差e。若e滿足要求或達(dá)到最大訓(xùn)練次數(shù)，則算法結(jié)束，網(wǎng)絡(luò)完成訓(xùn)練，否則進(jìn)入反向傳播過程。

（2）反向傳播過程。

首先定義誤差函數(shù)：

（16）

BP學(xué)習(xí)算法采用梯度下降法調(diào)整權(quán)值，每次調(diào)整量為：

（17）

式中，η為學(xué)習(xí)率，0

①對(duì)于輸出層與隱含層之間的權(quán)值修正量：

（18）

其中

②對(duì)于隱含層與輸入層之間的權(quán)值修正量：

（19）

式中，則下一次迭代時(shí)：

（20）

（21）

（3）BP網(wǎng)絡(luò)的設(shè)計(jì)。

由神經(jīng)網(wǎng)絡(luò)理論可知，具有至少一個(gè)帶偏差的S形隱含層和一個(gè)帶偏差的線性輸出層的網(wǎng)絡(luò)，能夠逼近任意的有理函數(shù)。因此該設(shè)計(jì)采用3層網(wǎng)絡(luò)結(jié)構(gòu)。

①輸入層：輸入層神經(jīng)元的個(gè)數(shù)就是輸入向量的維數(shù)。

②隱含層：根據(jù)經(jīng)驗(yàn)公式，隱含層神經(jīng)元個(gè)數(shù)M與輸入層神經(jīng)元個(gè)數(shù)N大致有如下關(guān)系：M=2N+1，又考慮到計(jì)算精度的問題，因此隱層設(shè)計(jì)為5。一般說來，隱節(jié)點(diǎn)越多，計(jì)算精度越高，但是計(jì)算時(shí)間也會(huì)越長(zhǎng)。

③輸出層：一般說來輸出層神經(jīng)元的個(gè)數(shù)等于要識(shí)別的調(diào)制類型的個(gè)數(shù)，但是還要具體情況具體分析。

結(jié)合該次設(shè)計(jì)實(shí)際，網(wǎng)絡(luò)采用1-5-2結(jié)構(gòu)。

（4）神經(jīng)網(wǎng)絡(luò)方法實(shí)現(xiàn)自動(dòng)調(diào)制識(shí)別的步驟。

在此將該文方法實(shí)現(xiàn)的步驟歸納如下。

①由接收到的調(diào)制信號(hào)求其采樣序列，進(jìn)而得到其復(fù)包絡(luò)。

②由信號(hào)的復(fù)包絡(luò)求其瞬時(shí)幅度，順勢(shì)相位和瞬時(shí)頻率。

③由信號(hào)的瞬時(shí)參量求其5個(gè)特征參數(shù)。

④用信號(hào)的特征參數(shù)向量組訓(xùn)練網(wǎng)絡(luò)。

⑤用訓(xùn)練好的網(wǎng)絡(luò)對(duì)調(diào)制信號(hào)進(jìn)行自動(dòng)識(shí)別。

（5）MATLAB仿真。

為對(duì)用神經(jīng)網(wǎng)絡(luò)進(jìn)行調(diào)制信號(hào)自動(dòng)識(shí)別的方法進(jìn)行性能驗(yàn)證，下面對(duì)2FSK和2PSK做MATLAB仿真試驗(yàn)：基帶信號(hào)的碼元速率為50 kHz，載波頻率為150 kHz，采樣速率為1 200 kHz，對(duì)于2FSK信號(hào)，載波之差為50 kHz。將網(wǎng)絡(luò)調(diào)整到最佳狀況，對(duì)網(wǎng)絡(luò)進(jìn)行了100次的仿真訓(xùn)練，隨機(jī)抽取了一組數(shù)據(jù)的收斂均方誤差曲線如圖2所示。

對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行性能測(cè)試。仿真識(shí)別實(shí)驗(yàn)分別對(duì)2FSK和2PSK信號(hào)采用SNR=10 dB，15 dB，20 dB和∞ 4組數(shù)據(jù)進(jìn)行。在對(duì)網(wǎng)絡(luò)進(jìn)行了100次仿真識(shí)別的基礎(chǔ)上得到以下數(shù)據(jù)，見表1。

由表1可以看出，用標(biāo)準(zhǔn)BP算法訓(xùn)練出來的神經(jīng)網(wǎng)絡(luò)，對(duì)2PSK信號(hào)有著較理想的識(shí)別成功率，在信噪比等于10 dB的情況下，依然可以達(dá)到99.5%以上的識(shí)別成功率。而對(duì)2FSK信號(hào)的識(shí)別成功率就不盡如人意，雖然在信噪比等于20 dB的情況下可以完全識(shí)別信號(hào)，但在信噪比等于10 dB的情況下，識(shí)別率較低。

4 結(jié)語

基于神經(jīng)網(wǎng)絡(luò)的數(shù)字調(diào)制信號(hào)自動(dòng)識(shí)別的研究雖然初見成果，但是整體上看，它未對(duì)更多的調(diào)制類型進(jìn)行測(cè)試，而且對(duì)某些類型的調(diào)制信號(hào)識(shí)別的效果還不甚理想。在仿真試驗(yàn)中，不可避免地出現(xiàn)了收斂速度慢、存在局部極小值和概率極小的不收斂現(xiàn)象這3個(gè)BP網(wǎng)絡(luò)本質(zhì)上的缺陷。采用改進(jìn)的BP算法或者其他神經(jīng)網(wǎng)絡(luò)可以改善網(wǎng)絡(luò)性能和提高R別成功率。

神經(jīng)網(wǎng)絡(luò)用于調(diào)制識(shí)別方法的可行性已初見端倪，與其他方法相比，神經(jīng)網(wǎng)絡(luò)具有的信息分布式存儲(chǔ)、大規(guī)模自適應(yīng)并行處理和高度的容錯(cuò)性等特點(diǎn)，使其非常適合于調(diào)制識(shí)別，而且它簡(jiǎn)單有效，極易用軟件或硬件實(shí)現(xiàn)，相信神經(jīng)網(wǎng)絡(luò)技術(shù)能夠在軟件無線電領(lǐng)域發(fā)揮它獨(dú)特而重要的作用。

參考文獻(xiàn)

[1] 黃春琳，邱玲，沈振康.數(shù)字調(diào)制信號(hào)的神經(jīng)網(wǎng)絡(luò)識(shí)別方法[J].國(guó)防科技大學(xué)學(xué)報(bào)，1999（2）：58-61.

[2] 吳惠.數(shù)字信號(hào)調(diào)制方式識(shí)別技術(shù)研究[D].蘭州交通大學(xué)，2014.

[3] 飛思科技產(chǎn)品研發(fā)中心.神經(jīng)網(wǎng)絡(luò)理論與MATLAB7實(shí)現(xiàn)[M].電子工業(yè)出版社，2005：44-58.

[4] 蘭雪梅，朱健，董德存.BP網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)[J].微型電腦應(yīng)用，2003（1）：6-8.

[5] 姚亞峰，黃載祿.通信信號(hào)調(diào)制識(shí)別技術(shù)[J].通信技術(shù)，2003（6）：43-45，52.

[6] 姜莉.利用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)調(diào)制信號(hào)的自動(dòng)識(shí)別[J].電子測(cè)試，2014（7）：71-73.

[7] 從爽.神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)及其在運(yùn)動(dòng)控制中的應(yīng)用[M].中國(guó)科學(xué)技術(shù)大學(xué)出版社，2002：17-31.

[8] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及其仿真實(shí)例[M].機(jī)械工業(yè)出版社，2003：44-53.

[9] 飛思科技產(chǎn)品研發(fā)中心.MATLAB 6.5輔助神經(jīng)網(wǎng)絡(luò)分析與設(shè)計(jì)[M].電子工業(yè)出版社，2003：64-69.

[10] 李峻.基于決策理論的軟件無線電信號(hào)調(diào)制樣式自動(dòng)識(shí)別[J].大連鐵道學(xué)院學(xué)報(bào)，2002（4）：50-54.

[11] 趙知?jiǎng)?，莊嬋飛，干立.調(diào)制樣式BP神經(jīng)網(wǎng)絡(luò)分類器[J].現(xiàn)代雷達(dá)，2003（10）：22-24.

[12] 林華東，龐偉正.軟件無線電中數(shù)字調(diào)制信號(hào)的自動(dòng)識(shí)別[J].應(yīng)用科技，2004（6）：25-27.

[13] 王康利，謝建菲，趙蘭華.基于神經(jīng)網(wǎng)絡(luò)的軟件無線電信號(hào)的調(diào)制識(shí)別[J].計(jì)算機(jī)測(cè)量與控制，2004，12（9）：877-878.

[14] 姜立芳，劉泊，施蓮輝.一種改進(jìn)的BP算法及其在模式識(shí)別中的應(yīng)用[J].哈爾濱理工大學(xué)學(xué)報(bào)，2003（3）：90-92.

神經(jīng)網(wǎng)絡(luò)反向傳播公式范文第5篇

【摘要】 目的： 探討矽肺纖維化同生物活性介質(zhì)之間的關(guān)系。方法： 利用Delphi語言編制了BP人工神經(jīng)網(wǎng)絡(luò)模型計(jì)算機(jī)程序，建立并分析了矽肺膠原纖維預(yù)測(cè)的數(shù)學(xué)模型。結(jié)果： 選定網(wǎng)絡(luò)隱含層節(jié)點(diǎn)為9，初始權(quán)值閾值約為(-0.2，0.2)，最大相對(duì)誤差為4%，最小相對(duì)誤差為0.2%。 結(jié)論： 應(yīng)用神經(jīng)網(wǎng)絡(luò)具有較好的預(yù)測(cè)效果，可為臨床醫(yī)學(xué)研究提供一個(gè)很好的研究思路。

【關(guān)鍵詞】 BP神經(jīng)網(wǎng)絡(luò)； 生物活性介質(zhì)； 矽肺； 膠原纖維； 預(yù)測(cè)

矽肺是塵肺中最嚴(yán)重的一種類型，是由于長(zhǎng)期吸入超過一定濃度的含有游離二氧化硅的粉塵，肺內(nèi)發(fā)生廣泛的結(jié)節(jié)性纖維化。矽肺纖維化的預(yù)測(cè)困難，診斷滯后。目前，矽肺的發(fā)病機(jī)理仍然不完全清楚，尚無有效的早期診斷（篩檢）方法，也無早期診斷的特異性指標(biāo)和特異性的治療藥物和方法。一經(jīng)傳統(tǒng)的后前位胸大片確診，肺部病變已經(jīng)無法逆轉(zhuǎn)。因此，尋找早期診斷(篩檢)特異性的生物介質(zhì)組合，對(duì)預(yù)防、治療乃至最終消除矽肺具有重要意義。矽肺的發(fā)病與細(xì)胞因子（Cytokine，CK）網(wǎng)絡(luò)調(diào)控有密切聯(lián)系，高宏生等用系統(tǒng)生物學(xué)的方法論證了細(xì)胞因子對(duì)矽肺纖維化的網(wǎng)絡(luò)調(diào)控關(guān)系［1，2］，論證了細(xì)胞因子復(fù)雜非線性致炎致纖維化的網(wǎng)絡(luò)調(diào)控假說。王世鑫等用判別方程的方法，通過診斷肺纖維化正確率。矽肺纖維化與不同活性介質(zhì)、基因表達(dá)等多種因素密切相關(guān)［3］，因此預(yù)計(jì)是一個(gè)多目標(biāo)決策問題。傳統(tǒng)的預(yù)測(cè)方法是用多元線性回歸來進(jìn)行預(yù)測(cè)，統(tǒng)計(jì)者千方百計(jì)的想找出決策目標(biāo)和各因素之間找出一個(gè)線性的公式關(guān)系，試圖想用一個(gè)嚴(yán)格的數(shù)學(xué)模型公式表達(dá)出相應(yīng)的關(guān)系。實(shí)際上，具有良好的非線性的神經(jīng)網(wǎng)絡(luò)可以預(yù)測(cè)矽肺纖維化結(jié)果。本研究圖基于神經(jīng)網(wǎng)絡(luò)的方法預(yù)測(cè)生物活性介質(zhì)網(wǎng)絡(luò)調(diào)控的矽肺纖維化。

1 神經(jīng)網(wǎng)絡(luò)的基本理論

人工神經(jīng)網(wǎng)絡(luò)是基于對(duì)人腦組織結(jié)構(gòu)、活動(dòng)機(jī)制的初步認(rèn)識(shí)提出的一種新型信息處理體系。通過模仿腦神經(jīng)系統(tǒng)的組織結(jié)構(gòu)以及某些活動(dòng)機(jī)理，人工神經(jīng)網(wǎng)絡(luò)可呈現(xiàn)出人腦的許多特征，并具有人腦的一些基本功能。從本質(zhì)上講，人工神經(jīng)網(wǎng)絡(luò)是一種大規(guī)模并行的非線性動(dòng)力系統(tǒng)。它具有許多引人注目的特點(diǎn)：大規(guī)模的復(fù)雜系統(tǒng)，有大量可供調(diào)節(jié)的參數(shù)；高度并行的處理機(jī)制，具有高速運(yùn)算的能力；高度冗余的組織方式等。

在預(yù)測(cè)領(lǐng)域中應(yīng)用最廣泛的還是BP網(wǎng)絡(luò)。BP網(wǎng)絡(luò)的學(xué)習(xí)算法是一種誤差反向傳播式網(wǎng)絡(luò)權(quán)值訓(xùn)練方法。實(shí)質(zhì)就象最小二乘法一樣，BP算法是在樣本空間中耦合這樣一個(gè)曲面，即使所有的樣本點(diǎn)均在這個(gè)曲面上，若這樣的曲面不存在，就找到離樣本點(diǎn)的距離之和最小的曲面作為近似解。

BP網(wǎng)絡(luò)的學(xué)習(xí)過程包括：正向傳播和反向傳播。當(dāng)正向傳播時(shí)，輸入信息從輸入層經(jīng)隱單元處理，后傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層的神經(jīng)元的狀態(tài)。如果在輸出層得不到希望的輸出，則轉(zhuǎn)入反向傳播，將誤差信號(hào)沿原來的神經(jīng)連接通路返回。返回過程中，逐一修改各層神經(jīng)元連接的權(quán)值。這種過程不斷迭代，最后使得信號(hào)誤差達(dá)到允許的誤差范圍之內(nèi)。如圖1所示為3層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。

輸入層

隱含層

輸出層

圖1 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

設(shè)3層BP神經(jīng)網(wǎng)絡(luò)，輸入向量為X=(x1，x2，…xn)T ；隱層輸出向量為Y=(y1，y2，…ym)T ，輸出層向量為O=(o1，o2，…ol)T ，期望輸出向量為d=(d1，d2，…dl)T 。

對(duì)于輸出層，有ok =f(net)，netk=m j=0wjkyj ，k=1，2，…l

對(duì)于隱層，有yj =f(net)，netj=n i=0vijxi ，k=1，2，…m

f(x)=1 1+e-x ，BP學(xué)習(xí)算法權(quán)值調(diào)整計(jì)算公式為：

Δwjk=η(dk-ok)ok(1-ok)yj

Δvij=η(l k=1δ0k wjk)yj(1-yj)xi

δ0k =(dk-ok)ok(1-ok)

η∈(0，1)

2 應(yīng)用實(shí)例

2.1 矽肺預(yù)測(cè)的影響因素

大量研究表明，肺泡巨噬細(xì)胞和肺泡上皮細(xì)胞在肺組織炎癥反應(yīng)及纖維化病變的啟動(dòng)、發(fā)展過程中起到最為關(guān)鍵的作用，主要是通過分泌細(xì)胞因子、炎性介質(zhì)等生物活性物質(zhì)，發(fā)揮直接或間接的生物學(xué)作用。這些CK包括：白介素（interleukin，IL）、腫瘤壞死因子（tumor necrosis factor ，TNF）、轉(zhuǎn)化生長(zhǎng)因子（transforming growth factor，TGF）等。根據(jù)分泌細(xì)胞因子不同將Th 細(xì)胞分為Th1 和Th2 兩種類型。Th1主要分泌白介素-2（interleukin-2，IL-2）、白介素-12（interleukin-12，IL-12）、白介素-18（interleukin-18，IL-18）、干擾素-γ（Interferon-γ，IFN-γ）等，主要介導(dǎo)細(xì)胞免疫應(yīng)答，與炎癥有關(guān)，具有抗纖維化作用，可抑制成纖維細(xì)胞的增殖及纖維的生成。Th2主要分泌白介素-4 （interleukin-4，IL-4）、白介素-5 （interleukin-5，IL-5）、白介素-10 （interleukin-10，IL-10）、白介素-13（interleukin-13，IL-13）、單核細(xì)胞趨化蛋白-1 （monocyte chemoattractant protein-1，MCP-1）等，而Th2主要介導(dǎo)體液免疫反應(yīng)，可促進(jìn)成纖維細(xì)胞的增生，導(dǎo)致膠原蛋白合成增加，并抑制膠原蛋白的降解，最終導(dǎo)致細(xì)胞外的基質(zhì)蛋白沉積和纖維生成。Th1 型和Th2 型免疫應(yīng)答之間存在著交互的負(fù)反饋?zhàn)饔?，維持著正常的免疫平衡。其負(fù)反饋調(diào)節(jié)通常就是靠產(chǎn)生的細(xì)胞因子起作用的，即一型CK可以下調(diào)另一型CK的功能。Th1/Th2型CK失衡可導(dǎo)致機(jī)體對(duì)損傷的異常反應(yīng)。總之，矽肺病人存在CK網(wǎng)絡(luò)的平衡紊亂，其錯(cuò)綜復(fù)雜的調(diào)控機(jī)制可能參與矽肺的發(fā)生和發(fā)展［6~9］，如圖2所示。

圖2 細(xì)胞因子網(wǎng)絡(luò)調(diào)控圖

2.2 矽肺預(yù)測(cè)的BP網(wǎng)絡(luò)模型的設(shè)計(jì)

本研究運(yùn)用神經(jīng)網(wǎng)絡(luò)的模型方法，對(duì)矽肺預(yù)測(cè)進(jìn)行設(shè)計(jì)，得出其預(yù)測(cè)模型。

2.2.1 輸入層、隱含層、輸出層的設(shè)計(jì)

矽肺纖維化輸入層的確定：根據(jù)meta分析和微分方程網(wǎng)絡(luò)模型確定生物活性介質(zhì)為輸入層。

轉(zhuǎn)貼于

對(duì)于矽肺預(yù)測(cè)，應(yīng)當(dāng)依據(jù)其關(guān)鍵要素來確定輸入層各因素，在神經(jīng)網(wǎng)絡(luò)模型中，輸入層可以選定白介素（interleukin，IL）、腫瘤壞死因子（tumor necrosis factor ，TNF）、轉(zhuǎn)化生長(zhǎng)因子（transforming growth factor，TGF）等。根據(jù)分泌細(xì)胞因子不同將Th 細(xì)胞分為Th1 和Th2 兩種類型。Th1主要分泌白介素-2（interleukin-2，IL-2）、白介素-12（interleukin-12，IL-12）、白介素-18（interleukin-18，IL-18）、干擾素-γ（Interferon-γ，IFN-γ）作為輸入層，輸入單元數(shù)為8，隱含層節(jié)點(diǎn)的確定參考下面單元計(jì)算公式：

c=n+m+a

其中c 為隱層單元數(shù)，n為輸入神經(jīng)元個(gè)數(shù)，m 為輸出神經(jīng)元個(gè)數(shù)，a 為1~10之間的常數(shù)。本研究中，隱層單元數(shù)計(jì)算如下：

8+2+1≤c≤8+2+10

即：4.33≤c≤13.33

根據(jù)c 的計(jì)算值，由小到大改變節(jié)點(diǎn)數(shù)訓(xùn)練并檢驗(yàn)其精度，當(dāng)節(jié)點(diǎn)數(shù)的增加誤差不進(jìn)一步減小時(shí)，其臨界值即為應(yīng)采用的值。最后，經(jīng)過網(wǎng)絡(luò)的實(shí)際訓(xùn)練結(jié)果比較，選定網(wǎng)絡(luò)隱含層節(jié)點(diǎn)為9，此時(shí)網(wǎng)絡(luò)能較快地收斂至所要求的精度。

2.2.2 初始權(quán)值的確定

在神經(jīng)網(wǎng)絡(luò)模型中，初始權(quán)值選取對(duì)于輸出結(jié)果是否最接近實(shí)際，及是否能夠收斂、學(xué)習(xí)時(shí)間的長(zhǎng)短等關(guān)系很大。初始權(quán)值太大，使得加權(quán)之后的輸入和N落在了網(wǎng)絡(luò)模型的s型激活函數(shù)的飽和期中，從而會(huì)導(dǎo)致φ′(·)非常小，而由于當(dāng) φ′(·)0時(shí)，則有δ0，使得Δwji 0，最終使得調(diào)節(jié)過程沒有什么效果。所以權(quán)值及閾值的初始值應(yīng)選為均勻分布的小數(shù)經(jīng)驗(yàn)值，約為(-2.4/F，2.4/F)之間，其中F為所連單元的輸入層節(jié)點(diǎn)數(shù)。本模型輸入端節(jié)點(diǎn)數(shù)為11，所以初始值約為(-0.2，0.2)，可隨機(jī)選?。?］。

2.2.3 目標(biāo)值及學(xué)習(xí)步長(zhǎng)的選取

對(duì)矽肺預(yù)測(cè)之前，應(yīng)先根據(jù)影響矽肺預(yù)測(cè)的因素進(jìn)行綜合預(yù)測(cè)。在實(shí)際操作時(shí)，還應(yīng)結(jié)合經(jīng)驗(yàn)值。若Sigmoid函數(shù)選取反對(duì)稱函數(shù)——雙曲正切函數(shù)，綜合評(píng)估指標(biāo)的目標(biāo)值D的范圍也應(yīng)在［-1，1］之間，也即是綜合指標(biāo)的無量綱數(shù)值在［0，1］之間。通常輸出單元的局部梯度比輸入端的大，所以輸出單元的學(xué)習(xí)的步長(zhǎng)應(yīng)比輸入單元小一些［5］。

通過以上分析可得網(wǎng)絡(luò)模型結(jié)構(gòu)如圖3。利用Delphi語言編制了BP人工神經(jīng)網(wǎng)絡(luò)模型計(jì)算機(jī)程序進(jìn)行訓(xùn)練集樣本訓(xùn)練，訓(xùn)練輸入節(jié)點(diǎn)數(shù)為8，表1為矽肺預(yù)測(cè)輸入訓(xùn)練樣本和檢測(cè)樣本，當(dāng)誤差給定E＝0.00005，學(xué)習(xí)步長(zhǎng)為0.1，經(jīng)200次訓(xùn)練，網(wǎng)絡(luò)精度達(dá)到要求，如表2和圖4所示。表1 矽肺預(yù)測(cè)輸入訓(xùn)練樣本和檢測(cè)樣本表2 訓(xùn)練樣本訓(xùn)練次數(shù)網(wǎng)絡(luò)誤差

樣本經(jīng)200次訓(xùn)練后，網(wǎng)絡(luò)誤差滿足精度要求，隱含單元到各輸入單元的權(quán)值和閾值及輸出單元到各隱含單元的權(quán)值和閾值調(diào)整為表3和表4所示。

由于矽肺預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)模型經(jīng)訓(xùn)練后，網(wǎng)絡(luò)精度已經(jīng)達(dá)到要求，可以用檢驗(yàn)樣本檢測(cè)預(yù)測(cè)效果，如表5所示。

從預(yù)測(cè)結(jié)果看，最大相對(duì)誤差為4.0%，最小相對(duì)誤差為0.2%，預(yù)測(cè)效果非常明顯，該網(wǎng)絡(luò)的檢驗(yàn)性能穩(wěn)定，可以很好的對(duì)矽肺進(jìn)行預(yù)測(cè)。表3 隱含單元到各輸入單元的權(quán)值和閾值表4 輸出單元到各隱含單元的權(quán)值和閾值表5 檢驗(yàn)樣本及矽肺預(yù)測(cè)結(jié)果

3 討論

本研究通過采用神經(jīng)網(wǎng)絡(luò)的方法，探討矽肺纖維化同生物活性介質(zhì)之間的關(guān)系，并建立了矽肺纖維化的影響因素和Ⅰ型膠原、Ⅲ型膠原的BP神經(jīng)網(wǎng)絡(luò)，從預(yù)測(cè)效果看，能夠較準(zhǔn)確的預(yù)測(cè)矽肺纖維化。但還應(yīng)當(dāng)看到神經(jīng)網(wǎng)絡(luò)應(yīng)用到預(yù)測(cè)還有許多不盡如意的問題，主要的弱點(diǎn)之一是它是一種黑盒方法，無法表達(dá)和分析被預(yù)測(cè)系統(tǒng)的輸入與輸出間的關(guān)系，因此，也難于對(duì)所得結(jié)果作任何解釋，對(duì)任何求得數(shù)據(jù)做統(tǒng)計(jì)檢驗(yàn)； 二是采用神經(jīng)網(wǎng)絡(luò)作預(yù)測(cè)時(shí)，沒有一個(gè)便于選定最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法，只能花大量時(shí)間采用湊試法，從許多次實(shí)驗(yàn)中找出“最合適”的一種。本研究在矽肺預(yù)測(cè)上運(yùn)用神經(jīng)網(wǎng)絡(luò)建模上進(jìn)行了初步的探討，對(duì)網(wǎng)絡(luò)模型的拓展性、收斂性等問題還有待于進(jìn)一步的研究 。

參考文獻(xiàn)

1 高宏生， 伍瑞昌， 張雙德， 等. 基于meta分析和微分方程模型的肺纖維化細(xì)胞因子調(diào)控網(wǎng)絡(luò)研究. 軍事醫(yī)學(xué)科學(xué)院院刊，2008，32（3）：312~316.

2 高宏生，楊霞，丁朋，等. 應(yīng)用meta分析肺纖維化TNF-α的時(shí)空變化. 武警醫(yī)學(xué)院學(xué)報(bào)，2008，17（8）：561~562.

3 劉萍 王世鑫 陳蕾，等. 矽肺患者血清克拉拉細(xì)胞蛋白和表面活性蛋白D的改變. 中華勞動(dòng)衛(wèi)生職業(yè)病雜志， 2007， 25(01):18~21.

4 韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用.化學(xué)工業(yè)出版社，2001.

5 何海龍，王青海，王精業(yè).神經(jīng)網(wǎng)絡(luò)在裝備保障性評(píng)估中的應(yīng)用. 系統(tǒng)工程理論與實(shí)踐，2003，9：111~116.

6 Kohonen T.Self-Organization and Associative Memory. Berlin Heidelberg:Springer-Verlag，1984.

7 Lapedes A，F(xiàn)arber.Nonlinear signal processing using neural networks :prediction and system modelling［R］.Technical Report LA-UR-87-2662，Los Alam os National Laboratory.Los Alamos.NM，1987.

8 Wang CH， Mo LR， Lin RC， et al. Artificial neural network model is superior to logistic regression model in predicting treatment outcomes of interferon-based combination therapy in patients with chronic hepatitis C.Intervirology，2008，51(1):14~20.

9 Kato H， Kanematsu M， Zhang X，et al. Computer-aided diagnosis of hepatic fibrosis: preliminary evaluation of MRI texture analysis using the finite difference method and an artificial neural network.AJR Am J Roentgenol， 2007，189(1):117~122.

10 Piscaglia F， Cucchetti A， Benlloch S，et al. Prediction of significant fibrosis in hepatitis C virus infected liver transplant recipients by artificial neural network analysis of clinical factors. J Gastroenterol Hepatol， 2006，18(12):1255~1261.