前言：想要寫出一篇令人眼前一亮的文章嗎？我們特意為您整理了5篇神經(jīng)網(wǎng)絡反向傳播原理范文，相信會為您的寫作帶來幫助，發(fā)現(xiàn)更多的寫作思路和靈感。

神經(jīng)網(wǎng)絡反向傳播原理范文第1篇

[關鍵詞]人工神經(jīng)網(wǎng)絡；旅游物流；需求預測

[DOI]1013939/jcnkizgsc201538051

1引言

旅游物流對廣西地區(qū)經(jīng)濟的發(fā)展至關重要，準確把握、預測旅游物流需求有助于有關部門制定合理的旅游物流規(guī)劃、促進國民經(jīng)濟可持續(xù)發(fā)展、提高居民生活水平。國內(nèi)學者通過一定的方法和模型確定了影響旅游物流能力的關鍵要素，為旅游物流需求的預測提供了一定的理論基礎，而在物流需求預測方面也提出了很多如時間序列模型、灰色預測、回歸分析等具有創(chuàng)新性和實踐意義的方法。由于旅游物流具有的獨特性和負責性使得這些模型及分析方法在前提條件、適用范圍和側重點的選取方面具有一定的困難，因此在實際應用中各有利弊。人工神經(jīng)網(wǎng)絡可以將定量或定性的信息等勢的分布貯存于網(wǎng)絡內(nèi)的各神經(jīng)元，有很強的魯棒性和容錯性，通過建立基于人工神經(jīng)網(wǎng)絡的預測模型，利用Braincell軟件進行計算以期達到精確預測旅游物流需求的目的。

2旅游物流的需求界定

經(jīng)過多年的發(fā)展，關于旅游物流需求的定義至今仍沒有一個令各方滿意的結論。物流服務貫穿了整個旅游活動過程中，旅游物流可以看作為了使旅游消費者獲得更好地滿足感和旅游體驗，與旅游相關的主體提供讓旅游消費者更為暢通流動的旅游服務，與此相應的旅游物流的能力指提供的旅游服務內(nèi)容以及相關主體使用物流設施對旅游物流活動進行計劃、組織、協(xié)調(diào)和控制的能力，到旅游物流的具體環(huán)節(jié)，可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關主體運用物流設施為游客提供旅游服務的能力。文中對旅游物流需求的預測可以從往年的旅游物流能力方面進行預測，通過準確的預測旅游物流需求可以較好地規(guī)劃未來年份旅游業(yè)發(fā)展方向，對物流設施和設備進行準確的投入，減少資源的浪費及設施投入不足的狀況。

旅游物流能力是指旅游服務主體向旅游消費者從“吃、住、行、購、游、娛”6個方面提供服務的能力，旅游物流需求可根據(jù)這6方面來選取指標，但是旅游物流需求預測的準確性不僅受到旅游物流的獨特性的制約，還受到一些客觀性條件的影響。如物流統(tǒng)計制度不健全，目前，我國仍沒有建立系統(tǒng)全面的物流統(tǒng)計制度，更沒有涉及旅游物流領域；物流統(tǒng)計沒有涉及物流活動的全過程；物流統(tǒng)計指標過于單一。此外，國內(nèi)只有基本的貨物運輸量和貨物周轉量統(tǒng)計，其他與物流相關的指標沒有公開的統(tǒng)計資料，也沒有權威的統(tǒng)計方法和基礎數(shù)據(jù)，致使物流需求預測不能通過直接指標來衡量需求規(guī)模的大小。

3基于神經(jīng)網(wǎng)絡的旅游物流需求預測模型的建立

神經(jīng)網(wǎng)絡具有非線性、曲線擬合能力、學習能力和抗干擾能力，是一種通用的非線性函數(shù)逼近工具。通過對BP神經(jīng)網(wǎng)絡的訓練，特別適用于構造非線性預測函數(shù)，而且精度可達到預定的要求。

31預測領域中的BP神經(jīng)網(wǎng)絡模型簡介

BP神經(jīng)網(wǎng)絡通過正向輸入，反向傳播誤差不斷迭代的學習過程，直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網(wǎng)絡就能以任意精度表示并揭示任何連續(xù)函數(shù)所蘊含的非線性關系。其中：

（1）工作信號正向傳播。輸入信號從輸入層經(jīng)過隱含層，傳向輸出層，在輸出端產(chǎn)生輸出信號，這是工作信號的正向傳播。在信號的正向傳播過程中網(wǎng)絡的權值是固定不變的，上一層神經(jīng)元的只影響下一層神經(jīng)元的狀態(tài)，即正向影響。如果在輸出層不能得到期望的輸出，則轉入誤差信號反向傳播。

（2）誤差信號反向傳播。網(wǎng)絡的實際的輸出與所期望的輸出之間差值即為誤差信號，誤差信號由輸出端開始逐層向前傳播，即誤差信號的反向傳播。在誤差信號反向傳播中，神經(jīng)網(wǎng)絡的權值根據(jù)誤差的反饋進行調(diào)節(jié)。通過不斷地對權值的修正，使實際輸出更加接近期望輸出。

（3）預測神經(jīng)網(wǎng)絡流程。通過了解工作信號與誤差信號的傳播方向，可以清楚地了解預測神經(jīng)網(wǎng)絡的工作流程。預測開始時神經(jīng)網(wǎng)絡讀入樣本、權值，通過計算輸入層的輸入得出結果傳遞到輸出層，在輸出層進行計算，最后在計算輸出值與期望值的誤差。若誤差小于確定值則計算結束，若誤差大于確定值則繼續(xù)回到前兩層進行權值調(diào)整，把調(diào)整后的權值重新輸入到模型中，直到誤差小于設定的確定值。

本文應用Braincell神經(jīng)網(wǎng)絡軟件來實現(xiàn)神經(jīng)網(wǎng)絡的計算與分析。

32BrainCell軟件及實現(xiàn)

321BrainCell 神經(jīng)網(wǎng)絡基本原理

BrainCell 神經(jīng)網(wǎng)絡采用誤差反向傳播學習算法，算法從兩個方面（信號的前向傳播和誤差的反向傳播）反復進行迭代學習，與神經(jīng)網(wǎng)絡預測模式基本原理相同。

322BrainCell 神經(jīng)網(wǎng)絡實現(xiàn)步驟

（1）數(shù)據(jù)的預處理和后處理。為方便的計算減少誤差，保證數(shù)據(jù)同一量綱，需要將數(shù)據(jù)歸一化為區(qū)域[0，1]之間數(shù)據(jù)。在實際的預測模型中當數(shù)據(jù)接近0或1的時候訓練效果會明顯下降。因此，為了避免數(shù)據(jù)落入最大飽和區(qū)，保持數(shù)據(jù)的原有特征，根據(jù)經(jīng)驗將數(shù)據(jù)規(guī)范到[015，085]來進行修正。模型中采用反歸一化處理輸出數(shù)據(jù)。

（2）網(wǎng)絡層數(shù)目的確定。由Kolmogorov定理可知，含有一個神經(jīng)元隱含層的三層神經(jīng)網(wǎng)絡可以從任意精度逼近一個從輸入到輸出的映射關系，因此在Braincell神經(jīng)網(wǎng)絡中采用含有單隱層的三層神經(jīng)網(wǎng)絡[2]。

（3）網(wǎng)絡節(jié)點的確定。輸入層節(jié)點的多少與評價指標個數(shù)是相對應的。

（4）網(wǎng)絡訓練。假設訓練樣例是形式（x，y），其中x為輸入向量，y為輸出值。N為輸入節(jié)點數(shù)，M為輸出層節(jié)點數(shù)。從單位i到單位j的輸入表示xij，單位i 到單位j的權值表示W(wǎng)ij。一是創(chuàng)建具有N 個輸入單位，M 個輸出單位的BrainCell 神經(jīng)網(wǎng)絡；二是用隨機數(shù)（0 或1）初始化某些數(shù)字變量網(wǎng)絡權值Wij；三是對于第k個訓練樣例（a，b），把入跟著網(wǎng)絡前向傳播，并計算網(wǎng)絡中每個單元x的輸出Qx，使誤差沿著反向傳播；四是對于每個輸出單元u，計算它的誤差項；五是對于每個隱含單元h，計算它的誤差項；六是利用誤差項更新調(diào)整每個網(wǎng)絡權值；七是重復三到六點，直到完成指定的迭代次數(shù)或者是其誤差值達到可接受的范圍。

33神經(jīng)網(wǎng)絡的旅游物流需求預測模型的建立

331模型中數(shù)據(jù)指標確定

目前我國仍沒有健全的物流統(tǒng)計制度，因此實際工作中收集旅游物流需求數(shù)據(jù)十分困難。這里采用間接指標法――利用與旅游物流需求相關的經(jīng)濟指標來建立旅游物流需求的經(jīng)濟指標體系，通過數(shù)學的方法進行總結與推導，確定旅游物流需求模型。

旅游物流需求是一種派生需求，這種需求的大小與其本身發(fā)展有著密切的關系。從宏觀層面上考慮主要有內(nèi)外兩部分因素：旅游業(yè)自身發(fā)展的狀況及外部環(huán)境的影響。從微觀層面來說，旅游業(yè)自身發(fā)展的狀況是旅游物流需求的關鍵因素。旅游業(yè)產(chǎn)值越高，旅游物流需求增長隨之增加，反之亦然。由此，本文選取旅游總收入和接待人數(shù)作為預測旅游物流需求的指標。其次，影響旅游物流的其他關鍵因素就是旅游行業(yè)本身所投入的設施、人員、公路鐵路旅客周轉量等因素。根據(jù)旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進行指標的選取，如“吃、住”方面使用餐飲住宿從業(yè)人數(shù)、星級飯店數(shù)目衡量；“行”使用公路、鐵路旅客的周轉量來衡量等；“游”則使用旅行社從業(yè)人數(shù)等方面來衡量。這些因素都對行業(yè)的產(chǎn)值有較大的影響。因此，在模型中可將這些相關經(jīng)濟指標作為旅游物流需求規(guī)模的影響因素。由此可選擇如下輸入層指標：星級飯店數(shù)X1、接待入境旅游者平均每人消費額X2、餐飲住宿業(yè)從業(yè)人數(shù)X3、旅行社從業(yè)人數(shù)X4、鐵路旅客周轉量X5、公路旅客周轉量X6、旅游部門游船年末實有船數(shù)X7，旅游部門旅游客車年末實有數(shù)X8，共有8個。而把旅游業(yè)的年收入Y1與年接待入境旅游者人數(shù)Y2作為物流需求預測的目標。

332數(shù)據(jù)來源

本文選取的數(shù)據(jù)資料來源于廣西壯族自治區(qū)歷年統(tǒng)計年鑒、中國統(tǒng)計年鑒、中國旅游年鑒，如表1所示。根據(jù)樣本數(shù)據(jù)選取原則，將2005年和2012年的數(shù)據(jù)作為網(wǎng)絡測試樣本，最后用訓練好的神經(jīng)網(wǎng)絡預測2014―2016年的物流需求規(guī)模。

333廣西旅游物流需求的BP人工神經(jīng)網(wǎng)絡模型

（1）樣本數(shù)據(jù)的歸一化處理。選取X1，X2，X3，X4，X5，X6，X7，X8作為廣西旅游物流需求預測BP人工神經(jīng)網(wǎng)絡模型的輸入，Y1，Y2為BP網(wǎng)絡的輸出。根據(jù)BP 的本身特點，對輸入層數(shù)據(jù)進行歸一化時，采用如下公式：y=log[JB（（]x[JB））]/10。對輸出層數(shù)據(jù)則使用歸反一化處理，公式如下：P=log[JB（（]tT[JB））]/10。

（2）網(wǎng)絡節(jié)點的確定。根據(jù)構建好的評價指標體系，可以確定輸入層的節(jié)點數(shù)為8，輸出層的指標數(shù)為2。

（3）網(wǎng)絡訓練。以traindx作為訓練函數(shù)，利用matlab計算?？芍谧畲笥柧毚螖?shù)為200次，目標誤差為001，學習率設置為003，誤差曲線收斂于目標001，進過45次迭代后，網(wǎng)絡達到目標要求，訓練誤差圖見下圖。

訓練誤差圖

通過設置的數(shù)據(jù)，使用Braincell軟件對數(shù)據(jù)進行訓練，選取全部數(shù)據(jù)作為樣本數(shù)據(jù)組，2010―2013年的樣本作為將預測樣本，輸入模型可得2010―2013年的預測值見表2。

據(jù)表3可以看出，預測效果較好，一般來說，對于經(jīng)濟指標的預測，誤差能夠控制在3%以內(nèi)就算比較準確。因此，基于與旅游物流相關的其他經(jīng)濟數(shù)據(jù)來建立BP神經(jīng)網(wǎng)絡模型預測旅游物流需求有一定的實用價值。

4結論

根據(jù)人工神經(jīng)網(wǎng)絡理論建立的旅游物流需求預測模型，通過Braincell神經(jīng)網(wǎng)絡的自學習特征，運用traindx函數(shù)進行訓練，在訓練過程中對權值進行不斷修正，誤差比率控制合適的在范圍內(nèi)，使網(wǎng)絡的實際輸出向量逐漸地接近期望的輸出值。最后把仿真的預測結果與真實量進行初步比較分析，得出的結果能夠證明使用神經(jīng)網(wǎng)絡模型對旅游物流的預測精度較高。因此可以得出以下的結論：用BP神經(jīng)網(wǎng)絡建立模型，可以準確地把與旅游物流相關的經(jīng)濟數(shù)據(jù)與目標本身的需求量進行結合，可得到較為精準的旅游物流需求預測值。由此可以推斷，人工神經(jīng)網(wǎng)絡作為高度的非線性體系，能夠?qū)?jīng)濟系統(tǒng)中個變量之間的非線性關系進行高精度的預測，將其運用在物流領域中的應用具有更加廣闊的發(fā)展?jié)摿Α?/p>

參考文獻：

[1]王新利，趙琨基于神經(jīng)網(wǎng)絡的農(nóng)產(chǎn)品物流需求預測研究[J].農(nóng)業(yè)技術經(jīng)濟，2010（2）：64-66

[2]秦立公，韋金榮等基于BrainCell 的B2B 電子商務供應鏈協(xié)同績效評價體系[J].中國集體經(jīng)濟，2014（15）：112-113

[3]張圣楠，郭文義，等基于MATLAB的BP神經(jīng)網(wǎng)絡的設計與訓練[J].內(nèi)蒙古科技與經(jīng)濟，2005（17）：96-98

[4]熊勛人工神經(jīng)網(wǎng)絡在環(huán)境質(zhì)量評價和預測中的應用研究[D].武漢：華中科技大學，2009

[5]白平，陳菊紅基于旅游物流能力的西部旅游發(fā)展研究[J].新疆大學學報，2013（41）：16-17

[6]秦立公，王東，等旅游景區(qū)物流能力優(yōu)化研究[J].現(xiàn)代商業(yè)，2010（24）：47

神經(jīng)網(wǎng)絡反向傳播原理范文第2篇

關鍵詞：神經(jīng)網(wǎng)絡；上證綜合指數(shù)；Clementine；股價

中圖分類號：F830.9 文獻標識碼：A 文章編號：1001-828X（2013）05-0-01

證券市場是一個資源重新配置的市場，在我們國家經(jīng)濟建設中起著非常重要的作用，和我們廣大人們?nèi)罕姷纳钕⑾⑾嚓P。股價預測有著很大的應用價值，具有動態(tài)性、強非線性等特點。人工神經(jīng)網(wǎng)絡是一種模擬人腦神經(jīng)網(wǎng)絡結構，通過對研究對象的不斷學習、訓練，從而實現(xiàn)預測模型的方法。在股價預測方面，人工神經(jīng)網(wǎng)絡方法可以通過股票歷史數(shù)據(jù)進行學習，從而找出股票價格的規(guī)律，實現(xiàn)對股票價格的準確預測。

一、神經(jīng)網(wǎng)絡模型簡介

1.神經(jīng)網(wǎng)絡基本概念

神經(jīng)網(wǎng)絡模型是一種數(shù)學模型，它試圖模擬人類大腦的功能。它由大量的人工神經(jīng)元通過適當?shù)姆绞交ミB構成，是一個非線性的自適應系統(tǒng)，用于智能決策和推斷。

2.BP神經(jīng)網(wǎng)絡

目前神經(jīng)網(wǎng)絡有很多種，BP神經(jīng)網(wǎng)絡模型是用的比較多的一種模型。BP神經(jīng)網(wǎng)絡是一種基于有監(jiān)督的學習、使用非線性的可導函數(shù)作為傳遞函數(shù)的前饋神經(jīng)網(wǎng)絡，由信息的正向傳播和誤差的反向傳播兩個過程組成，包括一個輸入層、一個輸出層以及一個或者多個隱層。輸入層收到輸入信號，傳遞給中間隱層各神經(jīng)元，由最后一個隱層神經(jīng)元傳遞到輸出層各神經(jīng)元的信息，經(jīng)過進一步處理，完成一次正向傳播處理過程，由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不相符時，進入誤差的反向傳播過程。誤差通過輸出層，按照誤差梯度下降的方式修正各層權值，向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程，一直進行到網(wǎng)絡輸出的誤差減少到可以接受的程度。BP神經(jīng)網(wǎng)絡模型包括其輸入模型、輸出模型、作用函數(shù)模型、誤差計算模型和自學習模型。

二、神經(jīng)網(wǎng)絡模型在股票分析預測中的應用

1.初始數(shù)據(jù)選取

本文擬以A股市場上證綜合指數(shù)為研究對象，選取2012年1月4日至2013年4月17日期間每個工作日的上證綜合指數(shù)的相關數(shù)據(jù)，利用Clementine軟件的BP神經(jīng)網(wǎng)絡方法進行建模，對上證綜合指數(shù)的走勢進行分析和預測。在建模過程中，選取的變量為：開盤價、最高價、最低價、成交量、收盤價。

2.BP神經(jīng)網(wǎng)絡建模

3.分析與結論

下圖為通過神經(jīng)網(wǎng)絡模型得到的次日收盤價格與次日預測結果之間的擬合圖，從圖中可以看出，盡管預測結果與真實值之間的變化趨勢基本一致，但還是有一定的預測誤差，這是因為股票價格不僅跟成交價和成交量有關系，還受政策因素、市場供應關系、季節(jié)因素、突發(fā)事件等影響。根據(jù)價量關系，對短期預測效果比較有效，如果希望對股票進行長期有效的分析，我們還需要考慮很多因素，包括宏觀因素、上市公司財務狀況及內(nèi)部其他因素等。

參考文獻：

[1]史忠植.神經(jīng)網(wǎng)絡[M].北京：高等教育出版社，2009：48-65.

[2]薛薇，陳歡歌.基于Clementine的數(shù)據(jù)挖掘[M].北京：中國人民大學出版社，2012：1-132；275-305.

[3]元昌安.數(shù)據(jù)挖掘原理與SPSS Clementine 應用寶典[M].北京：電子工業(yè)出版社，2009：234-257；550-555.

[4]楊富勇.神經(jīng)網(wǎng)絡模型在股票投資中的應用[J].計算技術與自動化.2010，29：108-112.

[5]范明，孟小峰，譯.Han J， Kamber M.數(shù)據(jù)挖掘：概念與技術[M].北京：機械工業(yè)出版社，2012.

[6]張嫻.數(shù)據(jù)挖掘技術及其在金融領域的應用[J].金融教學與研究，2003，6（04）：15-18.

神經(jīng)網(wǎng)絡反向傳播原理范文第3篇

關鍵詞：BP神經(jīng)網(wǎng)絡； 模糊矩陣； 教學評價

中圖分類號：TP183 文獻標識碼：A文章編號：2095-2163（2013）06-0060-03

0引言

教師教學效果的審核評定是高校教學中的重要工作。傳統(tǒng)的考核方法或者只是由學生填寫調(diào)查表，給教師劃分等級，進行定性描述，或者是由督導組根據(jù)幾堂課的聽評給教師的課堂教學打出一個分值。無論是哪種方法都不能全面客觀地對教學工作做出科學評定。而且傳統(tǒng)的考核方法受主觀因素影響較大，學生在對教師的評判中常會加入多種因素，各種因素之間的影響也各不相同，僅以學生或僅憑督導團的評定來實施評判顯然已不盡合理。因此， 建立一種能盡量排除各種主觀因素的干擾，同時又具有完善且穩(wěn)定的評價體系的評定方法則成為必要和重要的研究課題。

本文構建一種教學效果評價體系，即對教師的評價從“教學態(tài)度”、“教學內(nèi)容”、“教授方法”、“課堂效果”四大方面分項進行，無論是學生還是督導組均可據(jù)此評價體系給出相應評分。本文提出使用BP反向傳播神經(jīng)網(wǎng)絡來構建一個穩(wěn)定的評分系統(tǒng)，各項評分指標為網(wǎng)絡輸入，使用已訓練完成的BP神經(jīng)網(wǎng)絡來模擬一個專家的打分經(jīng)驗，由此輸出一個終值。BP神經(jīng)網(wǎng)絡通常是指基于誤差反向傳播算法的多層前向神經(jīng)網(wǎng)絡，由于BP網(wǎng)絡的神經(jīng)元采用的傳遞函數(shù)是Sigmoid型可微函數(shù)，因而可以實現(xiàn)輸入和輸出間的任意非線性映射[1]。由于BP神經(jīng)網(wǎng)絡本身就是一種高度復雜的非線性動力系統(tǒng)的辨識模型，并且BP神經(jīng)網(wǎng)絡具有逼近任意非線性函數(shù)的能力[2]，因此使用BP神經(jīng)網(wǎng)絡進行評價將使結果更具客觀性，以此來模擬一個穩(wěn)定的評分系統(tǒng)亦將具備了現(xiàn)實實現(xiàn)基礎。在本文提出的系統(tǒng)中，系統(tǒng)將評價體系中各組評分的分值作為反向傳播神經(jīng)網(wǎng)絡的輸入，使用BP網(wǎng)絡運算后得出一個綜合性的評分，即整個過程好似系統(tǒng)模擬一個經(jīng)驗頗豐的專家進行打分。其后，本文又通過數(shù)據(jù)測試驗證了模型的評價結果與實際相符。

1BP神經(jīng)網(wǎng)絡模型

BP（Back Propagation）神經(jīng)網(wǎng)絡是基于誤差反向傳播的多層前向神經(jīng)網(wǎng)絡，即權值和閾值的調(diào)節(jié)規(guī)則采用了誤差反向傳播算法，這是一個有導師的神經(jīng)元網(wǎng)絡學習算法[2]。BP網(wǎng)絡能學習和存儲大量的輸入輸出模式映射關系，而無需事前揭示描述這種映射關系的數(shù)學方程。該網(wǎng)絡的學習規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡的權值和閾值，使網(wǎng)絡的誤差平方和最小。BP神經(jīng)網(wǎng)絡模型拓撲結構包括輸入層（input）、隱層（hide layer）和輸出層（output layer）。其中的隱層可擴展為多層。只要在隱層中有足夠數(shù)量的神經(jīng)元，就可使用這種網(wǎng)絡來逼近任何一個函數(shù)[3]。一個典型的BP網(wǎng)絡結構如圖1所示。

2評價模型的構建

本文構建了一套評價體系，使用一套客觀標準進行量化表達，且該體系適用于大多數(shù)學校的教學評價。評價項目中，各項指標的取值范圍為[0，10]。多位專家將根據(jù)評價體系方案為每一位參評教師填表打分，經(jīng)過匯總后，每一個教師的教學情況評分將和一個評價矩陣A對應。列向量x為各個項目指標，行向量e為各位專家評出的各項指標分值。對列向量進行均值計算，則得到各個教師的教學效果指標向量S。所得教學效果指標向量S即是神經(jīng)網(wǎng)絡的輸入。評價體系方案設計如表1所示。

表1教師教學評價體系

Tab.1 The system of teaching evaluation類別項目教學態(tài)度嚴謹負責x0； 思想教育x1；教學內(nèi)容教學目標x2； 準確度x3； 熟練程度x4； 信息量x5；教授方法啟發(fā)思維x6； 講授思路x7；重點難點x8；聯(lián)系實際x9；教學儀態(tài)x11；語言表述x12；媒體使用x14課堂效果課堂紀律x15；學生思維x16 圖2則為一個由6名專家給出的某位教師教學效果的評分矩陣。

3BP網(wǎng)絡模型的設計與實現(xiàn)

使用BP神經(jīng)網(wǎng)絡可以構建穩(wěn)定的評分系統(tǒng)。人為打分時由于主觀因素的影響，分值出入較大，往往不能準確地反映實際情況，為了避免對同一教師的教學評價出現(xiàn)較大反差，構建一個穩(wěn)定的BP神經(jīng)網(wǎng)絡系統(tǒng)即已成為實踐發(fā)展過程中的一個必然要求。在系統(tǒng)實現(xiàn)過程中，一位專家首先根據(jù)本文提出的評分系統(tǒng)給出各項成績，并將此成績作為神經(jīng)網(wǎng)絡的輸入值。其后，這位專家再給出一個綜合評分，作為神經(jīng)網(wǎng)絡的樣本，即輸出值，以此即可對BP網(wǎng)絡進行訓練。訓練后的神經(jīng)網(wǎng)絡就可以模擬該專家的打分經(jīng)驗，由此構建形成一個穩(wěn)定的評分系統(tǒng)。

根據(jù)BP神經(jīng)網(wǎng)絡模型的定理（Kolmogrov 定理）：給定任一連續(xù)函數(shù)f：[0，1]nRn，f可以用一個三層前向神經(jīng)網(wǎng)絡來模擬實現(xiàn)。第一層，即輸入層，有n個神經(jīng)元；中間層，神經(jīng)元個數(shù)可由經(jīng)驗公式實驗得出；第三層，輸出層有m個神經(jīng)元。因此一個三層結構的、設有Sigmoid神經(jīng)元，并具有足夠隱節(jié)點的BP神經(jīng)網(wǎng)絡則可以逼近任何一個連續(xù)函數(shù)。本系統(tǒng)采用有三層結構的BP神經(jīng)網(wǎng)絡，其結構如圖1所示。由于評價體系中有17個指標，因此網(wǎng)絡的輸入層有17個輸入。系統(tǒng)的輸出層則確定為1個節(jié)點。隱層神經(jīng)元個數(shù)將根據(jù)實驗結果而確定為11個。隱層傳遞函數(shù)可使用“l(fā)ognsig”對數(shù)傳遞函數(shù)實現(xiàn)，輸出層傳遞函數(shù)使用“pureline”純線性傳遞函數(shù)實現(xiàn)。訓練函數(shù)則使用“traingdm”動量梯度下降反向傳播法對網(wǎng)絡進行訓練，另外，網(wǎng)絡性能函數(shù)使用了默認的“mse”均方誤差函數(shù)。MATLAB中的主要代碼如下：

設有10位教師需要評分，因而使用10組分數(shù)即17×10的矩陣作為10個教師的教學效果矩陣。教學效果矩陣即是神經(jīng)網(wǎng)絡的輸入矩陣，亦是訓練樣本，矩陣的行向量為各項評價指標，10個樣本，即10位教師的最終評價結果則作為目標樣本來訓練神經(jīng)網(wǎng)絡，獲取1×10矩陣為目標矩陣，即10位教師的最終得分。實驗中運用Matlab編程建立三層BP神經(jīng)網(wǎng)絡，目標訓練誤差為0.1，最大訓練次數(shù)為 3 000次。訓練誤差隨訓練次數(shù)的變化情況如圖3所示，神經(jīng)網(wǎng)絡經(jīng)過909步迭代達到精度要求。對應輸出與目標的誤差如圖4所示。

訓練樣本的輸出與專家打分結果比較如表2所示。

由表2可以看出，訓練后的網(wǎng)絡輸出值與專家給出的終值之間的差異均在可接受的指標范圍內(nèi)，因此采用BP神經(jīng)網(wǎng)絡可以構建穩(wěn)定的評分系統(tǒng)。

4結束語

在對教師教學效果的評價中存在著多種因素，本文構建了一套較為合理的評價體系，并且提出使用BP神經(jīng)網(wǎng)絡對專家評分進行模擬，利用神經(jīng)網(wǎng)絡可避免打分過程中出現(xiàn)的寬嚴不定的情況。實驗證明，BP神經(jīng)網(wǎng)絡可以構建穩(wěn)定的評分系統(tǒng)，并取得了良好的實驗效果。

參考文獻：

[1]許東. 吳錚. 基于Matlab 的系統(tǒng)分析與設計—神經(jīng)網(wǎng)絡[M]. 西安：西安電子科技大學出版社，2003：18-19.

[2]胡守仁. 神經(jīng)網(wǎng)絡導論[M] . 長沙：國防科技大學出版社，1993 ：113 - 120.

[3]Martin T. Hagan， Howard B.demuth. 神經(jīng)網(wǎng)絡設計[M]. 北京：機械工業(yè)出版社 ，2002：227-255.

[4]郭齊勝. 系統(tǒng)建模原理方法[M]. 長沙：國防科技大學出版社，2003：172-173.

[5]袁劍. BP神經(jīng)網(wǎng)絡在學生綜合考評中的應用[J]. 福建電腦，2010（6）.

神經(jīng)網(wǎng)絡反向傳播原理范文第4篇

關鍵詞： 模糊神經(jīng)網(wǎng)絡；短期負荷預測；BP算法

algorithm

中圖分類號：TN711文獻標識碼： A 文章編號：

1 引 言

短期負荷預測是電力系統(tǒng)管理現(xiàn)代化的重要內(nèi)容之一，是對發(fā)電、輸電和電能分配等合理安排的必要前提，對提高電力系統(tǒng)的經(jīng)濟效益和社會效益，保障電力系統(tǒng)的安全經(jīng)濟運行與國民經(jīng)濟的發(fā)展具有非常重要的影響。因此，尋求有效的負荷預報方法，提高預測結果的準確度具有重要意義。

本文針對延邊電網(wǎng)短期負荷預測問題，考慮到氣象因素對負荷的影響，提出了一種具備模糊數(shù)據(jù)處理能力的模糊理論與擅長擬合非線性映射的神經(jīng)網(wǎng)絡方法結合起來的短期負荷預測方法，首先根據(jù)評價函數(shù)選取相似日學習樣本，然后利用隸屬函數(shù)對影響負荷的特征因素向量的分量進行模糊處理，采用反向傳播算法，對24點每點建立一個預測模型，提高了學習效能。

2模糊理論與人工神經(jīng)網(wǎng)絡方法簡介

2．1模糊集合論的概念

客觀事物的差異在中介過渡時所呈現(xiàn)的亦此亦彼的現(xiàn)象稱為模糊性，它體現(xiàn)了事物變化的連續(xù)過程。模糊集合論使用隸屬度來描述中介過渡，是以精確的數(shù)學語言對模糊性的一種表述。

設論域u＝｛x｝，u到閉區(qū)間〔0，1〕的任一映射uA（x）∶u〔0，1〕，xuA（x）確定了u的一個模糊子集，簡稱模糊集，記作A，該映射稱為A的隸屬函數(shù)。uA（x）的大小反映了x對模糊集A的隸屬程度，簡稱為隸屬度。實數(shù)集合上常用的隸屬函數(shù)為F分布，主要有矩形分布，梯形分布，拋物形分布等，在實際應用中可根據(jù)對象特點加以選擇。

2．2人工神經(jīng)網(wǎng)絡和反向傳播算法的原理

神經(jīng)網(wǎng)絡是由處理單元組成的一種并行、分布式信息處理結構，處理單元之間由單向信道相互連接。人工神經(jīng)元是神經(jīng)網(wǎng)絡的基本計算單元，模擬了人腦中神經(jīng)元的基本特征，一般是多輸入／單輸出的非線性單元，可以有一定的內(nèi)部狀態(tài)和閾值。

反向傳播（Error Back Propagation－BP）算法是多層感知器的一種有效學習算法，它的模型為前向多層網(wǎng)絡，如圖1所示。

網(wǎng)絡不僅有輸入層節(jié)點、輸出層節(jié)點，而且有隱含層節(jié)點，經(jīng)過作用函數(shù)后，再把隱節(jié)點的輸出信息傳播到輸出節(jié)點，最后給出結果。節(jié)點的作用函數(shù)通常選取s型函數(shù)，如 這個算法的學習過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信號從輸入層經(jīng)隱含層逐層處理，并傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出，則轉向反向傳播，將誤差信號沿原來的連接通道返回，通過修改各層神經(jīng)元的權值，使得誤差信號最小。

BP算法可描述為：

a．權值和閾值初始化：隨機地給全部權值和神經(jīng)元的閾值賦以較小的初始值；

b．給定輸入xk和目標輸出yk；

其中 為第l層第j個神經(jīng)元到第l＋1層的第i個神經(jīng)元的權系數(shù)，η為增益項，δ（l）ik為第l層i節(jié)點的k模式的誤差項，且有

若i為輸出節(jié)點，則

e．達到誤差精度要求則輸出結果，否則回到3。

3預測方法

3．1BP網(wǎng)絡學習樣本的選擇

根據(jù)差異評價函數(shù)選擇一批比較相似的負荷日，選擇方法如下：

a．首先將影響因素向量的各分量數(shù)值化，這些因素包括日類型，工作日取1，雙休日取2；光照，晴天取1，少云取2，多云取3，陰天取4，下雨取5；雨量，無雨取0，小雨取1，中雨取2，大雨取3，暴雨取4；最高溫度、最低溫度、平均溫度等可取實際值。

b．建立評價函數(shù)

其中是α－β的范數(shù)，α為已知日的影響因素向量，β為預測日的影響因素向量（預測值），δ為設定的偏離值，要根據(jù)不同地區(qū)的實際情況由經(jīng)驗決定。凡是滿足該評價函數(shù)的已知日均可加入學習樣本。

3．2預測方法

為了提高BP網(wǎng)絡的學習速度和預測精度，對網(wǎng)絡輸出的實際負荷值進行規(guī)一化處理，同時使用隸屬度函數(shù)對輸入網(wǎng)絡的影響因素向量進行模糊化處理，使得輸入向量的不同分量如工作日、光照、雨量、溫度等都轉換為模糊量。

日類型的隸屬度函數(shù)采用半矩形分布，形式如下。

對工作日的隸屬度函數(shù)為：

溫度的隸屬度函數(shù)分別如下。

對低溫的隸屬度函數(shù)采用偏小型梯形分布：

對中溫的隸屬度函數(shù)采用中間型梯形分布：

對高溫的隸屬度函數(shù)采用偏大型梯形分布：

將最高溫度th代入以上3個公式，可分別求出對于低溫、中溫、高溫3個狀態(tài)的隸屬度。對于最低溫度t1、平均溫度tα，可采用同樣方法求出它們的3個狀態(tài)隸屬度。

影響因素向量的其它分量如光照、雨量等的隸屬度函數(shù)與溫度相似，根據(jù)當?shù)貙嶋H情況選擇建立相應的分布函數(shù)，從而求出光照的5個狀態(tài)隸屬度以及雨量的5個狀態(tài)隸屬度。

另外，為了降低求解規(guī)模，對1d的24點負荷每點建立1個預測模型，第i點的輸入輸出函數(shù)為：

其中Lji是指第j個學習樣本第i點負荷的實際值，Ljimin是學習樣本中第i點負荷的最小值，Ljimax是學習樣本中第i點負荷的最大值，經(jīng)過規(guī)一化處理后，

fi是指第i點的輸入輸出函數(shù)，α′j1，…α′jl是第j個樣本影響因素的隸屬度向量，包括2個代表日類型的隸屬度，3個代表最高溫度的隸屬度，3個代表最低溫度的隸屬度，3個代表平均溫度的隸屬度，5個代表光照的隸屬度，5個代表雨量的隸屬度。當學習完成后，將預測日當天影響因素的隸屬度向量 代入（10）式，則可得第i點的負荷預測值。

3．3一些注意事項

a．偽數(shù)據(jù)的處理

因為神經(jīng)網(wǎng)絡所用的負荷數(shù)據(jù)來自電力部門的SCADA系統(tǒng)，由于各種原因會造成一定數(shù)量的異常數(shù)據(jù)?？紤]到負荷前后小時的自然變化，如果出現(xiàn)超常規(guī)值，必須將其剔除，代之以正常比例范圍內(nèi)的估計值。

b．待選的相似日范圍

因為隨著時間的推移，系統(tǒng)負荷結構會發(fā)生緩慢的變化，當已知日和預測日相隔較遠時，即使它們的天氣情況等因素很相似，預測精度也不會高，因而取前3個星期的已知日作為待選范圍，同時還可以縮短程序選取樣本所花費的時間。

4計算實例分析與結論

4．1實例計算

對延邊電網(wǎng)2012年5月5日24點的負荷進行預測，所得結果如表一。

表一：

預測的平均絕對百分誤差為1.77％，最大預測誤差為3.1％，最小誤差為0.8％，誤差超過3％的預測點有2個，小于2％的點有15個，預測效果良好。

4．2結論

準確進行短期負荷預測是電力行業(yè)所企盼的，本人提出一種模糊神經(jīng)網(wǎng)絡預測方法，利用模糊技術和神經(jīng)網(wǎng)絡各自的特長，充分發(fā)揮了ANN處理非線性問題的能力，具有訓練速度快，學習精度高，數(shù)值穩(wěn)定等優(yōu)點，算例也表明這是一種行之有效的短期日負荷預測方法。

參考文獻

【1】 劉晨暉，“電力系統(tǒng)負荷預報理論與方法”哈爾濱工業(yè)大學出版社 1987

神經(jīng)網(wǎng)絡反向傳播原理范文第5篇

關鍵詞：神經(jīng)網(wǎng)絡技術，ANNBP網(wǎng)絡算法

 

1、人工神經(jīng)網(wǎng)絡概述

人工神經(jīng)網(wǎng)絡是模擬生物神經(jīng)信息處理方法的新型計算機系統(tǒng)，它可以模擬人腦的一些基本特征，（如自適應性，自組織性和容錯性），是一個并行、分布處理結構,它由處理單元及其稱為聯(lián)接的無向信號通道互連而成。

人工神經(jīng)網(wǎng)絡力圖模仿生物神經(jīng)系統(tǒng)，通過接受外部輸入的刺激，不斷獲得并積累知識，進而具有一定的判斷預測能力。盡管神經(jīng)網(wǎng)絡模型的種類很多，但基本模式都是由大量簡單的計算單元（又稱為節(jié)點或神經(jīng)元）廣泛相互連接而構成的一種并行分布處理網(wǎng)絡。?；谏窠?jīng)信息傳輸?shù)脑恚鱾€節(jié)點通過可變的權值彼此相連接，每個節(jié)點對N個加權的輸入求和，當求和值超過某個閾值時，節(jié)點呈“興奮”狀態(tài)，有信號輸出。節(jié)點的特征由其閾值、非線性函數(shù)的類型所決定，而整個神經(jīng)網(wǎng)絡則由網(wǎng)絡拓撲、節(jié)點特征以及對其進行訓練所使用的規(guī)則所決定。

2、多層前向網(wǎng)絡

神經(jīng)網(wǎng)絡按拓撲結構分為前饋型網(wǎng)絡和反饋型網(wǎng)絡。前饋型網(wǎng)絡在結構上采用的是其信息只能從前一層到它下面一層的單元，在網(wǎng)絡運算過程中不存在任何反饋。從學習觀點看，前饋網(wǎng)絡是一種強有力的學習系統(tǒng)，其結構簡單,易于編程；從系統(tǒng)觀點看，前饋網(wǎng)絡是非線性映射，通過簡單非線性處理單元的復合映射可獲得復雜的非線性處理能力，因此具有較強的分類能力和模式識別能力。

反向傳播（BP）網(wǎng)絡是典型的前饋型網(wǎng)絡，結構上它屬于多層前向網(wǎng)絡,它的結構如圖1所示。它分為輸入層、隱含層和輸出層，層與層之間多采用全互連方式，同一層之間不存在相互連接。網(wǎng)絡中每一層權值都可通過學習來調(diào)節(jié),且網(wǎng)絡的基本處理單元（輸入單元除外）為非線性輸入、輸出關系，處理單元的輸入、輸出值可連續(xù)變化。由于BP網(wǎng)絡可在多個連續(xù)的輸入和一個或多個連續(xù)的輸出之間建立非線性映射這一特性，它常被用于智能預測。

多層前向網(wǎng)絡是使用最廣泛的一種網(wǎng)絡結構，它可很好的解決XOR等經(jīng)典的非線性問題，比起單層的感知器有很大的優(yōu)越性，尤其80年代中期，Rumelhart和Mcclelland最先提出了多層前饋網(wǎng)絡的反向傳播學習算法，簡稱BP算法，它的效率很高，是目前應用最為普遍的訓練算法，這使得多層前饋網(wǎng)絡應用更加廣泛。應該指出，我們常說的BP網(wǎng)絡，嚴格說是基于BP算法的多層前向網(wǎng)絡。

圖 1 BP網(wǎng)絡結構圖

4、 BP網(wǎng)絡算法

BP網(wǎng)絡算法的思想是把一組樣本的I/O問題變?yōu)橐粋€非線性優(yōu)化問題，使用了優(yōu)化中最普通的梯度下降法,用迭代運算求解權對應于學習記憶問題，加入隱含層節(jié)點使優(yōu)化問題的可調(diào)參數(shù)增加，從而可得到更精確的解。BP網(wǎng)絡模型設計的最大特點是網(wǎng)絡權值是通過使用網(wǎng)絡模型輸出值與已知的樣本值之間的誤差平方和達到期望值而不斷調(diào)整出來的，并且確定BP神經(jīng)網(wǎng)絡評價模型時涉及隱含層節(jié)點數(shù)、轉移函數(shù)、學習參數(shù)和網(wǎng)絡模型的最后選定等問題。下面簡單介紹一下基本BP算法相關數(shù)學描述：

(1)梯度下降算法

(2)S(Sigmoid)型函數(shù)

BP網(wǎng)絡的激活函數(shù)經(jīng)常使用的是Sigmoid對數(shù)或正切激活函數(shù)和線性函數(shù)。對數(shù)S型函數(shù) f(x)=1/(1+exp(-x)), Sigmoid 函數(shù)具有非線性放大功能，它可以把輸入從負無窮大到正無窮大的信號，變換成-1到1之間的輸出，對較大的輸入信號，放大系數(shù)較小，而較小的輸入，放大系數(shù)較大，所以采用S型激活函數(shù)可以去逼近非線性的輸入/輸出關系。

(3)BP算法

BP網(wǎng)絡學習是典型的有導師學習，其學習算法是對簡單的學習規(guī)則的推廣和發(fā)展。BP網(wǎng)絡實現(xiàn)了多層網(wǎng)絡學習的設想，其學習過程包括正向傳播和反向傳播兩部分。。

在正向傳播過程中，給定網(wǎng)絡的一個輸入模式時，輸入信息從輸入層經(jīng)過隱含層逐層處理，并傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)，由輸出層單元產(chǎn)生一個輸出模式，這是一個逐層狀態(tài)更新過程，稱為前向傳播。。如果輸出響應與期望輸出的模式誤差值不滿足要求，那么就轉入誤差反向傳播，將誤差值沿連接通路逐層傳送并修正各層連接權值。對于給定的一組樣本，不斷用一個個訓練模式進行學習，重復前向傳播和誤差反向傳播過程，當各個訓練模式都滿足要求時，BP網(wǎng)絡訓練完畢。

其中的激發(fā)函數(shù)我們采用S型函數(shù)， 即f(x)=1/(1+exp(-x))。BP算法描述如下：

（2）提供訓練樣本：輸入矢量Xk ,k=1,2,..n 和期望輸出tk, k=1,2,…,m；對每個輸入樣本進行（3）到（5）的迭代。

（3）計算網(wǎng)絡的實際輸出okj 。

（4）分別計算輸出層和隱含層的訓練誤差

其中(4-2)為輸出層的誤差值, (4-3)為隱含層的誤差值。

（5）修正權值和閾值

（6）判斷實際誤差指標是否滿足規(guī)定誤差的要求,滿足則到(7)。

（7）結束 。

BP算法是人工神經(jīng)網(wǎng)絡中最為重要的網(wǎng)絡之一, 也是迄今為止應用最為廣泛的網(wǎng)絡算法, 實踐證明這種基于誤差反傳遞算法可以解決許多實際問題, 但其算法自身也存在著局部極小點、算法的收斂速度慢等缺陷，需要我們在今后的研究中不斷完善改進。