Improved BP Neural Network Based on Simulated Annealing
-
摘要:
提出一种基于模拟退火算法改进的BP神经网络.该方法利用模拟退火算法寻找更优化的样本子集, 用来训练BP神经网络.通过理论分析以及实验仿真证明, 在缩短训练时间以及迭代次数的基础上, 显著提高BP神经网络的分类准确性.
Abstract:The BP neural network based on simulated annealing algorithm is given out in this paper, the method uses the simulated annealing algorithm to find a more optimal subset of samples, to train the BP neural network. Through theoretical analysis and experimental simulation proved that not only the time and the number of iterations is shorten, the accuracy of BP neural network is significantly improved.
-
Key words:
- BP neural network /
- sample selection /
- active learning /
- simulated annealing
-
表 1 Abalone数据标准BPNN算法与改进的BPNN算法的准确率和时长比较
SP/% IP/% ST/s IT/s 一 75.465 79.445 249 235 二 74.020 81.200 320 230 三 74.970 80.545 251 244 四 76.785 82.520 331 188 五 76.660 81.080 298 260 表 2 Adult数据标准BPNN算法与改进的BPNN算法的准确率和时长比较
SP/% IP/% ST/s IT 一 83.120 89.225 744 655 二 79.865 88.400 830 637 三 82.275 90.240 738 664 四 84.940 87.785 751 803 五 82.505 89.080 844 704 -
[1] 魏海坤. 神经网络结构设计的理论与方法[M]. 北京: 国防工业出版社, 2005. [2] Yam J Y F, Chow T W S. A weight initialization method for improving training speed infeedforward neural network[J]. Neurocomputing, 2000, 30(1): 219-232. [3] SimonHayKin. 神经网络原理[M]. 北京: 机械工业出版社, 2004: 109-173. [4] 杨斌, 夏耀先. (2002). 基于改进共轭梯度法的前馈网络快速监督学习算法[J]. 电子学报, 2002, 30(12): 1845-1847. doi: 10.3321/j.issn:0372-2112.2002.12.029 [5] 胡静, 高隽, 杨静. 模糊神经网络分类器的主动学习方法[J]. 中国科学技术大学学报, 2008, 38(3): 241-246. https://www.cnki.com.cn/Article/CJFDTOTAL-ZKJD200803005.htm [6] 康丽山. 非数值并行算法(第1册)——模拟退火算法[M]. 北京: 科学出版社, 1997: 22-55. -