作成者 |
|
|
|
本文言語 |
|
出版者 |
|
発行日 |
|
収録物名 |
|
|
巻 |
|
号 |
|
開始ページ |
|
終了ページ |
|
出版タイプ |
|
アクセス権 |
|
権利関係 |
|
関連DOI |
|
関連URI |
|
関連HDL |
|
概要 |
ニューラルネット(NN)学習に非線形最適化手法を組み込み,更に四つの改良を加えてその高速化への寄与を評価した.はじめにbackpropagation学習法の課題を指摘し,この対策として非線形最適化手法の有効性を述べる.次に各非線形最適化手法をNN学習の観点から考察し,Davies, Swann, Campeyの直線探索法とFletcher-Reeves法による共役こう配法を選択し,これら二つの基本...手法を組み込んだNN学習アルゴリズムを定式化する.更にこの二つの非線形最適化手法をもとに,NN学習に適した四つの改良手法を提案する.提案する改良手法は,(1)直線探索時のforward計葬をメモリの増加と引換えに短縮する方法,(2)直線探索初期の局所最小点へのトラップを避ける方法,(3)並列処理に向いた直線探索方法,(4)こう配方向の切換えによる共役傾斜方法,の4手法である.排他的論理和問題による評価実験を通じて以上の手法の評価を行う.基本的非線形最適化手法はもちろんのこと,本論文で提案する四つの改良手法がいずれも高速化に有用であることを示す.続きを見る
|