所報 107

9/46

Node-perturbation learning is an online stochastic gradient descent method for neural networks. It estimates the gra-dient of the error surface by calculating the change in error between the perturbed output and the unperturbed output. Node perturbation can be applied to problems where the objective function is not defined. Node-perturbation learning is applied to only simple perceptrons, so we explored the application of node-perturbation learning to a multilayer neural network called a soft committee machine and analyzed the dynamic properties of the learning process. We conducted computer analysis to confirm the validity of the proposed method.Keywords: node-perturbation learning, soft committee machine, on-line learning, perturbation, generalization error, statistical mechanics methodNode-perturbation learning is a type of statistical gradient descent algorithm that can be applied to problems where the objective function is not explicitly formulated, including reinforcement learning. It estimates the gradient of an objec-tive function by using the change in the object function in response to the perturbation. The value of the objective func-tion for an unperturbed output is called the baseline. This paper reports the building of the statistical mechanics of Cho’s model and on deriving coupled differential equations of the order parameters that depict the learning dynamics. Keywords: node-perturbation learning, noisy baseline, teacher-student formulation, statistical mechanics Kazuyuki HARA, Kentaro KATAHIRAm and Masato OKADAKazuyuki HARA, Kentaro KATAHIRA, and Masato OKADA　上記の２件の論文では共にノードパータベーション学習という、生物の神経細胞の学習方法を機械学習モデルに適用し、その性能を統計力学的手法によって解析した。ノードパータベーション学習とは細胞（ノード）の出力に摂動（ノイズ）を加えたことによる評価関数の変化を用いて評価関数の勾配情報を得ようとする方法である。機械学習で多く用いられる勾配法では、ノードの出力関数の微分が可能な場合しか適用できないが、ノードパータベーションではノート出力関数の微分を用いないため、より広いクラスのモデルへの適用が可能となっている。第1の論文は機械学習モデルが階層型ネットワークの場合について議論しており、最終出力に摂動を加える方法が良いとの結論を導いている。また、勾配法を用いたノイズあり学習と比較した結果、ノードパータベーション学習では勾配情報を用いていないにも関わらず、ノイズあり学習と同等の性能を得ていることがわかった。また、第2の論文では入力と出力のみから成るパーセプトロンにおいて定常的にノイズがある状況でのノードパータベーション学習の有効性を議論している。定常的にノイズがある環境下での学習は生物モデルとして現実的であり、定常ノイズの影響が学習に及ぼす影響を調べた。その結果、定常的に加えられるノイズと学習に用いる摂動の分散が同じ場合に最も学習の効果が高いことが解析的に示された。Journal（掲載誌）IPSJ Transaction on Mathematical Modeling and Its Applications, Vol. 13, No. 2, 61-68, Aug. 2020.Journal of the Physical Society of Japan, 86, 024002 2017.－　　－7Node-perturbation Learning Applied for Soft-committee MachineStatistical Mechanics of Node-perturbation Learning with Noisy BaselinePublished PaperPublished Paper論文の説明