関数近似と学習複雑性による深層学習の汎化誤差解析 (特別セミナー)
その他
開催期間
2020.1.6(月)
13:00 ~ 15:00
13:00 ~ 15:00
場所
九州大学 伊都キャンパス ウエスト1号館 4階 IMIオーディトリアム (W1-D-413)
講演者
今泉 允聡 (統計数理研究所 助教)
概要
深層学習の原理究明を目的とした理論の構築を行う。深層学習とは多層ニューラルネットワーク(Deep Neural Network; DNN)を用いた統計分析であり、従来の方法とは一線を画した性能を発揮していることから非常に強い注目を浴びている。しかし、急速に発展する実応用に比して、深層学習の原理を説明できる理論は未だ発展途上である。本研究では、深層学習の汎化誤差(精度の尺度)を (A) DNNの関数近似性能、(B) DNNのパラメータ学習法の複雑性、の二側面から解析し、高精度の原理の究明を試みる。結果として、本研究は (a) データ生成過程が特異性を持つ時に深層学習が主な既存法に優越する、(b) 損失関数の非凸性による学習法の制約が深層学習の過適合を抑える、ことを理論的に明らかにした。
リンク:
講演者HP