学習理論における学習係数について
開催期間
16:45 ~ 17:45
場所
講演者
概要
2021年 12月 IMI Colloquium
日時:2021年12月21日 (火)
17:30-18:30
場所:Zoomによるオンライン配信
講師:青柳 美輝 氏(日本大学理工学部数学科)
講演タイトル : 学習理論における学習係数について
講演要旨:
学習システムの目的は,例えば,画像音声認識,確率推論,遺伝子解析,時系列 予測,データマイニングである.このような学習データは,正規分布にしたがっ ているような単純なものではなく,非常に複雑な構造をもっている.現在,その ようなデータを扱える学習モデルとして,神経回路網,混合正規分布,縮小ラン クモデルなどの階層構造,内部構造を持つものが応用され,正規分布のような “良い性質”を持つ統計的正則モデルと区別するため,特異モデルと呼ばれてい る.古典的な理論の枠組みの中では捉えることができず,近年急速に多くの理論 の研究が始まった.その中の一つとして,学習効率を表す学習係数の研究では, 代数幾何の特異点解消定理(広中定理)との関係が指摘され,2つの異なる分野 が融合し発展を始めている.この発表では,これらの話題について述べる.
On the learning coefficients in learning theory
Abstract :
In recent studies, image or speech recognition, probabilistic inference, genetic analysis, time series prediction, and data mining, etc. In real big data have been analyzed by learning systems. They are very complicated and not usually generated by a simple normal distribution, as they are influenced by many factors. Hierarchical learning models such as layered neural networks, the normal mixture model, and reduced rank regression may be known as effective learning models. They, however, likewise have complicated, i.e., singular structures, which cannot be analyzed using the classic theories of regular statistical models. The theoretical study has therefore been started to construct a mathematical foundation for singular statistical models. In this talk, we consider learning coefficients in learning theory, which serve to measure the main term of learning efficiency in singular learning models. These coefficients have an important role in information criteria and are mathematically equal to the log canonical thresholds which are obtained by using complete de-singularization..