
情報理論や統計学の分野では,従来よりユニバーサル符号化や統計的モデル選択(AIC,MDL)など,未知の情報源の出力系列から情報源モデルを推測するための方法論が発展しており,人工知能の一分野である機械学習の基礎となっています.一方では,グラフィカルモデル,
ニューラルネット、サポートベクトルマシン、ブースティング、Individual Sequence解析といった機械学習における新しい概念が情報理論や統計学に逆に刺激を与えています.また,効率的な学習アルゴリズムをめぐって統計力学や計算理論とも交流が進んでいます.いずれの立場も学習を「情報を最大限に抽出するプロセス」として捉え、様々な角度からの情報論的手法(情報を数理的に扱うという手法)を展開しているといえます。その応用分野としては、データマイニングや知識発見,自然言語処理,画像処理,パタン情報処理,信号処理、生体情報処理などに広く拡大しています.
本時限研究専門委員会は、「情報論的学習理論」という名のもとで、上述のように機械学習を通じて,情報理論,統計学,統計物理学,計算機科学、応用分野が自由に交流することを促進し、新しい統計的知識情報処理の方向性を模索していくことを目的とします。
すでに本分野にちなんだ会議「情報論的学習理論ワークショップ:IBIS(Information-
Based Induction Sciences)」が電子情報通信学会の研究会になる前に3年開かれ、本分野は年を追う毎に活性化してきました。主としてとりあげてきたテーマは以下の通りです。