人工知能の基礎研究

深層学習（Deep Learning）

左の図は、当研究センターで稼働している深層学習ニューラルネットが、学習を終えて認識できるようになった数字をどのように自分の脳の中で捉えているか、いいかえると、どのように特徴空間にマッピングしているかを図示した例です。このマッピングは人間がプログラムしたものではなく、あくまでもニューラルネットが自ら学習して構造化したものです。
1998年にLeCunが、後にLeNetと名付けられるDeep Learningのモデルを提唱し、手書き文字を高精度に認識して見せました。 従来の機械学習Machine Learningでは、入力データから何らかの「特徴量」を人間が設計してやる必要があったのですが、LeNetの様に中間層（隠れ層)を多数持つ深層学習Deep Learningアルゴリズムでは、人間が前もって特徴量設計をしなくても、入力データからの学習により"特徴量"に相当する構造が中間層に自然に出現することが示されました。

ニューラルネットの学習により「特徴量を抽出する機能的構造が中間層に自然に形成される」例を右図に示します。中間層のフィルタの一部について、その重みを画像輝度に変換したものを掲げます。確かに学習後のフィルタ重みには構造化がみられています。入力画像の垂直なエッジや水平なエッジ、斜めの輝度変化などの特徴が抽出されるフィルタが学習の結果として形成されつつあることが示されています。