ディープラーニングの応用
畳み込みニューラルネットワーク(CNN)では特徴マップを配列に変換し最終的に全結合層に入力処理することで予測値を出力する。畳み込みニューラルネットワークにおける畳み込み層(フィルタを利用)やプーリング層(最大値や平均値を利用し空間サイズを縮小)はその個別の構成層である。畳み込み操作におけるフィルタ利用においてはそのフィルタ間隔をストライドと呼ぶ。畳み込み層におけるパディングとは出力サイズの調整のことである。バッチ正規化とはニューラルネットワークのある層への入力正規化のことを言う。その派生手法としてレイヤー正規化・インスタンス正規化・グループ正規化がある。リカレントニューラルネットワーク(RNN)は回帰結合層とBackPropagation Through Timeを利用する。このリカレントニューラルネットワークにはエルマンネットワークやジョルダンネットワークが存在する。Seq2Seqはエンコーダとデコーダと呼ばれるネットワークを組み合わせることでタスクを扱う。オートエンコーダとは入力データを圧縮し潜在表現を学習した後に入力を再構築するニューラルネットワークアーキテクチャである。変分オートエンコーダ(VAE)とは生成モデルの一種で入力データの潜在表現を確率分布として学習しそれを基にサンプリングして新しいデータを生成するモデルのことである。これはオートエンコーダに確率的な要素を組み合わせたもの。教師強制とはリカレントニューラルネットワークの学習時に教師データを利用する方法のことである。テキストデータにおけるデータ拡張とはParaphrasing(文章の言いかえ)・Noising(ノイズの追加)・Sampling(サブセット抽出&拡張)などがある。対して画像データにおけるデータ拡張にはRotation(回転)・RandAugment(ランダムな拡張)などがある。ディープラーニングの応用トピックには上述のように専門用語がとても多い。