辞書へ戻る概念の一覧

深層学習(ディープラーニング)

しんそうがくしゅう概念2012

人間の脳を模した多層のネットワークで学習する手法。2012年の画像認識コンペでの圧勝をきっかけに一気に注目され、現代のAIブームの起点になった。

年表

2012AlexNetがILSVRC画像分類コンペで大差の勝利を収め、深層学習への注目が一気に高まる

概要

人間の脳の神経細胞のつながりを模した、多くの層を重ねたニューラルネットワークで学習する手法。層を深く(deep)重ねることで、画像や音声の中の複雑な特徴を段階的に捉えられるようになる。機械学習の一分野であり、2010年代以降のAIブームの技術的な中核をなす。

時代背景

2012年、トロント大学のAlex Krizhevsky・Ilya Sutskever・Geoffrey Hintonが、画像分類コンペティション「ILSVRC」に「AlexNet」と呼ばれる深層畳み込みニューラルネットワークで参加した。彼らの論文によれば、120万枚の画像を1000クラスに分類する課題で、上位5位以内に正解が入るかを競う「top-5」誤り率で15.3%を記録し、2位のチームの26.2%を大差で上回った。この結果が、それまで理論としては知られていたが実用性を疑われていた深層学習を、一気に主流の技術に押し上げるきっかけになったとされる。

仕組み

AlexNetは5つの畳み込み層と3つの全結合層からなり、6000万個のパラメータと65万個のニューロンを持っていた。論文では、学習を高速化するために当時としては珍しいGPU(グラフィック処理装置)を使った実装や、過学習を防ぐための「ドロップアウト」という正則化手法を採用したことが述べられている。大量のデータ・多層のネットワーク・GPUによる計算力という3つの要素が組み合わさって初めて実用化した技術だった。

現在

深層学習はその後、画像認識だけでなく音声認識・自然言語処理・囲碁などのゲームAI・生成AIなど、あらゆるAI分野の基盤技術になった。今日の大規模言語モデルや画像生成AIも、この延長線上にある多層ニューラルネットワークの応用である。

分野人工知能・機械学習

関連項目

  • 機械学習大量のデータから規則やパターンをコンピュータ自身に学ばせる手法。明示的に手順を書く代わりに「学習」させる発想で、アーサー・サミュエルがこの語を広めた。画像認識や音声認識、後の深層学習・生成AIへとつながる土台になった。
  • TransformerGoogleの研究者が発表した深層学習の構造。文の中でどの単語が重要かに「注意」を向ける仕組みで、長い文脈を扱えるようにした。これが後の大規模言語モデルや生成AIすべての土台になった。
  • 拡散モデルノイズだらけの状態から少しずつ整えて画像を生み出す仕組みのAI。テキストから絵を描く画像生成AIの中核技術となり、2022年以降の画像生成ブームを支えた。
  • 大規模言語モデル(LLM)膨大な文章を学習し、人間に近い文章を生成できるAIモデル。質問への回答や文章作成、プログラミング支援まで幅広くこなし、2020年代のAI活用の中心になった。

関連技術

出典