クロード・シャノン
くろーどしゃのん人物
情報理論の父。情報を「ビット」で測る考え方を確立し、現代の通信・計算の理論的土台を築いた。
時代背景
1948年、シャノンはBell System Technical Journal誌に論文「A Mathematical Theory of Communication」を発表した。論文の冒頭で本人は、PCMやPPMといった変調方式の発展が通信の一般理論への関心を高めたと述べ、その理論的土台はナイキストとハートレーの先行研究にあると明記している。本論文ではその理論を拡張し、通信路における雑音の影響や、元のメッセージの統計的構造・最終的な受信先の性質による節約の可能性といった新しい要素を扱うとした。通信の根本問題を「ある地点で選ばれたメッセージを、別の地点で正確または近似的に再現すること」と定義し、メッセージの意味論的側面は工学上の問題とは無関係であると述べている。
名前の由来
情報量を測る単位として、シャノンは対数の底に2を使う場合の単位を「2進数字(binary digit)、もっと簡潔には bit」と呼ぶことを提案した。本人が論文中で明記しているとおり、この語自体は「J. W. Tukey(ジョン・テューキー)が発案した言葉」だとされている。2つの安定状態を持つ装置(リレーやフリップフロップ回路など)は1ビットの情報を記憶できる、と説明されている。