Er fragte sich wie man eine Datenübertragung über elektronische (heute auch optische) Kanäle kann. Dabei geht es insbesondere darum die vom Hintergrundrauschen zu trennen. Außerdem versucht man der Übertragung aufgetretene Fehler zu erkennen und/oder korrigieren. Dazu ist es notwendig redundante (d.h. Daten) mitzusenden um dem Datenempfänger eine Datenverifikation Datenkorrektur zu ermöglichen.
Die Informationstheorie stellt mathematische Methoden zur bestimmter Eigenschaften von Information zur Verfügung.
Zwischen Entropie und Information - besteht ein nichtmonotoner Zusammenhang. Ist Entropie gleich Null (regelmäßiges 100%-ig vorhersagbares Signal ) so ist der (potenzielle) Nutzwert für Organismus genauso gering wie bei der gegen strebenden Entropie eines Rauschsignals . Das Informations- Maximum liegt also grob gesprochen in einem Entropiebereich.
Es sei darauf hingewiesen dass der der Information aus der Informationstheorie keinen direkten zu Semantik Bedeutung und Wissen hat da sich diese Eigenschaften mit Verfahren nicht messen lassen.