in die Informationstheorie Studienbuch für Mathematiker, Informatiker, Naturwissenschaftler und Ingenieure ab 3. Semester 4. , durchgesehene Auflage Friedr. Vieweg + Sohn' Braunschweig uni-text Dr. rer. nat. Ernst Henze ?. Professor ?? der Technischen Universitiit Braunschweig Dr. rer. nat. Horst ?. Homut}z Professor ?? der Hochschule der Bundeswehr,Hamburg 4. , iiberarbeitete und erweiterte Auflage ??? Henze, Einflihrung in die 1nformationstheorie Beiheft 3 . elektronische datenverarbeitung Verlagsredaktion: A1fred Schubert, Wi11y Ebert 1974 Alle Rechte vorbeha1ten © Friedr. Vieweg & Sohn Verlagsgesellschaft ???, Braunschweig, 197'4 Die V?rvi??iltigu?g und t. i?ertragung einzelner Textabschnitte, Zeichnungen oder Bilder, auch ?r Zwecke der U?t??ichtsg?st?1tu?g, gestattet das Urheberrecht nur, wenn sie mit dem Verlag vorher vereinbart wurden. 1? Einzelfall ?~ iiber die Zahlung einer Gebiihr flir die Nutzung fremden geistigen Eigentums entschieden werden. Das gilt ftir die V?rvi??i1tigu?g durch ??? Verfahren einschlieblich Speicherung und jede Ubertragung auf Papier, Transparente, Filme, Bander, Platten und andere Medien. Satz: Vieweg, Braunschweig Umschlaggestaltung: Peter Kohlhase, Liibeck ISBN 978-3-528-13006-0 ISBN 978-3-322-89443-4 (eBook) DOI 10. 1007/978-3-322-89443-4 Vorwort Dieses nun in dritter Auflage vorgelegte kleine Buch, das bisher als Beiheft 3 der ,elektronische datenverarbeitung' erschienen war, ist aus Vorlesungen über Informa tionstheorie entstanden, die einer der Verfasser an der Technischen Hochschule Stuttgart und an der Technischen Universität Braunschweig gehalten hat. Es ent springt der Absicht, den Leser in die Grundlagen der Informationstheorie einzu führen und dabei eine einheitliche Bezeichnungs-und Darstellungsweise zu ver wenden.

Inhalt

1. Einleitung.- 1.1. Ziele der Informationstheorie, Überblick.- 1.2. Mathematische Hilfsmittel.- 2. Die Entropie.- 2.1. Die Entropie eines endlichen Wahrscheinlichkeitsraumes.- 2.2. Der Eindeutigkeitssatz für die Entropie.- 3. Informationsquellen.- 3.1. Grundlegende Definitionen.- 3.2. Stationäre Quellen.- 3.3. Ergodische Quellen.- 3.4. Der Satz von McMillan und die asymptotische Gleichverteilung.- 3.5. Beweis des Satzes von McMillan.- 4. Kanäle.- 4.1. Definition des Kanals, Eigenschaften spezieller Kanäle.- 4.2. Anschluß eines Kanals an die speisende Quelle.- 4.3. Die Transinformation oder die Übertragungsgeschwindigkeit der Information.- 4.4. Die Kanalkapazität oder Durchlaßkapazität.- 4.5. Ein Beispiel für einen Kanal mit Störungen.- 5. Der Satz von Feinstein.- 5.1. Formulierung des Satzes.- 5.2. Ein Hilfssatz.- 5.3. Beweis des Satzes von Feinstein.- 6. Die Sätze von Shannon.- 6.1. Codierungen, Übertrager.- 6.2. Hilfssätze.- 6.3. Der erste Satz von Shannon.- 6.4. Der zweite Satz von Shannon.- 7. Abschließende Bemerkungen.- Literatur.- Sachwortverzeichnis.