The information bottleneck method in communications
Creators: name: Lewandowsky, Jan
Publisher: name: TUHH Universitätsbibliothek
Year: 2020
Subjects: subject: Information Bottleneck method
subject: low-density parity-check codes
subject: quantization
subject: mutual information
subject: lookup tables
classificationCode: 600
subject: Technik
classificationCode: 620
subject: Ingenieurwissenschaften

description: Die Information Bottleneck Methode ist ein informationstheoretisches Verfahren, welches auf die Kompression einer beobachteten Zufallsvariable abzielt. Das wichtigste Ziel dieser Kompression ist die Erhaltung sogenannter relevanter Information. Die Methode hat ihren Ursprung im Maschinenlernen und bisher existieren nur wenige Anwendungen der Methode in der Kommunikationstechnik. Die Arbeit beschreibt die Anwendung der Information Bottleneck Methode für Problemstellungen der Signalverarbeitung in Kommunikationsempfängern. Die Komplexität der Basisbandsignalverarbeitung für die Demodulation und die Kanaldecodierung verursacht einen Flaschenhals in modernen Empfängern. Diese Komplexität wird wesentlich durch die Bitbreite der verarbeiteten Signale in der Hardware sowie die arithmetischen Operationen der Signalverarbeitungsalgorithmen bestimmt. Praktische Implementierungen müssen deshalb stark quantisiert arbeiten und die angewendeten Algorithmen so aufwandsarm wie möglich gehalten werden. Die Information Bottleneck Methode bietet Algorithmen, die die erhaltene relevante Information für eine vorgegebene Quantisierungsbitbreite maximieren. Dies motiviert die Anwendung dieser Methode für die Signalverarbeitung. Die konkret mit der Methode in dieser Arbeit behandelten Probleme sind das Design von Quantisierern für das Empfangssignal, die Decodierung von low-density parity-check codes sowie die Kanalschätzung und die Detektion. Es wird gezeigt, dass die Information Bottleneck Methode ermöglicht, Signalverarbeitungsblöcke für diese Aufgaben zu konstruieren, die mit sehr geringen Bitbreiten von typisch nur vier bis fünf Bits je Abtastwert auskommen. Dennochkann die Performanz von Signalverarbeitungsalgorithmen mit doppelter Gleitkommagenauigkeit nahezu erreicht werden. Der wesentlichste Aspekt dabei ist die Repräsentation der verarbeiteten Signale nur durch Indizes von Quantisiererfächern anstelle von reellen oder komplexen Zahlen. Überdies sind alle Operationen, die für die Signalverarbeitung erforderlich sind, ausschließlich Leseoperationen in statischen Speichern (sogenannte Lookup-Operationen). Die Information Bottleneck Methode hilft so, die oben genannten Ziele im Design von Kommunikationsempfängern zu erreichen.
description: The Information Bottleneck method is a generic information theoretical framework which aims for the compression of an observed random variable to a compressed random variable. The focal aim in designing this compression is to preserve relevant information. The method originates from machine learning and so far only has a few practical applications in communications. This thesis describes the application of the Information Bottleneck method to problems of receiver-sided signal processing in communications. The complexity of the receiver-sided baseband processing algorithms for demodulation and channel decoding causes a severe bottleneck in modern digital communication receivers. Their implementation complexity is mainly influenced by the bit width used to represent the signals processed in the hardware of the receiver and the arithmetical operations involved in the signal processing algorithms. Practical receiver implementations, therefore, have to be strongly quantized. Moreover, the involved signal processing algorithms have to be as simple as possible. The Information Bottleneck method provides algorithms which aim to maximize the preserved relevant information for a given bit width, hence motivating to apply the Information Bottleneck method to receiver design. The problems covered in this thesis are the design of scalar channel output quantizers, the decoding of low-density parity-check codes and channel estimation and detection algorithms. It is shown that the Information Bottleneck design principle allows to build signal processing blocks for these problems which allow for very small bit widths, typically around four to five bits per sample. Anyway, performance close to that of signal processing algorithms with double precision can be achieved. A key to achieve this small bit width is the signal representation using only quantization indices instead of real or complex representation values. Moreover, all operations required in the obtained signal processing blocks degenerate to simple lookup operations. As a result, the aforementioned design goals for communication receivers are inherently achieved by the receiver design with the Information Bottleneck method.