Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03327.jsonl.gz/1115

Wir unterscheiden zwischen Zeichensätzen und Zeichencodierungen
Ein Zeichensatz ist eine festgelegte Menge von Zeichen (Buchstaben, Zahlen, Sonderzeichen, etc.). Jedes Zeichen (als abstrakte Einheit, z.B. "der lateinische Grossbuchstabe A") wird eindeutig identifiziert durch einem ihm zugeordneten Codewert (Zeichencode).
Eine Zeichencodierung ist eine Abbildung von Zeichencodes in eine im digitalen Speicher darstellbare Form. Dabei wird jedem Zeichencode (der jeweils für genau ein abstraktes Zeichen steht) eine Bitsequenz zugeordnet.
Traditionellerweise fielen Zeichensätze und Zeichencodierungen zusammen, indem direkt ein Zeichen in eine Bitsequenz abgebildet wurde. Dies gilt unter anderem für
7-bit ASCII
die ISO 8859-Normenfamilie (ISO-8859-1 etc.), in 8 Bits codiert.
Bei Unicode werden Zeichensatz und Zeichencodierung getrennt. Unicode definiert in erster Linie die verschiedenen Zeichen in den verschiedenen Schriften (bisher über 100'000) und ordnet ihnen einen sogenannten code point, einen Zeichencode zu. Dieser Zeichencode kann danach in verschiedener Weise in eine Bitsequenz umgesetzt werden:
UTF-32 (UTF steht für Unicode Transformation Format) sieht für jedes Zeichen 4 Bytes à 8 Bits vor. Damit nehmen alle Zeichen im Speicher den gleichen Platz ein und es können alle bestehenden und alle noch je zu definierenden Zeichen untergebracht werden; diese Darstellung ist recht speicherintensiv.
UCS-2 (2-byte Universal Character Set) sieht für jedes Zeichen 2 Bytes à 8 Bits vor. Damit nehmen alle Zeichen im Speicher den gleichen Platz ein; es können 65'536 Zeichen dargestellt werden, d.h. nur der sogenannte Basic Multilingual Plane (BMP) von Unicode.
UTF-16 löst dieses Problem, indem es die Zeichen des BMP in einem 16-Bit-Wort, die weiteren Unicode-Zeichen in 2 16-Bit-Wörtern darstellt.
UTF-8 ist eine speicherplatzoptimierte Zeichencodierung. Dabei werden die 128 Zeichen von ASCII in 1 Byte dargestellt, womit eine Kompatibilität erreicht wird. Für die weiteren Zeichen des Zeichensatzes werden bis zu 4 Bytes verwendet. Aus Gründen der Speicherplatzoptimierung und der Abwärtskompatibilität mit ASCII wird der Gebrauch von UTF-8 empfohlen.
Referenzen
ASCII
American National Standards Institute (ANSI) X3.4-1967 (ASCII-1967)
ISO/IEC 646:1991, Information technology — ISO 7-bit coded character set for information interchange https://www.iso.org/standard/4777.html
[kostenpflichtig]