# KI-Beschleuniger

KI-Beschleuniger (englisch AI accelerator) sind elektronische Zusatzeinrichtungen (Erweiterungen der Hardware) und entsprechende Computerprogramme zur rascheren, effizienteren Bearbeitung von Aufgaben der künstlichen Intelligenz.
Dabei unterscheidet man zwischen Einrichtungen für Rechenzentren und Hostrechner sowie Lösungen für die Netzperipherie wie für PCs, Notebooks und Smartphones wie auch für Robotik und Autonomes Fahren. Dabei angewandte Techniken sind Rechnen mit reduzierter Genauigkeit zur rascheren Abwicklung, hochparallele Verarbeitung von Daten in Koprozessoren und direkte Verarbeitung innerhalb von Datenspeichern. Für diese beschleunigte Abwicklung durch Berechnungen innerhalb von Datenspeichern wird der Begriff In-Memory Processing verwendet. Bei Lösungen mit künstlichen neuronalen Netzen werden oft auch die Begriffe neuronale Verarbeitungseinheit (englisch Neural Processor Unit (NPU)) oder Deep Learning Processor (DLP) verwendet.

## Geschichte

Die Aufteilung von Aufgaben in solche für einen Hauptprozessor (CPU) und in jene für spezialisierte Koprozessoren begann früh. So wurden auf Zusatzkarten mit Koprozessoren Ton- und Grafikkarten als Erweiterung von PCs angeboten. Erstmals wurden 1977 derartige Erweiterungskarten zum Apple-II-PC eingeführt.
Zur Texterkennung (OCR) wurden digitale Signalprozessoren als Koprozessoren verwendet.
KI-Beschleuniger mittels field-programmable Gate-Arrays wurden ab 1995 für das Training und die Klassierung mittels künstlicher neuronaler Netze beschrieben.
Erste in System-on-a-Chip (SoCs) integrierte Grafikprozessoren (GPUs) für KI-Anwendungen in Smartphones wurden von der Firma Qualcomm unter dem Namen Snapdragon der Serie 8 ab 2015 verwirklicht.

## KI-Beschleuniger in Rechenzentren

KI-Beschleuniger spielen in Rechenzentren und im Cloud-Computing eine entscheidende Rolle, da sie die Effizienz und Leistung von KI-Anwendungen erheblich steigern. Über spezielle Parallelverarbeitungsfunktionen in spezieller Hardware können damit Milliarden von Berechnungen gleichzeitig durchgeführt werden. Für das Training von KI-Modellen sind besonders hohe Rechenleistungen erforderlich.
Speziell die Auslagerung der Bildverarbeitung in Grafikprozessoren (GPUs) gewann an Bedeutung und bildet oft die für KI-Aufgaben angepasste Lösung bei Supercomputern. Auf Grund mehrjähriger Erfahrung mit GPUs für PCs mit einem Marktanteil von 80 Prozent im Jahr 2022 hat die Firma Nvidia besonders leistungsfähige Chip-Kombinationen von CPU und GPU für Großrechnersysteme entwickelt, welche sehr gefragt sind.
Google hat seit 2016 applikationsspezifische ICs (englisch ASICs) unter dem Namen Tensor-Processing-Units (TPUs) ursprünglich für die Softwaresammlung TensorFlow entworfen. TPUs wurden auch in AlphaGo-Wettkämpfen eingesetzt. Inzwischen beruhen viele Google-Dienstleistungen auf deren weiterentwickelten TPU-Chips.
In Rechenzentren werden KI-Beschleuniger verwendet, um die Verarbeitung großer Datenmengen zu beschleunigen und komplexe KI-Modelle durch Maschinelles Lernen (ML) effizient zu trainieren. Intel hat dafür spezielle KI-Chips entwickelt. AMX ist ein integrierter Beschleuniger, der das Training und die Ergebnisse verbessert. KI-Aufgaben wie die Verarbeitung von natürlicher Sprache, Empfehlungssysteme und Bilderkennung können damit effizienter gelöst werden.
Cloud-Anbieter wie Amazon-Webservices (AWS) bieten ebenfalls spezialisierte KI-Beschleuniger wie AMS Trainium an, die für das Training großer KI-Modelle wie zur natürlichen Sprachverarbeitung, Computer-Vision und für Empfehlungsmodelle optimiert sind. AWS Trainium ist der ML-Chip, den AWS speziell für Deep-Learning-Trainings von über 100 Milliarden Parameter entwickelt hat.
Rechenzentren können durch den Einsatz von KI-Beschleunigern eine größere Anzahl von KI-Anwendungen gleichzeitig ausführen, was insbesondere bei multimodalen Modellen von Bedeutung ist.

## KI-Beschleuniger in Benutzergeräten

In mobilen Benutzergeräten, insbesondere bei Laptops und Smartphones, sind Leistung, Reaktionsgeschwindigkeit und Energieverbrauch von KI-Beschleunigungslösungen besonders wichtig. In solchen Geräten integrierte Neural Processing Units (NPUs) sind bei der Verarbeitung von KI-Algorithmen effizienter als CPUs und GPUs. NPUs können Bildverarbeitung für Fotoaufnahmen wie auch Gesichts- und Spracherkennung lokal rasch vornehmen. Dabei können heikle persönliche Daten im Benutzergerät bleiben und müssen nicht an Cloud-Server übertragen werden. NPUs beschleunigen Sprachassistenten und könnten bei zunehmender Leistungsfähigkeit einfache Anfragen an Chatbots lokal beantworten und müssten die teuren und energiehungrigen Dienste von Cloud-Servern weniger in Anspruch nehmen.
KI-Chips können mehrere Billionen Operationen pro Sekunde (englisch Trillion Operations per Second (TOPS)) durchführen. Zum Beispiel erreicht 2024 die NPU des Apple-M4-Chips eine Geschwindigkeit von bis zu 38 TOPS. Die NPUs aus AMDs Ryzen-AI-300-Serie schaffen 2024 laut Hersteller bis zu 50 TOPS – das sind 50 Billionen Operationen pro Sekunde. Solche Chips sind in Smartphones und Laptops vorhanden, so auch als Intel AI Boost in der Intel Meteor-Lake-Baureihe.

## Alternative Ansätze
### Spiking Neural Networks

Neuromorphe KI-Modelle unterscheiden sich von den vorherrschenden künstlichen neuronalen Netzen mit Deep-Learning-Struktur. Eine aktive Kopplung zwischen Neuronen wird ähnlich wie im menschlichen Gehirn nur durch elektronische Impulse (englisch: Spikes) ausgelöst, d. h. der Informationsfluss findet nur bei Eintreten bestimmter Bedingungen statt. Derartige Strukturen werden gepulste neuronale Netze (englisch: Spiking Neural Networks) genannt. Sie arbeiten ereignisgesteuert. Dies ist einer der Gründe, weshalb das Gehirn einen verhältnismäßig geringen Energieaufwand aufweist ebenso wie neuromorphe Prozessoren im Vergleich mit entsprechenden Deep-Learning-Processors.
Der realisierte, neuromorphe, digitale Chip NorthPole von IBM Research beruht auch auf der Erkenntnis, dass rascher Speicherzugriff ebenso wichtig ist wie Datenverarbeitung. Ein verwandter IBM-Chip TrueNorth überzeugt durch seine Kennwerte und verhält sich nach außen wie ein aktiver Speicherchip mit interner Verarbeitung. Diese Chips sind nicht in Serie gefertigt geworden.

### Combined Stencil and Tensor Accelerator

Im Rahmen der European Processor Initiative, eines von der EU und anderen europäischen Ländern geförderten Projekts für High-Performance Computing, wurden neuartige Funktionskombinationen von Deep-Learning- und Stencil-Beschleunigern (STX) entwickelt und in Form integrierter Schaltungen (Chips) realisiert.

### Quantum Neural Network

Ideen bestehen auch, um Quantencomputer für KI einzusetzen. Informationsverarbeitung würde anstatt klassischer Bits Quantenbits (Qubits) nutzen. Quantum-neuronale Netze (QNN) werden erforscht, um bisherige Modelle künstlicher neuronaler Netze mit den Vorteilen der Quanteninformation zu kombinieren und so effizientere Algorithmen zu entwickeln. Google hat im Dezember 2024 einen neuen, sehr leistungsfähigen Quantencomputer vorgestellt, welcher mit den selbst entwickelten Willow-Chips ausgerüstet ist.