Akselerator AI

Akselerator AI adalah sebuah kelas mikroprosesor atau sistem komputer dirancang sebagai perangkat keras akselerasi untuk aplikasi kecerdasan buatan, terutama jaringan saraf tiruan, pengelihatan mesin, dan pemelajaran mesin. Aplikasi yang umum termasuk algoritma untuk robotika, internet untuk segala hal dan tugas data-intensif atau berbasis sensor lainnya. Akselerator AI seringkali merupakan desain inti banyak dan umumnya berfokus pada aritmatika presisi rendah, arsitektur aliran data baru atau kemampuan komputasi dalam memori. Sejumlah persyaratan khusus vendor ada untuk perangkat dalam kategori ini, dan ini merupakan teknologi yang muncul tanpa desain yang dominan . Akselerator AI dapat ditemukan di banyak perangkat seperti smartphone, tablet, dan komputer di seluruh dunia.

Percobaan awal

Pada awal 1993, prosesor sinyal digital digunakan sebagai akselerator jaringan saraf misalnya untuk mempercepat perangkat lunak pengenalan karakter optik. Pada 1990-an, ada juga upaya untuk membuat sistem throughput paralel tinggi untuk workstation yang ditujukan untuk berbagai aplikasi, termasuk simulasi jaringan saraf. Akselerator berbasis FPGA juga pertama kali dieksplorasi pada 1990-an untuk inferensi  dan pelatihan. ANNA adalah akselerator CMOS jaring saraf yang dikembangkan oleh Yann LeCun.

Komputasi heterogen

Komputasi heterogen mengacu pada menggabungkan sejumlah prosesor khusus dalam satu sistem, atau bahkan satu chip, masing-masing dioptimalkan untuk jenis tugas tertentu. Arsitektur seperti mikroprosesor sel  memiliki fitur yang secara signifikan tumpang tindih dengan akselerator AI termasuk: dukungan untuk aritmatika presisi rendah, arsitektur aliran data, dan memprioritaskan 'throughput' daripada latensi. Mikroprosesor sel kemudian diterapkan pada sejumlah tugas  termasuk AI.
Pada 2000 - an, CPU juga mendapatkan unit SIMD yang semakin lebar, didorong oleh beban kerja video dan game; serta dukungan untuk tipe data presisi rendah yang dikemas.

Penggunaan GPU

Unit pemrosesan grafis atau GPU adalah perangkat keras khusus untuk manipulasi gambar dan perhitungan properti gambar lokal. Dasar matematis dari jaringan saraf dan manipulasi gambar adalah serupa, tugas paralel memalukan yang melibatkan matriks, menyebabkan GPU menjadi semakin digunakan untuk tugas pembelajaran mesin. Hingga  2016, GPU populer untuk pekerjaan AI, dan mereka terus berkembang ke arah untuk memfasilitasi pembelajaran yang mendalam, baik untuk pelatihan  dan kesimpulan dalam perangkat seperti mobil otonom. Pengembang GPU seperti Nvidia NVLink sedang mengembangkan kemampuan penghubung tambahan untuk jenis beban kerja aliran data yang berasal dari AI. Karena GPU semakin banyak diterapkan pada akselerasi AI, produsen GPU telah memasukkan perangkat keras khusus jaringan saraf untuk lebih mempercepat tugas-tugas ini. Inti tensor dimaksudkan untuk mempercepat pelatihan jaringan saraf.

Penggunaan FPGA

Kerangka kerja pembelajaran yang dalam masih terus berkembang, sehingga sulit untuk merancang perangkat keras khusus. Perangkat yang dapat dikonfigurasi ulang seperti field-programmable gate arrays (FPGA) membuatnya lebih mudah untuk mengembangkan perangkat keras, kerangka kerja, dan perangkat lunak bersama.
Microsoft telah menggunakan chip FPGA untuk mempercepat inferensi. Penerapan FPGAs untuk akselerasi AI memotivasi Intel untuk mengakuisisi Altera dengan tujuan mengintegrasikan FPGA dalam CPU server, yang akan mampu mempercepat AI serta tugas-tugas tujuan umum.