Transformer (derin öğrenme mimarisi)
Derin öğrenme alanında Transformer mimarisi, Google araştırmacıları tarafından geliştirilen ve çok başlı dikkat (multi-head attention) mekanizmasına dayanan bir derin öğrenme mimarisidir. İlk kez 2017 tarihli "Attention Is All You Need" başlıklı makale ile önerilmiştir. Metin verileri "token" adı verilen sayısal temsillere dönüştürülür ve her bir token, bir kelime gömme (embedding) tablosundan eşleme yapılarak bir vektöre çevrilir.