Apa perbedaan utama antara transformer hanya dekoder dan transformer hanya encoder?

Perbedaan utama adalah bahwa transformer hanya-encoder melihat urutan input dari kedua arah, baik depan dan belakang, ini berarti mereka dapat lebih memahami hubungan antara setiap token dalam urutan. Di sisi lain, transformer hanya-decoder hanya melihat satu arah dari input, yang berarti mereka lebih cocok untuk tugas bahasa autoregressive seperti generasi teks.