Sebelum mempelajari mengenai model-model Transformer, mari menyamakan persepsi mengenai natural language processing (NLP) terlebih dahulu.
NLP merupakan cabang ilmu linguistik dan pembelajaran mesin (machine learning) yang bertujuan untuk memahami bahasa manusia sehari-hari. Tujuan dari penerapan NLP tidak terbatas pada pemahaman kata per kata saja, tapi juga mengenai konteks yang terkandung dalam setiap ucapan/kata.
Beberapa penerapan NLP yang umum diterapkan beserta contohnya dapat dilihat dibawah:
Penerapan NLP tidak hanya terbatas pada teks. NLP juga dapat diterapkan untuk menangani kasus pengelan suara (speech recognition) dan penglihatan komputer (computer vision) seperti menciptakan transkrip dari sampel suara (audio) atau deskripsi gambar.
Komputer tidak dapat memahami informasi secara langsung maupun secara harfiah seperti manusia. Sebagai contoh, ketika membaca kalimat “Saya lapar”, manusia dapat dengan mudah memahami maknanya. Begitu juga jika ketika membaca kalimat “Saya lapar” dan “Saya sedih”, manusia dapat dengan memudah menentukan apakah kedua kalimat memiliki kemiripan atau tidak. Tapi hal-hal tersebut sulit dipahami oleh model pembelajaran mesin (machine learning (ML)). Kalimat-kalimat tersebut perlu direkayasa (diolah) sedimikian rupa sehingga dapat dipelajari oleh model ML. Ditambah dengan keunikan setiap bahasa/teks, kompleksitas rekayasa yang perlu dilakukan menjadi tantangan tersendiri. Sudah ada banyak riset yang meneliti mengenai bagaiman merekayasa teks untuk penerapan ML dan anda akan mempelajarinya di bab-bab berikutnya.