Arsitektur Lambda

**Arsitektur Lambda** adalah cara untuk mengolah data dalam jumlah besar dengan menggunakan dua metode, yaitu pemrosesan *batch* (kelompok data) dan pemrosesan *stream* (aliran data). Pendekatan ini bertujuan untuk menyeimbangkan kecepatan, kapasitas, dan ketahanan sistem. Pemrosesan *batch* digunakan untuk memberikan gambaran data yang lengkap dan akurat, sementara pemrosesan *stream* digunakan untuk menangani data secara langsung dan *real-time*. Kedua hasil ini kemudian digabungkan sebelum ditampilkan. Arsitektur Lambda berkembang seiring dengan meningkatnya jumlah data besar, kebutuhan analisis waktu nyata, dan usaha untuk mengurangi waktu pemrosesan. Arsitektur Lambda mengandalkan model data yang menggunakan sumber data yang hanya dapat ditambahkan, bukan diubah. Model ini berfungsi sebagai sistem pencatatan yang menyerap dan memproses peristiwa dengan stempel waktu, di mana peristiwa baru ditambahkan ke data yang sudah ada tanpa menggantikan data yang lama. Status sistem ditentukan berdasarkan urutan data sesuai dengan waktu alami peristiwa-peristiwa tersebut terjadi. 

## Pengoptimalan arsitektur Lambda
Untuk mengoptimalkan data dan meningkatkan efisiensi kueri, berbagai teknik seperti *rollup* dan agregasi diterapkan pada data mentah. Selain itu, teknik estimasi digunakan untuk mengurangi biaya komputasi. Meskipun terkadang diperlukan komputasi ulang yang mahal untuk memastikan toleransi kesalahan, algoritma tambahan dapat ditambahkan secara selektif untuk meningkatkan efisiensi. Teknik-teknik seperti komputasi parsial dan pengelolaan sumber daya yang lebih baik dapat membantu mengurangi waktu proses.

## Arsitektur Lambda yang digunakan
Metamarkets, yang menyediakan analisis untuk perusahaan periklanan terprogram, menggunakan versi arsitektur Lambda dengan Druid untuk menyimpan dan menampilkan data yang berasal dari aliran data dan data yang diproses dalam *batch*. Yahoo juga menggunakan pendekatan serupa untuk menganalisis data periklanannya. Sementara itu, proyek Netflix Suro memiliki jalur pemrosesan data yang terpisah, meskipun tidak sepenuhnya mengikuti arsitektur Lambda. Jalur ini dirancang untuk tujuan yang berbeda dan tidak selalu memberikan tampilan yang sama. Namun, prinsip dasarnya adalah menyediakan data peristiwa *real-time* untuk kueri dengan latensi rendah, sementara data secara keseluruhan juga diproses melalui jalur *batch*. Proses *batch* ini digunakan untuk aplikasi yang tidak terlalu sensitif terhadap waktu dan membutuhkan pemrosesan yang lebih besar.

### Komputasi waktu nyata
Komputasi waktu nyata merujuk pada pemrosesan data secara langsung dan cepat seiring data tersebut dihasilkan. Meskipun pemrosesan data secara *offline* atau *batch* masih mendominasi sebagian besar penggunaan, ada tren yang berkembang dalam pemrosesan aliran data secara waktu nyata. Konsumen aliran data waktu nyata sering digunakan untuk memberikan umpan balik instan, melakukan analisis eksploratif, dan menghasilkan wawasan operasional yang cepat. Sebagai contoh, ringkasan log dari data yang dihasilkan aplikasi merupakan salah satu jenis penggunaan dalam kategori ini.

## Kritik terhadap arsitektur Lambda
Kritik utama terhadap arsitektur Lambda berkaitan dengan kompleksitas dan keterbatasannya. Karena ada dua jalur pemrosesan yang berbeda, yaitu *batch* dan *streaming*, masing-masing memerlukan basis kode yang terpisah dan harus dijaga agar tetap sinkron. Ini berarti data yang diproses harus memberikan hasil yang sama dari kedua jalur tersebut. Namun, usaha untuk menggabungkan kedua jalur ini dalam satu sistem sering kali membuat banyak alat khusus untuk *batch* atau *real-time* menjadi sulit digunakan.

### Arsitektur Kappa
Arsitektur Kappa, diperkenalkan oleh Jay Kreps, adalah pendekatan untuk pemrosesan data yang sepenuhnya berbasis *streaming* dengan menggunakan satu basis kode tunggal. Dalam pembahasan teknis tentang keuntungan menggunakan pendekatan ini, dijelaskan bahwa kerangka kerja *streaming* fleksibel, seperti Apache Samza, bisa memberikan keuntungan serupa dengan pemrosesan *batch*, tetapi tanpa ada penundaan. Kerangka kerja seperti ini memungkinkan pengumpulan dan pemrosesan data dalam jumlah besar secara efisien, bahkan untuk data yang datang dalam potongan besar (jendela data), serta mampu menangani pemblokiran dan menyimpan status data. 

## Referensi