## Implementing the STACK Plugin on the Sistem e-Learning UNSRAT
Implementasi Plugin STACK pada Sistem e-Learning UNSRAT
Daniel Febrian Sengkey
Department of Electrical Engineering, Faculty of Engineering, Universitas Sam Ratulangi Jl. Kampus Bahu-Unsrat Manado, 95115, Indonesia
E-mail: danielsengkey@unsrat.ac.id Submitted: 26 April 2023; Revised: 31 May 2023; Accepted: 7 June 2023
Abstract — Assessment is an integral part of education. Through assessment, instructors may evaluate the learners’ achievement. In a large class setup, holding an assessment and checking the learners’ work leads to a tiresome job if done manually. Therefore, the use of an automated procedure, such as a computerized solution is advised. However, the question types that can be automatically checked does not cover essay question. It is very unfortunate for mathematical-based courses where evaluating the reasoning of the learners is essential, hence adopting question types such as Multiple Choice Questions, True/False; or even Numeric, which ask the learner to input a single number as an answer, would be inadequate. In this paper, we describe the implementation of the STACK, a MOODLE plugin that supports the assessment of mathematical expressions. The preliminary results show that with the correct way of introducing the commands to the learners, instructors can author questions with adequate discrimination index and efficiency.
Keywords — blended learning, flipped classroom, computer- assisted assessment, mathematics
Abstrak —Penilaian merupakan bagian integral dari pen- didikan. Melalui penilaian, instruktur dapat mengevaluasi prestasi peserta didik. Dalam pengaturan kelas besar, men- gadakan penilaian dan memeriksa hasil kerja siswa akan men- jadi pekerjaan yang melelahkan jika dilakukan secara manual. Oleh karena itu, disarankan untuk menggunakan prosedur otomatis, seperti solusi terkomputerisasi. Namun, jenis soal yang dapat diperiksa secara otomatis tidak mencakup soal esai. Sangat disayangkan untuk kursus berbasis matematika di mana mengevaluasi penalaran peserta didik sangat penting, sehingga mengadopsi jenis pertanyaan seperti Pertanyaan Pilihan Ganda, Benar/Salah; atau bahkan Numerik, yang meminta pembelajar untuk memasukkan satu angka sebagai jawaban, tidak akan memadai. Dalam makalah ini, kami menjelaskan implementasi STACK, sebuah plugin MOODLE yang mendukung penilaian ekspresi matematika. Hasil awal menunjukkan bahwa dengan cara yang benar dalam mem- perkenalkan perintah kepada peserta didik, instruktur dapat menulis pertanyaan dengan indeks pembedaan dan efisiensi yang memadai.
Kata Kunci — blended learning, flipped classroom, asesmen berbantuan komputer, matematika

## I. P ENDAHULUAN
Pemeriksaan hasil kerja peserta didik secara otomatis dengan bantuan komputer telah ada sejak dekade 1960an [1], [2]. Hal tersebut terus berkembang bahkan sampai saat ini ketika banyak hal dilakukan secara daring termasuk pendidikan. Kehadiran Modular Object-oriented Dynamic Learning Environment atau disingkat MOODLE [3] telah banyak mengubah wajah pendidikan secara global, dimana Learning Management System (LMS) yang bersifat kode sumber terbuka ( open source ) ini telah banyak diadopsi
berbagai lembaga pendidikan di dunia. MOODLE menye- diakan berbagai fitur dan aktifitas, termasuk di dalamnya Quiz Activity , yang biasanya digunakan untuk melaksanakan asesmen terhadap capaian belajar peserta didik. Dengan dimungkinkannya pelaksanaan asesmen pembelajaran yang hasilnya diperiksa secara otomatis, hal ini sangat memu- dahkan instruktur karena tidak lagi direpotkan dengan tugas memeriksa jawaban satu-persatu. Bahkan, hal ini mendukung keterbukaan dan transparansi dalam penilaian, karena peserta didik bisa mengakses kembali hasil peker- jaannya untuk tinjauan ulang ( review ). Keberadaan fasili- tas untuk tinjauan ulang tersebut juga mendukung proses pembelajarn dimana seorang peserta didik dapat melihat letak kesalahan yang dilakukan sehingga kedepannya peserta didik tersebut dapat meningkatkan pengetahuannya pada subjek yang kurang dikuasainya.
Universitas Sam Ratulangi (UNSRAT) sebagai salah satu insitusi Perguruan Tinggi Negeri (PTN) yang terus melakukan pengembangan berkelanjutan dalam berbagai bidang telah sejak lama menerapkan pembelajaran berban- tuan Teknologi Informasi, dengan menggunakan platform MOODLE versi 3.6 1 , sejak tahun 2011 [4]–[7]. Bahkan pada tahun 2018 penerapan pembelajaran daring telah diatur dalam sebuah Keputusan Rektor [8]. Platform tersebut telah digunakan dan menghasilkan berbagai kajian tentang pem- belajaran daring, terutama dalam hal media pembelajaran [9]–[15]. Selain itu, platform yang sama juga digunakan untuk menghasilkan inovasi dalam proses pembelajaran di tengah pandemi COVID-19 [16], yang setelah dievaluasi ternyata direspon cukup positif oleh peserta didik [17]. Sengkey, dkk dalam [17] menggunakan dua platform yang berbeda untuk menjalankan perkuliahan, dimana pada tahun 2020 dan 2021 digunakan platform yang lama, sedangkan pada tahun 2022 telah menggunakan platform yang sedang dalam tahap evaluasi, yakni Sistem e-Learning (SEL) UN- SRAT 2 . Platform tersebut berbasis MOODLE versi 3.11, sehingga lebih banyak plugin baru yang dapat diterapkan. Penamaan Sistem e-Learning UNSRAT sendiri mengacu pada Peraturan Akademik UNSRAT [18].
Meskipun adopsi pembelajaran berbantuan teknologi menggunakan LMS berbasis MOODLE telah lama diterap- kan, namun dirasakan ada kendala dalam melakukan eval- uasi hasil belajar peserta didik dalam hal materi atau topik yang membutuhkan perhitungan-perhitungan matematis. Padahal, terdapat banyak mata kuliah yang dalam Capaian Pembelajarannya mencantumkan kemampuan melakukan perhitungan/operasi matematis tertentu. Pada praktek yang dilakukan selama ini, biasanya digunakan pertanyaan bertipe
1 https://elearning.unsrat.ac.id
2 https://sel.unsrat.ac.id
Numeric , dimana peserta didik mengisi jawaban hanya dalam bentuk angka saja. Opsi tersebut memiliki kekurangan dimana jawaban yang diterima dan diperiksa secara otomatis oleh sistem hanyalah dalam bentuk angka saja, sedangkan dalam subjek-subjek yang berkaitan dengan matematika, terkadang jawaban ada dalam bentuk ekspresi matematis. Ada juga yang menggunakan pertanyaan bertipe pilihan ganda ( Multiple Choice Questions [MCQ]), akan tetapi solusi tersebut tidak dapat mengevaluasi kemampuan peserta didik dalam menjabarkan penalaran jawabannya ( reason- ing by equivalence ). Alasan tersebutlah yang mendasari pengembangan STACK ( System for Teaching and Assess- ment using a Computer algebra Kernel ), sebuah plugin asesmen berbantuan komputer untuk pertanyaan-pertanyaan dengan jawaban berupa ekspresi matematis, atau reasoning by equivalence [2], [19]–[23]. STACK menggunakan Max- ima, sebuah Computer Algebra System (CAS), untuk meng- hasilkan dan mengevaluasi ekspresi-ekspresi matematika.
Artikel ini membahas tentang ujicoba penerapan plugin STACK pada SEL UNSRAT. Bagian selanjutnya dari artikel ini adalah Bagian II menjabarkan mengenai metode yang digunakan, kemudian dalam Bagian III dijelaskan tentang hasil yang didapat serta kemungkinan implikasinya dalam pembelajaran. Terakhir, Bagian IV menyimpulkan hal-hal penting yang menjadi temuan dari penelitian ini.

## II. M ETODE
Penelitian ini dilakukan dengan menggunakan LMS SEL UNSRAT yang berbasiskan MOODLE versi 3.11.4 build 20211108, plugin STACK versi 2023010400 serta Max- ima versi 5.41. Konfigurasi ini diterapkan pada evaluasi topik Transformasi Linear, yang merupakan bagian dari mata kuliah Aljabar Linear, yang diprogramkan di semester dua dari Program Sarjana pada Program Studi Teknik In- formatika [24]. Karena ini adalah untuk pertama kalinya diadakan kuis yang sifatnya perkenalan, dimana dalam soal diberikan pula jawabannya. Setelah mengerjakan kuis, pe- serta didik dapat langsung melakukan tinjauan ulang dan melihat jawaban yang benar. Kuis perkenalan tersebut tidak diakomodir dalam penilaian akhir. Untuk penilaian yang sebenarnya, dibuat dua kuis, dimana kuis kedua adalah untuk perbaikan nilai/remedial. Tinjauan ulang hanya dapat diakses setelah waktu pengerjaan kuis ditutup, sehingga tidak ada kesempatan bagi peserta didik memberikan con- tekan kepada peserta didik lainnya. Setiap pertanyaan dalam ketiga kuis ini menggunakan mode adaptif, dimana peserta didik dapat mengecek jawaban yang dituliskannya. Apabila ada kesalahan, maka sistem akan menampilkan umpan balik dan peserta didik dapat kembali mencoba menjawab dengan pengurangan nilai (penalti) sebesar 0.1 poin. Kesempatan mengerjakan ulang adalah sebanyak tiga kali untuk tiap soal dalam satu percobaan pengerjaan. Tabel I menunjukkan konfigurasi dari ketiga kuis ini.
Setiap soal dalam setiap kuis dirancang untuk mencapai tujuan dari kuis tersebut. Sebagai contoh untuk kuis Perke- nalan dengan Perintah dan Notasi, peserta didik diperke- nalkan dengan cara menuliskan vektor, matriks, dan variabel kemudian diminta menuliskannya kembali dengan meng- gunakan kode Maxima. Pada Quiz on Linear Transforma- tion dan Linear Transformation Evaluation Remedial , tiap pertanyaan yang ada disusun untuk mengevaluasi Capaian Pembelajaran dari peserta didik dalam topik Transformasi Linear. Tabel II menunjukkan judul pertanyaan dalam setiap kuis, beserta bobotnya.

## III. H ASIL DAN P EMBAHASAN
Tiap kuis diimplementasikan menggunakan Quiz Activity pada platform SEL UNSRAT, sesuai dengan rancangan yang
ada pada Tabel I. Didapati plugin STACK secara fungsional dapat bekerja sesuai dengan harapan, yakni membuat variasi acak dari soal dan menampilkannya, serta melakukan eval- uasi dan memberikan umpan balik hasil kerja peserta didik. Gambar 1 menunjukkan contoh soal beserta jawaban dari peserta didik. Dapat dilihat bahwa masing-masing peserta didik mendapatkan tipe soal yang sama dengan varian yang berbeda. Selain itu, notasi matematis juga dapat di- render dengan baik, termasuk jawaban yang baru dima- sukkan oleh peserta didik. Bahkan, apabila peserta didik memasukkan jawaban yang salah, maka ditampilkan pula bagian yang salah, sehingga peserta didik yang bersangkutan dapat mengetahui titik lemahnya dan belajar kembali untuk memperbaiki kesalahannya.

## A. Respons Peserta Didik
Dari segi jumlah peserta didik, dalam kursus Aljabar Lin- ear di SEL UNSRAT, tercatat ada 329 orang peserta didik. Meskipun demikian, tidak semua peserta didik mengerjakan setiap kuis tersebut. Tabel III menunjukkan statistik jumlah pengerjaan kuis. Karena kuis kedua dan ketiga merupakan tes sumatif dengan percobaan tunggal, maka total percobaan dan total peserta didik menunjukkan angka yang sama. Da- pat dilihat bahwa mayoritas peserta didik dapat mengakses dan mengerjakan kuis, sehingga dapat disimpulkan bahwa tidak ada kendala yang bersifat teknis.

## B. Statistik Kuis
Statistik kuis diambil dari fitur Quiz Report Statistics yang disediakan oleh MOODLE [25]. Karena dalam kuis Perke- nalan dengan Perintah dan Notasi diberikan kesempatan be- berapa kali percobaan, maka dalam bagian ini akan diband- ingkan statistik pada percobaan pertama dan percobaan yang menghasilkan nilai tertinggi untuk masing-masing peserta didik. Selain itu, sebagai bahan perbandingan, ditambahkan pula sebuah kuis untuk evaluasi dari topik lain yang telah diselenggarakan sebelumnya. Semua pertanyaan pada (Akti- fitas Kuis Pembanding) adalah dalam bentuk pilihan Benar- Salah tanpa varian acak, kecuali penomoran soal untuk setiap peserta didik. Dengan demikian, kemungkinan untuk kecurangan tinggi.
Gambar 2a menunjukkan perbandingan Koefisien Kon- sistensi Internal ( Coefficient of Internal Consistency [CIC]). Parameter ini menunjukkan bahwa pada sebuah kuis, pertanyaan-pertanyaan yang ada mengukur hal yang sama. Semakin tinggi nilai parameter ini, maka semakin konsisten sebuah kuis. Dokumentasi MOODLE menyarankan 75% sebagai nilai rujukan, dan di bawah 64% sebagai unsatisfac- tory [25]. Dengan demikian, dari Gambar 2a, dapat dilihat bahwa Aktifitas Kuis Pembanding serta kuis Perkenalan dengan Perintah dan Notasi memiliki konsistensi di atas nilai rujukan. Bahkan konsistensi kuis pembanding hampir mencapai 90%, dimana nilai tersebut dianggap hampir tidak mungkin untuk dicapai. Sebagaimana telah diprediksi sejak awal Quiz on Linear Transformation memiliki konsistensi paling rendah sehingga remedial menjadi sesuatu yang wajib. CIC dari kuis Linear Transformation Evaluation Remedial berada ± 2.5 poin di bawah nilai rujukan 64%. Hal tersebut menunjukkan meskipun CIC dari Linear Transfor- mation Evaluation Remedial masih di bawah harapan, akan tetapi telah ada peningkatan daripada kuis sebelumnya, yaitu Quiz on Linear Transformation .
Parameter evaluasi kuis selanjutnya adalah Rasio Galat ( Error Ratio ) yang merupakan perkiraan persentase dari simpangan baku bahwa perbedaan hasil penilaian yang ada disebabkan oleh coba-coba, dan bukan karena perbedaan
T ABEL I: T AHAPAN EVALUASI Kuis Tujuan/Peruntukkan Jumlah Soal Jumlah Percobaan (Attempts) Durasi Pengerjaan (menit) Rentang Waktu Kesempatan Mengerjakan Perkenalan dengan Perintah dan Notasi Memperkenalkan kepada peserta didik perin- tah/fungsi yang akan digunakan serta 5 Tidak terbatas 15 ± 1 minggu Quiz on Linear Transformation Mengevaluasi pengetahuan dan kemampuan peserta didik dalam topik Transformasi Lin- ear 3 1 30 40 menit Linear Transformation Evaluation Remedial Mengevaluasi kembali untuk perbaikan nilai, pengetahuan dan kemampuan peserta didik dalam topik Transformasi Linear 6 1 90 100 menit
T ABEL II: S OAL DALAM SETIAP KUIS , BESERTA BOBOTNYA Kuis Soal Bobot Perkenalan dengan Perintah dan Notasi Menuliskan Sebuah Vektor Baris Sederhana 14.29% Menuliskan Sebuah Vektor Kolom Sederhana 14.29% Menuliskan Sebuah Matriks 14.29% Penjumlahan Matriks 28.57% Perkalian Matriks dan Penulisan Variabel 28.57% Quiz on Linear Transformation Finding the Image of T 18.75% Finding the Pre-image of T 6.25% Verifying a Linear Transformation 75.00% Linear Transformation Evaluation Remedial Finding the Image of T 13.64% Finding the Image of T (R2 to R3) 20.45% Finding the Image of T (R2 to R3 by Matrix) 27.27% Finding the Pre-image of T 4.55% Finding the Pre-image of T (R2 to R3) 6.82% Verifying a Linear Transformation 27.27%
T ABEL III: S TATISTIK PENGERJAAN KUIS OLEH PESERTA DIDIK
Kuis Jumlah Percobaan Pengerjaan Jumlah Peserta Didik yang mengerjakan Perkenalan dengan Perintah dan Notasi 815 313 Quiz on Linear Transformation 252 252 Linear Transformation Evaluation Remedial 269 269
(a) Pengerjaan dengan langkah yang benar
(b) Pengerjaan dengan langkah yang salah
Gambar 1: Contoh soal dan jawaban yang diberikan peserta didik. Soal ini merupakan soal pertama dalam kuis Linear Transformation Evaluation Remedial , dimana peserta didik diminta untuk mencari image dari sebuah vektor yang dimasukkan pada Transformasi Linear tertentu. Fungsi T pada kedua contoh di atas berbeda karena variasi acak yang dihasilkan oleh STACK.
kemampuan yang sebenarnya dari peserta didik. Gambar 2b menunjukkan Rasio Galat dari kelima kuis yang diband- ingkan. Diagram batang tersebut memiliki pola yang saling
berkebalikan dengan CIC pada Gambar 2a. Kuis Linear Transformation Evaluation Remedial berada hampir 12% di atas nilai yang disarankan, namun juga menunjukkan per-
(a) Koefisien Konsistensi Internal
(b) Rasio Galat
(c) Simpangan Baku (d) Galat Standar
Gambar 2: Statistik Kuis
baikan yang signifikan dari Quiz on Linear Transformation , dimana rasio galatnya mendekati 100%. Kuis pembanding dan percobaan-percobaan dengan nilai tertinggi pada kuis Perkenalan dengan Perintah dan Notasi memiliki rasio galat jauh di bawah nilai yang disarankan, sedangkan percobaan- percobaan pertama pada kuis Perkenalan dengan Perintah dan Notasi berada sedikit di atas nilai yang disarankan.
Simpangan Baku ( Standard Deviation [SD]) menun- jukkan sebaran nilai di sekitar nilai rata-rata. Gambar 2c menunjukkan perbandingan simpangan baku dari kuis- kuis yang dibandingkan. Dokumentasi MOODLE Devel- oper menyarankan nilai di antara 12%-18%. Dari Gambar 2c, dapat dilihat bahwa Quiz on Linear Transformation memiliki simpangan baku paling kecil, diikuti dengan kuis pembanding. Percobaan dengan nilai tertinggi dari kuis Perkenalan dengan Perintah dan Notasi berada sedikit di atas rentang nilai yang disarankan, diikuti dengan nilai pada Linear Transformation Remedial . Percobaan-percobaan per- tama pada kuis Perkenalan dengan Perintah dan Notasi memiliki simpangan baku terbesar. Dapat dilihat hanya aktifitas pembanding yang berada dalam rentang yang dis- arankan. Quiz on Linear Transformation memiliki simpan- gan baku di angka 8.52%, yang mengindikasikan distribusi nilai yang sangat mendekati nilai rata-rata.
Galat Standar ( Standard Error [SE]) menunjukkan kecen- derungan simpangan baku yang ada disebabkan oleh jawa- ban coba-coba dari peserta didik, alih-alih kemampuan yang sebenarnya. Gambar 2d menunjukkan perbandingan SE dari kelima kuis yang ada. Nilai maksimum yang disarankan adalah 8%. Dapat dilihat bahwa hanya kuis pembanding dan Quiz on Linear Transformation yang memenuhi syarat tersebut. Percobaan-percobaan pertama dari kuis Perkenalan dengan Perintah dan Notasi bahkan lebih dari dua kali lipat nilai yang disarankan, menunjukkan tingginya simpangan baku tidak terjadi karena kemampuan yang sebenarnya dari peserta didik.

## C. Statistik Soal
Sama dengan Statistik Kuis pada subbagian III-B, statis- tik untuk tiap soal juga diambil dari fitur yang tersedia pada MOODLE. Berbeda dengan Statistik Kuis, Statistik Soal menunjukkan karakteristik respon (jawaban) peserta didik untuk tiap soal yang ada. Dengan demikian, dapat diidentifikasi tingkat kesulitan dan seberapa baik sebuah soal dapat membedakan kemampuan peserta didik. Parameter yang diambil untuk soal adalah:
1) Indeks Fasilitas ( Facility Index ). Parameter ini me- nunjukkan nilai rata-rata peserta didik untuk tiap nomor soal. Apabila terdapat variasi karena un- tuk satu nomor soal ditarik secara acak dari kat- egori/subkategori pada bank soal, maka nilai ini merepresentasikan tingkat kesulitan untuk soal-soal dalam kategori/subkategori tersebut. Dokumentasi MOODLE Developer menyarankan rentang nilai 35- 65 Indeks Fasilitas yang tepat bagian rata-rata peserta didik. Semakin tinggi Indeks Fasilitas, itu berarti semakin mudah sebuah nomor soal.
2) Indeks Pembeda ( Discrimination Index ) menun- jukkan hubungan antara bobot sebuah nomor soal dan nomor-nomor soal lainnya dalam kuis yang sama. Parameter ini mengindikasikan seberapa efektif se- buah nomor soal dalam membedakan kemampuan dari peserta didik. Nilai yang dianggap cukup berada pada rentang 30-50, sedangkan di atas 50 dianggap memiliki pembedaan yang sangat baik.
3) Efisiensi Pembedaan ( Discriminative Efficiency ), yaitu estimasi seberapa baik Indeks Pembeda relatif terhadap tingkat kesulitan sebuah nomor soal. Nilai yang disarankan adalah lebih dari 50%.
Gambar 3a menunjukkan statistik soal untuk hasil percobaan-percobaan pertama peserta didik untuk kuis Perkenalan dengan Perintah dan Notasi. Dapat dilihat bahwa untuk hasil percobaan-percobaan pertama peserta didik un-
(a) Percobaan-percobaan pertama pada kuis Perkenalan dengan Perintah dan Notasi
(b) Percobaan-percobaan nilai tertinggi pada kuis Perkenalan dengan Perintah dan Notasi
(c) Quiz on Linear Transformation
(d) Linear Transformation Evaluation Remedial
Gambar 3: Statistik untuk tiap nomor soal. Urutan kelompok diagram batang dimulai dari bawah ke atas (Soal nomor 1 = kelompok diagram batang paling bawah)
tuk kuis tersebut, soal nomor 1-3 memiliki Indeks Fasil- itas di atas 65%, menunjukkan bahwa soal-soal tersebut relatif mudah, sedangkan untuk soal nomor 4 dan 5 be- rada pada rentang yang diharapkan. Semua soal memiliki Indeks Pembeda dan Efisiensi Pembedaan yang sangat baik karena semuanya di atas 50%. Sedangkan untuk percobaan- percobaan yang menghasilkan nilai tertinggi untuk setiap peserta didik, Gambar 3b, terjadi peningkatan yang san-
gat signifikan pada Indeks Pembeda dan Efisiensi Pembe- daan. Akan tetapi, Indeks Fasilitas juga meningkat, berada di antara 89.58% sampai dengan 96.74%, yang menurut dokumentasi MOODLE Developer , tingkat kesulitan soal- soal tersebut adalah dari Easy sampai dengan Extremely Easy [25]. Peningkatan-peningkatan yang terjadi tersebut dapat dilihat sebagai dampak dari jumlah percobaan yang tidak dibatasi, sehingga peserta didik telah menjadi terbiasa
Gambar 4: Statistik untuk tiap nomor soal pada kuis pembanding
dengan pola soal yang diberikan.
Kontras dengan kuis latihan, pada Quiz on Linear Trans- formation hanya dua nomor pertama yang dapat dievaluasi statistiknya, sebagaimana dapat dilihat pada Gambar 3c. Hal tersebut dikarenakan tidak seorangpun peserta didik menger- jakan soal nomor tiga. Kemungkinan dikarenakan waktu
yang diberikan sangat terbatas, sementara peserta didik baru pertama kali menghadapi pola soal yang diberikan. Soal nomor satu, Finding the Image of T , memiliki Indeks Fasil- itas 33.55%, yang masih termasuk dalam kategori Cukup Sulit, sedangkan soal nomor dua, Finding the Pre-Image of T , dengan Indeks Fasilitas 10.32%, termasuk dalam kategori
sangat sulit. Semua soal yang ada dalam kuis ini tidak dapat digunakan untuk membedakan kemampuan peserta didik dalam topik yang dievaluasi, karena baik Indeks Pembeda maupun Efisiensi Pembedaan berada jauh di bawah nilai yang diharapkan.
Pemberian kuis remedial melalui aktifitas Linear Trans- formation Evaluation ternyata memberikan efek yang di- harapkan, yakni peningkatan capaian belajar peserta didik. Sebagaimana tergambar dalam Gambar 3d, meskipun ada penambahan tiga soal baru dengan karakteristik yang agak berbeda, dan penurunan bobot soal Verifying a Linear Trans- formation , didapati soal-soal yang diberikan, kecuali soal nomor enam, dapat digunakan untuk membedakan dengan baik kemampuan peserta didik, dilihat dari Indeks Pembeda dan Efisiensi Pembedaan yang berada dalam rentang nilai yang disarankan. Jenis soal yang menanyakan tentang Image dari sebuah Transformasi Linear telah menjadi lebih mudah dijawab oleh peserta didik, kecuali untuk Transformasi Lin- ear oleh sebuah matriks. Meskipun demikian, soal tersebut masih berada dalam tingkat kesulitan yang kira-kira tepat untuk sebagian besar peserta didik, demikian pula den- gan soal yang menanyakan tentang pre-image Transformasi Linear. Khusus soal Verifying a Linear Transformation , setelah ditelusuri, hanya sedikit peserta didik yang mencoba mengerjakan soal tersebut, dan hanya satu orang yang berhasil meraih skor, itupun hanya satu dari 12 jawaban yang diminta. Sehingga soal tersebut memiliki Indeks Fasil- itas yang sangat rendah, dan dikategorikan terlampau sulit atau mungkin terdapat kekeliruan, seperti waktu pengerjaan yang kemungkinan kurang.
Statistik untuk masing-masing nomor soal dalam aktifitas pembanding ditunjukkan dalam Gambar 4. Dapat dilihat bahwa soal-soal dalam kuis ini dapat dengan baik digunakan untuk membedakan kemampuan peserta didik, karena semua nilai Indeks Pembeda dan Efisiensi Pembedaan berada di atas angka yang direkomendasikan.Jika dilihat pada Indeks Fasilitas, maka soal-soal yang ada pada kuis ini memiliki tingkat kesulitan antara Fairly Easy bahkan sampai dengan Extremely Easy . Akan tetapi, dengan soal-soal yang relatif mudah ini, sulit untuk benar-benar mengukur kemampuan peserta dalam topik yang dievaluasi karena kecenderun- gan mereka mengisi jawaban yang sama. Apalagi dengan tipe soal Benar/Salah, dan tidak ada variasi acak untuk tiap nomor soal, maka lebih mudah untuk peserta didik melakukan kecurangan.
Berdasarkan data-data yang ada dan telah dijabarkan di atas, dapat dilihat bahwa secara teknis penerapan plugin STACK di SEL UNSRAT telah berhasil. Selanjutnya untuk pemanfaatannya dalam mengevaluasi capaian belajar pe- serta didik, masih diperlukan pengenalan yang lebih banyak lagi. Belajar dari aktifitas yang dirancang khusus untuk memperkenalkan perintah dan notasi, maka dapat dilihat bahwa kedua hal tersebut bisa dikuasai dengan mudah oleh peserta didik. Memang jika dilihat dari statistik kuis maupun statistik soal, nilai-nilai yang ada cenderung tidak mencapai angka yang diharapkan. Akan tetapi, perlu diingat pula bahwa ini untuk pertama kalinya plugin ini diterapkan dalam evaluasi. Jika membandingkan dengan kuis pembanding yang menggunakan tipe soal berbeda dan ternyata memiliki tingkat kesulitan per-soal yang lebih rendah, tentu saja statis- tik dari evaluasi yang menggunakan plugin STACK dalam naskah ini terlihat rendah. Namun jika melihat kembali tujuan evaluasi, maka soal yang terlampau mudah tidak dapat menjadi ukuran kemampuan peserta didik. Dalam hal ini, soal-soal pada kuis Linear Transformation Evaluation Remedial cenderung berada dalam rentang Indeks Fasilitas yang menunjukkan tingkat kesulitan yang tepat bagi seba-
gian besar peserta didik.

## IV. K ESIMPULAN
Memastikan peserta didik berhasil memenuhi capaian pembelajaran yang dirancangkan adalah sebuah hal yang penting dalam pelaksanaan pendidikan. Untuk mewujudkan hal tersebut, maka dibutuhkan instrumen evaluasi yang sesuai dengan tujuan evaluasi. Melakukan evaluasi un- tuk jumlah peserta didik yang sangat banyak tentu saja merupakan proses yang akan sangat melelahkan apabila dilakukan secara manual, belum lagi potensi terjadi ke- salahan akibat faktor kelalaian pemeriksa. Oleh sebab itu, dibutuhkan sistem yang dapat menghasilkan varian soal dan kemudian secara otomatis memeriksa serta memberikan penilaian. Hal tersebut telah ada dan merupakan salah satu fitur dari LMS berbasis MOODLE, termasuk SEL UNSRAT. Meskipun demikian, masih ditemui kendala yang besar untuk evaluasi topik yang membutuhkan analisis matematis, terlebih lagi apabila langkah-langkah penyelesaian soal juga menjadi parameter evaluasi.
Untuk mengatasi hal tersebut maka dilakukan sebuah uji coba untuk mengimplementasikan plugin STACK, yaitu sebuah plugin untuk LMS berbasis MOODLE yang dapat digunakan untuk menyusun soal yang membutuhkan analisis matematis. Dalam kajian ini, peserta didik terlebih dahulu diberikan kesempatan untuk mengenali perintah dan notasi yang akan digunakan untuk menjawab soal evaluasi yang sebenarnya. Evaluasi yang pertama dilakukan memberikan hasil yang buruk, baik dari segi capaian peserta didik maupun analisis terhadap statistik kuis dan tiap soal yang diberikan. Dalam kesempatan remedial yang diberikan, ter- dapa peningkatan hasil kerja peserta didik dan juga statistik kuis serta soal. Dari kuis remedial, didapati bahwa soal yang disusun dengan STACK memiliki tingkat kesulitan yang sesuai untuk sebagian besar peserta didik, dan may- oritas soal tersebut dapat digunakan untuk membedakan kemampuan peserta didik. Akan tetapi, statistik kuis dan soal menampilkan banyak aspek untuk peningkatan kede- pannya, seperti memberikan waktu yang lebih banyak, serta kesempatan latihan untuk peserta didik. Dari kelebihan dan kekurangan yang ada, serta mengingat pula bahwa ini adalah untuk pertama kalinya plugin ini diimplementasikan, maka kedepannya masih diperlukan lebih banyak kajian dan pengujian di lapangan.

## R EFERENSI
[1] M. Aparicio, F. Bacao, and T. Oliveira, “An e-Learning
Theoretical
Framework,” Journal of Educational Technology Systems , vol. 19, no. 1, pp. 292–307, 2016. [Online]. Available: http://www.jstor.org/stable/jeductechsoci.19.1.292
[2] C. J. Sangwin, Computer Aided Assessment of Mathematics Using STACK , S. J. Cho, Ed. Cham: Springer International Publishing, 2015. [Online]. Available: https://link.springer.com/10. 1007/978-3-319-17187-6
[3] M. Dougiamas and P. Taylor, “Moodle: Using Learning Commu- nities to Create an Open Source Course Management System,” in Proceedings of EdMedia + Innovate Learning 2003 , D. Lassner and C. McNaught, Eds. Honolulu, Hawaii, USA: Association for the Advancement of Computing in Education (AACE), 2003, pp. 171– 178.
[4] S. D. E. Paturusi, Y. Chisaki, and T. Usagawa, “Development and Evaluation of the Blended Learning Courses at Sam Ratulangi University in Indonesia,” International Journal of e- Education, e-Business, e-Management and e-Learning , vol. 2, no. 3, pp. 242–246, 2012. [Online]. Available: http://www.ijeeee. org/show-31-360-1.html
[5] S. D. E. Paturusi, T. Usagawa, and A. S. M. Lumenta, “A study of students’ satisfaction toward blended learning implementation in higher education institution in Indonesia,” in 2016 International Conference on Information & Communication Technology and Systems (ICTS) . IEEE, 2016, pp. 220–225. [Online]. Available: http://ieeexplore.ieee.org/document/7910302/
[6] S. T. G. Kaunang and T. Usagawa, “A New Approach for Delivering e-Learning Complex Courses in Indonesia,” International Journal of e-Education, e-Business, e-Management and e-Learning , vol. 7, no. 2, pp. 132–145, 2017. [Online]. Available: http: //www.ijeeee.org/show-65-806-1.html
[7] S. T. G. Kaunang and J. M. Pertiwi, “Portray of Student Preference on e-Learning Complex Course Based on Gender,” in Proceedings of the 10th International Conference on E- Education, E-Business, E-Management and E-Learning - IC4E ’19 . Tokyo, Japan: ACM Press, 2019, pp. 23–27. [Online]. Available: https://dl.acm.org/citation.cfm?doid=3306500.3306529
[8] “Keputusan Rektor No. 82/UN12/LL/2018 tentang Pedoman Penye- lenggaraan Pembelajaran Daring (e-Learning) Universitas Sam Rat- ulangi,” Manado, 2018.
[9] C. T. Gozali, S. D. E. Paturusi, and A. M. Sambul, “Studi Preferensi Mahasiswa terhadap Jenis Media Pembelajaran Daring,” Jurnal Teknik Informatika , vol. 13, no. 4, pp. 39–46, 2018. [Online].
Available: https://ejournal.unsrat.ac.id/index.php/informatika/article/ view/24115
[10] D. F. Sengkey, S. D. E. Paturusi, A. M. Sambul, and C. T. Gozali, “A Survey on Students’ Interests toward On-line Learning Media Choices (A Case Study from the Operations Research Course in the Department of Electrical Engineering, UNSRAT),” International Journal for Educational and Vocational Studies , vol. 1, no. 2, pp. 146–152, jun 2019. [Online]. Available: http://ojs.unimal.ac.id/index.php/ijevs/article/view/1527
[11] D. F. Sengkey, S. D. E. Paturusi, and A. M. Sambul, “Identifying Students’ Pre-Classroom
Behaviors in a Flipped Learning Environment,” Journal of Sustainable Engineering: Proceedings Series , vol. 1, no. 2, pp. 143–149, sep 2019. [Online]. Available: http://seps.unsrat.ac.id/journals/index.php/joseps/article/view/19
[12] D. F. Sengkey, A. M. Sambul, and S. D. E. Paturusi, “Penilaian Mahasiswa terhadap Jenis Media Pembelajaran dalam Penerapan Flipped Classroom,” Jurnal Teknik Elektro dan Komputer , vol. 8, no. 2, pp. 103–110, aug 2019. [Online]. Available: https: //ejournal.unsrat.ac.id/index.php/elekdankom/article/view/25029
[13] D. F. Sengkey, S. D. E. Paturusi, and A. M. Sambul, “Perbandingan Akses Mahasiswa terhadap Media Pembelajaran Daring dalam Penerapan Flipped Classroom,” Jurnal Teknik Elektro dan Komputer , vol. 9, no. 1, pp. 31–38, jun 2020. [Online]. Available: https: //ejournal.unsrat.ac.id/index.php/elekdankom/article/view/28634
[14] D. F. Sengkey and A. S. R. Masengi, “Mixed-type Variables Cluster- ing for Learners’ Behavior in Flipped Classroom Implementation,” Indonesian Journal of Electrical Engineering and Informatics (IJEEI) , vol. 11, no. 1, pp. 152–163, mar 2023. [Online]. Available: http://section.iaesonline.com/index.php/IJEEI/article/view/4376
[15] D. F. Sengkey, S. D. E. Paturusi, and A. M. Sambul, “Correlations between Online Learning Media Types, First Access Time, Access Frequency, and Students’ Achievement in a Flipped Classroom Implementation,” Jurnal Sistem Informasi , vol. 17, no. 1, pp. 44–57, apr 2021. [Online]. Available: https://jsi.cs.ui.ac.id/index.php/jsi/article/view/1008
[16] D. F. Sengkey, F. D. Kambey, S. P. Lengkong, S. R. Joshua, and H. V. F. Kainde, “Pemanfaatan Platform Pemrograman Daring dalam Pembelajaran Probabilitas dan Statistika di Masa Pandemi CoVID-19,” Jurnal Teknik Informatika , vol. 15, no. 4, pp. 217–224, 2020. [Online]. Available: https://ejournal.unsrat.ac.id/index.php/ informatika/article/view/31685
[17] D. F. Sengkey, F. D. Kambey, P. D. K. Manembu, H. A. Mapaly, K. Y. R. Palilingan, A. M. Rumagit, S. P. Lengkong, R. Sengkey, and A. S. R. Masengi, “Do the Informatics Freshmen Satisfied with Information Technology-assisted Learning? A Study During the Pandemic Era,” Jurnal Teknik Informatika , vol. 17, no. 3, pp. 219–224, sep 2022. [Online]. Available: https: //ejournal.unsrat.ac.id/v3/index.php/informatika/article/view/44220
[18] “Peraturan Rektor nomor 1 tahun 2019 tentang PEdoman Penyeleng- garaan Akademik di Universitas Sam Ratulangi,” Manado, 2019.
[19] C. J. Sangwin, “Who uses STACK? A report on the use of the STACK CAA,” Maths Stats and OR Network, School of Mathematics, University of Birmingham, Tech. Rep., 2010. [Online]. Available: http://mathstore.ac.uk/headocs/WhoUsesSTACK.pdf
[20] C. J. Sangwin and N. K¨ocher, “Automation of mathematics
examinations,” Computers & Education , vol. 94, pp. 215–227, mar 2016. [Online]. Available: https://linkinghub.elsevier.com/retrieve/ pii/S0360131515300865
[21] C. J. Sangwin and I. Jones, “Asymmetry in student achievement on multiple-choice and constructed-response items in reversible mathematics processes,” Educational Studies in Mathematics , vol. 94, no. 2, pp. 205–222, feb 2017. [Online]. Available: http://link.springer.com/10.1007/s10649-016-9725-4
[22] R. Thomas Bickerton and C. J. Sangwin, “Practical online assessment of mathematical proof,” International Journal of Mathematical Education in Science and Technology , vol. 53, no. 10, pp. 2637–2660, sep 2022. [Online].
Available: https://doi.org/10.1080/0020739X.2021.1896813https:// www.tandfonline.com/doi/full/10.1080/0020739X.2021.1896813
[23] G. Kinnear, “Delivering an online course using STACK,” in The 1st International STACK Conference 2018 , F¨urth, 2019. [Online]. Available: https://zenodo.org/record/2565969#.ZHcD5aVBy3A
[24] Dokumen Kurikulum Pendidikan Tinggi Program Sarjana pada Pro- gram Studi Teknik Informatika . Universitas Sam Ratulangi, 2019.
[25] “Quiz report statistics - MoodleDocs,” 2022. [Online]. Available: https://docs.moodle.org/dev/Quiz report statistics
Daniel Febrian Sengkey mulai tahun 2008 menjalani pendidikan jenjang sarjana di Pro- gram Studi Teknik Elektro, Universitas Sam Rat- ulangi dengan konsentrasi Teknik Informatika. Pada tahun 2012 menyelesaikan jenjang tersebut dan meraih gelar Sarjana Teknik (S.T.). Kemu- dian pada tahun 2013 melanjutkan ke jenjang magister pada Program Pascasarjana Teknik Elek- tro, Universitas Gadjah Mada dengan konsentrasi Teknologi Informasi. Pendidikan jenjang magister diselesaikan pada tahun 2015 dengan gelar Master of Engineering (M.Eng.). Mulai tahun 2016 menjadi tenaga pengajar di Program Studi Teknik Informatika, Universitas Sam Ratulangi, dan sejak tahun 2018 telah diangkat menjadi dosen tetap. Bidang minat penelitian saat ini adalah jaringan komputer, teknologi pembelajaran dan machine learning .