Jurnal Teknodik Vol. 21 - Nomor 1, Juni 2017
1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890 1234567890123456789012345678901212345678901234567890123456789012123456789012345678901234567890121234567890123456789012345678901212345678901234567890

## STUDI KELAYAKAN PENGEMBANGAN APLIKASI BANK SOAL DALAM RUMAH BELAJAR

## FEASIBILITY STUDY OF BANK SOAL

## APPLICATION DEVELOPMENT IN RUMAH BELAJAR
Siti Mutmainah Pustekkom Kemendikbud
Jl. RE. Martadinata, Ciputat, Tangerang Selatan, Banten, Indonesia siti.mutmainah@kemdikbud.go.id
Diterima: 15 Februari 2017, dikembalikan untuk direvisi: 29 Februari 2017, disetujui: 11 maret 2017
Abstrak:  Ujian berbasis komputer sudah mulai diterapkan di beberapa sekolah di Indonesia. Untuk mendukung ujian berbasis komputer, portal Rumah Belajar mengembangkan aplikasi Bank Soal sebagai wadah bagi guru-guru dalam membuat evaluasi hasil belajar secara online. Oleh karena itu, perlu dilakukan studi kelayakan atas aplikasi Bank Soal tersebut. Tujuan dari studi ini adalah untuk mengetahui: (1) apakah pengguna merasa senang, puas, dan mendapatkan kemudahan ketika menggunakan aplikasi Bank Soal, dan (2) apakah tampilan aplikasi Bank Soal memiliki daya tarik dan mengikuti perkembangan teknologi. Survei dilakukan dengan memberikan kuesioner kepada 21 orang guru dari jenjang SD, SMP, SMA, dan SMK di 21 kabupaten/kota yang sudah memiliki kemampuan dalam mengoperasikan komputer dan menggunakan internet. Hasil penghitungan rata-rata pendapat responden dengan UEQ tools dapat diinterpretasikan bahwa aplikasi Bank Soal memiliki daya tarik yang baik dan alur pembuatan evaluasi yang cukup jelas; efisien dan praktis; mendukung evaluasi guru; aman untuk diakses siswa; memotivasi dan menarik minat guru dan siswa untuk melakukan evaluasi secara online; serta merupakan sebuah inovasi pembelajaran yang mengikuti perkembangan teknologi dalam hal kegiatan evaluasi pembelajaran.
Kata Kunci: Aplikasi Bank Soal, portal Rumah Belajar, teknologi.
Abstract: Computer-based test has been implemented in some schools in Indonesia. To support the computer-based test, portal Rumah Belajar develops applications of Bank Soal as a forum for teachers in making the evaluation of learning outcomes online. Therefore, it is necessary to do a feasibility study about Bank Soal application. The objective of this study is to know whether: (1) the users are pleased, satisfied, and facilitated with the application; and (2) the layout of the Bank Soal application is attractive and in line with the technology development. The survey was carried out through questionnaire to 21 teachers of elementary schools, junior high schools, and senior high schools as well as vocational school from 21 districts/cities that already have the ability to operate a computer and internet. The average calculation of respondents’ opinion with UEQ tools indicates that Bank Soal application is attractive, efficient, and practical; has clear evaluation creation process; supports teachers’ evaluation;is safe to be accessed by students; motivates teachers as well as students to carry on online evaluation; and is an innovation which is in line with technology development especially in learning evaluation technology.
Key words: Bank Soal application, Rumah Belajar website, technology.

## Siti Mutmainah: Studi Kelayakan Pengembangan Aplikasi Bank Soal dalam Rumah Belajar

## PENDAHULUAN
Kunci sukses dunia pendidikan dalam menghadapi tantangan abad 21 adalah proses pembelajaran yang interdisiplin dan holistik, mampu menyelesaikan dan beradaptasi dengan berbagai permasalahan, proses belajar- mengajar berpusat pada siswa, partisipatif, dan interaktif; berbasis penelitian dan berorientasi kerja; serta koheren, progresif, dan bercermin pada lingkungan. Siswa abad 21 diharapkan memiliki keterampilan, yang antara lain mampu menentukan sendiri tujuan belajarnya; mengonstruksi pengetahuan; berkolaborasi; berkomunikasi; memanfaatkan Teknologi Informasi dan Komunikasi (TIK); menyelesaikan masalah; dan berinovasi. Keterampilan- keterampilan tersebut dapat dibangun melalui pengintegrasian TIK dalam proses pembelajaran.
Peran guru dalam proses pembelajaran yang mengintegrasikan TIK diharapkan sebagai fasilitator, kolaborator, mentor, pelatih, pengarah dan teman belajar, serta dapat memberikan pilihan dan tanggung jawab yang besar kepada siswa untuk mengalami peristiwa belajar. Pemanfaatan teknologi dalam penilaian memberikan potensi yang tinggi serta nilai tambah melalui pengumpulan dan analisis data yang akurat.
Sistem pelaksanaan ujian nasional dengan menggunakan komputer sebagai media ujiannya dikenal dengan sebutan UNBK (Ujian Nasional Berbasis Komputer) dan sudah mulai dilaksanakan di Indonesia sejak tahun 2015. Pada tahun 2015, dilaksanakan rintisan UNBK dengan mengikutsertakan 556 sekolah yang terdiri dari 42 SMP/MTs, 135 SMA/MA, dan 379 SMK di 29 Provinsi dan sekolah Indonesia di luar negeri. Pada tahun 2016, dilaksanakan UNBK dengan mengikutsertakan 4382 sekolah yang tediri dari 984 SMP/MTs, 1298 SMA/MA, dan 2100 SMK.
Keberadaan Bank Soal bermanfaat bagi guru ketika ingin melakukan penilaian dengan sistem berbasis komputer. Setiap kali mengonstruksi tes untuk penilaian, para guru tinggal mengambil butir-butir soal yang telah ada di Bank Soal. Selain mempermudah penyusunan instrumen tes, Bank Soal juga menjamin kualitas instrumen yang dipakai. Suatu tes dikatakan berkualitas apabila memenuhi syarat-syarat tertentu, yaitu antara lain (1) valid, mengukur yang harus diukur sesuai tujuan; (2) relevan, dalam arti yang diukur/ diuji sesuai dengan tujuan yang diinginkan; (3) tidak mengandung tafsiran ganda; (4) representatif, soal mewakili materi pelajaran secara keseluruhan; dan (5) seimbang, dalam arti pokok-pokok materi pelajaran yang penting diwakili dan yang tidak penting tidak selalu perlu.
Salah satu tujuan evaluasi media adalah untuk menentukan kualitas media agar dapat ditentukan kelayakan penggunaannya dalam pembelajaran serta ketepatan pemilihan media dalam sistem pembelajaran (Mutmainah, 2014). Oleh karena itu, berbagai media pembelajaran yang sedang dikembangkan perlu dievaluasi untuk mengetahui kelayakan pemanfaatannya dan kualitas layanan serta tingkat kepuasan bagi penggunanya.
Semakin tinggi kualitas layanan sebuah website , semakin meningkat pula kepuasan pengguna dan intensitas penggunaan layanan website tersebut. Sementara itu, semakin besar tingkat kepuasan seseorang terhadap suatu layanan, semakin tinggi keinginan seseorang untuk menggunakan layanan tersebut (Wicaksono, dkk., 2012). Selama ini aplikasi- aplikasi yang dikembangkan untuk portal Rumah Belajar belum dievaluasi secara mendalam untuk mengetahui kelayakan penggunaannya, baik dari sisi tampilan, sistem/rancangan yang digunakan untuk setiap aplikasi, maupun kebermanfaatannya dalam meningkatkan kualitas pembelajaran. Salah satu aplikasi yang
perlu dievaluasi kelayakannya adalah aplikasi Bank Soal. Aplikasi ini dapat digunakan guru dalam mengembangkan evaluasi hasil belajar berbasis komputer dan web . Berdasarkan permasalahan tersebut, tujuan dari studi ini adalah untuk mengetahui: (1) apakah pengguna merasa senang, tertarik, puas, dan mendapatkan kemudahan ketika menggunakan aplikasi Bank Soal; dan (2) apakah tampilan aplikasi Bank Soal memiliki daya tarik dan mengikuti perkembangan teknologi.

## KAJIAN LITERATUR

## Bank Soal untuk Menyusun Tes Hasil Belajar
Terdapat dua macam tes menurut pembuatannya, yaitu tes yang dibakukan ( standardized test) yang biasanya dibuat oleh pemerintah dan tes buatan guru (Basuki dan Hariyanto, 2014). Beberapa kegunaan tes buatan guru adalah untuk: (1) menentukan seberapa baik siswa telah menguasai bahan pelajaran yang diberikan dalam waktu tertentu; (2) menentukan apakah suatu tujuan telah tercapai; dan (3) memperoleh suatu nilai (Arikunto, 2015).
Agar konstruksi tes buatan guru lebih baik, perlu diperhatikan beberapa hal, yaitu: (1) buatlah soal tes sebelum memulai suatu unit pembelajaran; (2) jaminlah bahwa soal-soal tes berkaitan dengan tujuan pembelajaran; (3) buatlah petunjuk yang jelas bagi setiap bagian tes; (4) susunlah pertanyaan dari yang memerlukan jawaban sederhana menuju ke soal yang memerlukan jawaban lebih sukar; (5) berikan nilai bagi setiap bagian tes; (6) variasikan jenis-jenis pertanyaannya atau jenis tesnya; (7) kelompokkan setiap pertanyaan yang sejenis; (8) ketik atau cetak soal dengan jelas; (9) jaminlah bahwa soal tes sesuai dengan kemampuan membaca dari peserta tes; dan (10) berikan waktu yang cukup bagi seluruh siswa untuk menyelesaikan tes.
Tes buatan guru juga memiliki kelemahan yang tidak dapat dipungkiri. Terdapat dua kelemahan mendasar pada tes buatan guru. Pertama, perangkat tes yang dibuat, setiap kali akan melakukan penilaian tidak teruji secara statistik karena tidak melalui ujicoba untuk menguji validitas dan reliabilitasnya, termasuk pengujian daya beda dan efektivitas pengecoh ( distractor ) pada tipe soal pilihan ganda. Validitas konstruknya dapat pula dipertanyakan karena penyusunannya yang seadanya dan kurang terencana. Kedua, jika pun ingin diperoleh tes yang benar-benar berkualitas, tentu memerlukan waktu yang tidak sedikit setiap kali akan melakukan penilaian (Sumardyono dan Wiworo, 2011).
Keberadaan Bank Soal bermanfaat bagi guru ketika ingin melakukan penilaian. Setiap kali mengonstruksi tes untuk penilaian, para guru tinggal mengambil butir-butir soal yang telah ada di Bank Soal. Selain mempermudah penyusunan instrumen tes, Bank Soal juga menjamin kualitas instrumen yang akan dipakai.
Bank Soal merupakan sekumpulan butir soal terkalibrasi (teruji), baik secara teori maupun empiris, dan memuat informasi penting sehingga dapat dengan mudah digunakan dalam penyusunan sebuah instrumen penilaian (tes).
Ada beberapa karakteristik Bank Soal yang perlu dipahami. Pertama, setiap butir soal pada Bank Soal merupakan butir soal yang terkalibrasi (teruji). Aspek validitas merupakan aspek yang paling penting dari setiap butir soal pada Bank Soal. Kedua, setiap butir soal memiliki berbagai informasi yang bermanfaat dalam penyusunan sebuah instrumen penilaian. Ketiga, basis data (soal-soal) pada sebuah Bank Soal dibangun secara terstruktur.  Jadi, semua butir soal pada Bank Soal disusun secara sistematis sedemikian rupa sehingga antara butir soal yang satu dengan yang lain memiliki hubungan (link) berdasarkan komponen spesifikasi yang sama (Sumardyono dan Wiworo, 2011). Dengan demikian, misalnya
ketika seorang guru menghendaki beberapa butir soal yang dapat mengukur suatu kompetensi tertentu, penelusuran ke soal-soal tersebut mudah dilakukan dari sebuah Bank Soal.
Komponen terpenting dari sebuah Bank Soal adalah butir soal itu sendiri. Baik buruknya sebuah Bank Soal sangat tergantung pada baik buruknya soal-soal yang terdapat pada Bank Soal tersebut. Oleh karena itu, dalam pengumpulan butir-butir soal hendaknya benar-benar diperhatikan kualitas butir-butir soal tersebut.  Setidak-tidaknya ada dua cara untuk mendapatkan butir soal yang terkalibrasi. Pertama, membuat sendiri butir soal yang teruji. Seperangkat soal (instrumen tes) dibuat, lalu dilakukan uji coba untuk mendapatkan butir-butir soal yang valid, sekaligus mendapatkan informasi mengenai keberfungsian pengecoh, daya beda, serta tingkat kesukaran butir soal. Kedua, mengumpulkan butir soal yang telah teruji. Soal-soal dari instrumen tes yang telah terkalibrasi, misalnya soal-soal tes yang dibuat untuk ujian nasional atau tes untuk siswa yang telah dipercaya dan memiliki bukti validitas dan reliabilitasnya dapat dikumpulkan ke dalam Bank Soal.
Beberapa kegunaan Bank Soal yang layak dijadikan pertimbangan untuk membangun sebuah Bank Soal adalah: (1) memungkinkan penyusunan sebuah instrumen tes secara cepat dan mudah; (2) memungkinkan penyusunan sebuah instrumen tes yang berkualitas karena berasal dari butir-butir soal yang terkalibrasi; (3) memungkinkan pengguna (guru) dalam jumlah besar yang dapat menggunakan butir-butir soal dalam bank soal; (4) memungkinkan tersedianya soal dengan beragam tingkat kesukaran; (5) memungkinkan review yang intensif untuk memperbarui butir-butir soal baru, dan (6) memungkinkan pencarian butir-butir soal dengan mudah menggunakan berbagai dasar pencarian sesuai keperluan, misalnya berdasarkan topik, kompetensi (SK atau KD), dan tingkat kesukaran
soal (Sumardyono dan Wiworo, 2011).
Keuntungan dalam pengembangan Bank Soal dapat dikelompokkan menjadi empat kategori, yaitu: (1) kategori ekonomi, di mana Bank Soal memungkinkan adanya penggunaan butir-butir soal yang baik secara berulang; (2) kategori fleksibilitas, panjang tes dapat disesuaikan dengan kebutuhan; (3) kategori konsistensi, memungkinkan adanya tes yang parallel sehingga hasilnya dapat dibandingkan karena kemampuan peserta tes dapat diketahui dengan skala yang sama; (4) kategori alternatif, memungkinkan pengembang tes untuk membuat tes alternatif untuk menjaga kebocoran soal yang tujuannya sangat penting (Suyata, dkk, 2011).
Bank Soal memiliki beberapa manfaat. Pertama, bank soal mempermudah tugas guru dalam melakukan penilaian. Selain itu, Bank Soal juga mendorong peningkatan kemampuan guru dalam membuat soal. Kedua, siswa mendapatkan keadilan dengan diterapkannya penilaian yang objektif dari Bank Soal. Ketiga, Bank Soal mempermudah sekolah dalam menyelenggarakan evaluasi belajar tingkat sekolah.
Selain memiliki beberapa manfaat, Bank Soal juga memiliki beberapa kelemahan yang perlu diperhatikan dan diantisipasi. Pertama, membutuhkan waktu, tenaga, dan biaya yang tidak sedikit untuk mengembangkan dan mengelola sebuah Bank Soal. Kedua, sifat Bank Soal adalah sebagai kumpulan butir-butir soal, bukan kumpulan instrumen tes. Dengan demikian, sebuah instrumen tes sejatinya belum tersedia dalam Bank Soal. Kita harus memilih secara selektif butir-butir soal dari Bank Soal untuk mendapatkan sebuah instrumen tes yang berkualitas dan sesuai dengan yang diinginkan. Salah satu hal yang harus diperhatikan adalah apakah kompetensi yang diukur oleh butir-butir soal dari Bank Soal tersebut benar-benar telah dipelajari siswa. Jika tidak, tentu telah terjadi
kesalahan dalam pemanfaatan Bank Soal. Ketiga, dengan adanya Bank Soal, guru hanya menjadi pengguna pasif Bank Soal dan tidak berusaha membantu mengembangkan bank soal.

## Pengembangan Aplikasi Bank Soal
Aplikasi adalah penerapan dari rancangan sistem untuk mengolah data yang menggunakan aturan atau ketentuan bahasa pemrograman tertentu (https://en.wikipedia.org/wiki/ISO_9241). Aplikasi Bank Soal di Rumah Belajar merupakan sebuah sistem yang digunakan untuk mengelola evaluasi pembelajaran, dimulai dari membuat soal, membuat evaluasi pembelajaran, dan mengelola laporan hasil evaluasi yang telah dikerjakan siswa.
Dalam mengembangkan sebuah aplikasi, perlu diperhatikan kualitas media yang dikembangkan. Media pembelajaran yang baik harus memenuhi kualitas produk pengembangan. Pertama, kualitas isi dan tujuan. Kualitas isi dan tujuan ini meliputi ketepatan, kepentingan, kesesuaian dengan kondisi siswa, keseimbangan, kelengkapan, dan minat/ perhatian. Kedua, kualitas instruksional. Kualitas instruksional meliputi beberapa aspek, yaitu antara lain: (1) pemberian kesempatan pengguna untuk belajar; (2) pemberian petunjuk atau bantuan untuk pengguna; (3) pemberian motivasi kepada pengguna; (4) fleksibilitas instruksional; 5) hubungan dengan program pembelajaran yang lain; (6) kualitas interaksi instruksional; (7) kualitas evaluasi berupa tes dan penilaian; (8) pemberian dampak bagi pengguna; dan (9) pemberian dampak bagi guru dan pembelajarannya. Ketiga, kualitas teknis. Terdapat enam kriteria yang digolongkan dalam kualitas teknis, yaitu: (1) keterbacaan; (2) kemudahan pemakaian; (3) kualitas tampilan/tayangan; (4) pemberian respon; (5) kualitas pengelolaan program; dan (6) dokumentasi (Febriyana, 2015).
Dalam lingkungan internet, kualitas sistem dinilai oleh pengguna dari beberapa segi. Pertama, ketergunaan ( usability) . Situs/ web harus memenuhi beberapa syarat untuk mencapai tingkat usability yang ideal, yaitu: mudah dipelajari, efisien dalam penggunaan, mudah untuk diingat, tingkat kesalahan rendah. Kedua, sistem navigasi. Syarat navigasi yang baik adalah mudah dipelajari, konsisten, memungkinkan feedback , dan muncul dalam konteks. Ketiga, desain visual ( realibility ). Kepuasan subjektif pengguna secara visual melibatkan cara perancang web menata layout , warna, bentuk, dan tipografi halaman web menjadi indah dan menarik. Keempat, jangka waktu respons ( loading time ). Jangka waktu respons ini berkaitan dengan kecepatan sistem website bekerja. Kelima, isi ( content ). Konten yang baik itu relevan, menarik, dan pantas untuk pengguna. Keenam, keterjangkauan ( accessibility ). Halaman website harus bisa terjangkau oleh setiap orang. Ketujuh, interaktivitas ( interactivity ). Sistem ini harus memungkinkan penggunanya berinteraksi dengan situs web (Maslan) www.academia.edu. Bettina Laugwitz dkk. mengembangkan kuesioner pengalaman pengguna ( User Experience Questionnaire) pada tahun 2005. dengan versi asli Bahasa Jerman (Laugwitz, Bettina, dkk., 2008). Pengembangan kuesioner UEQ dalam menilai kualitas suatu produk di dasarkan pada (1) ISO 9241-10 untuk menilai kualitas produk berdasarkan aspek kegunaan (usability) dan (2) ISO 9241-11 untuk menilai kualitas produk berdasarkan kriteria keefektifan atau efisiensi.
ISO 9241 merupakan standar internasional yang meliputi ergonomis dari interaksi manusia- komputer. ISO 9241-10 terkait prinsip-prinsip ergonomis yang dirumuskan secara umum dan disajikan tanpa mengacu pada situasi penggunaan, lingkungan, atau teknologi.

## Siti Mutmainah: Studi Kelayakan Pengembangan Aplikasi Bank Soal dalam Rumah Belajar
Prinsip-prinsip ini dimaksudkan untuk digunakan secara khusus, yaitu desain dan evaluasi dialog untuk pekerjaan kantor dengan Visual Display Terminal (VDT) . ISO 9241-11 terkait dengan sejauh mana suatu produk dapat digunakan oleh pengguna tertentu untuk mencapai tujuan tertentu secara efektif (penyelesaian tugas oleh pengguna), efisiensi (dalam waktu), dan kepuasan (tanggapan pengguna dalam hal pengalaman) dalam konteks penggunaan tertentu (pengguna, tugas, peralatan, dan lingkungan) ( Wikipedia).
Alur aplikasi Bank Soal pada portal Rumah Belajar digambarkan pada Gambar 1. Tampilan evaluasi yang akan dikerjakan siswa harus dirancang dan dibuat oleh guru, yang dimulai dari membuat soal-soal sesuai topiknya kemudian membuat evaluasi dengan mengisi soal-soal yang telah dibuat dan mengisi nama-nama siswa yang akan mengerjakan soal tersebut. Evaluasi yang telah dibuat guru dapat diatur, baik sebagai evaluasi tertutup maupun evaluasi terbuka. Pada evaluasi tertutup, guru dapat melihat laporan hasil evaluasi yang dikerjakan siswanya.
Untuk menyempurnakan aplikasi Bank Soal
yang sedang dikembangkan, diperlukan evaluasi atau studi kelayakan prototipe aplikasi yang disebut sebagai evaluasi alpha. Evaluasi ini dilakukan dalam rangka mengumpulkan data dan informasi untuk memperbaiki dan menyempurnakan media pembelajaran atau aplikasi pembelajaran yang sedang dikembangkan (Kurniawati, 2011).
Kuesioner UEQ terdiri dari 6 aspek yang meliputi 26 butir pernyataan.
Pertama, daya tarik ( attractiveness ). Aspek ini terkait dengan gambaran umum produk, apakah pengguna suka atau tidak. Hal ini dinilai berdasarkan dimensi: annoying/enjoyable , good/ bad , unlikable/pleasing , unpleasant/pleasant , attractive/unattractive , friendly/unfriendly .
Kedua, kejelasan ( perspicuity ). Aspek ini terkait dengan kemudahan dalam memahami produk yang dinilai berdasarkan butir-butir: not understandable/understandable , easy to learn/ difficult to learn , complicated/easy , clear/ confusing .
Ketiga, efisiensi ( efficiency ). Aspek ini terkait dengan kecepatan dan efisiensi dalam menggunakan produk yang dinilai dengan butir- butir: fast/slow , inefficient/efficient , impractical/ practical , organized/cluttered .
Keempat, ketepatan ( dependabillity ). Aspek ini terkait dengan kenyamanan pengguna dalam berinteraksi dengan produk yang dinilai berdasarkan butir-butir: unpredictable/ predictable , obstructive/supportive , secure/not secure , meets expectations/does not meet expectations .
Kelima, stimulasi ( stimulation ). Aspek ini terkait dengan ketertarikan dan motivasi pengguna dalam menggunakan produk berdasarkan butir-butir: valuable/inferior , boring/ exiting , not interesting/interesting , motivating/ demotivating.
Gambar 1. Diagram Alur Bank Soal pada Portal Rumah Belajar
Keenam, kebaruan/kekinian ( novelty ). Aspek ini terkait dengan inovasi produk yang dinilai berdasarkan butir-butir: creative/dull , inventive/ conventional , usual/leading edge , conservative/ innovative (Rauschenberger, Maria, dkk.  2013) . Daya tarik merupakan dimensi valensi murni. Kejelasan, Efisiensi, dan Ketepatan merupakan aspek kualitas pragmatis (diarahkan pada tujuan); sedangkan stimulasi dan kebaruan/ kekinian merupakan aspek kualitas hedonis (tidak diarahkan pada tujuan). Gambar 2 berikut menunjukkan struktur aspek-aspek butir dari kuesioner UEQ.
Gambar 2. Struktur Aspek-aspek dari Kuesioner UEQ Sumber: Schrepp, Martin. (2015). User Experience Questionnaire Handbook.

## METODE PENELITIAN
Untuk menguji kelayakan aplikasi Bank Soal pada portal Rumah Belajar digunakan metode uji coba pada kelompok kecil. Tujuan dari uji coba kelompok kecil ini adalah untuk mengidentifikasi kelemahan atau kekurangan dari aplikasi Bank Soal yang telah dikembangkan. Populasi untuk menguji kelayakan ini adalah pengguna portal Rumah Belajar dari seluruh jenjang di seluruh Indonesia. Sampel yang dipilih adalah guru-guru
SD, SMP, SMA, dan SMK dari beberapa provinsi di Indonesia.
Jumlah responden yang mengisi kuesioner online ada 21 orang yang terdiri dari 10 orang guru perempuan dan 11 orang guru laki-laki. Guru-guru tersebut berasal dari empat jenjang, yaitu: 1 orang guru SD, 8 orang guru SMP, 7 orang guru SMA, 3 orang guru SMK, dan 2 orang guru tidak menyebutkan nama sekolah.
Langkah-langkah yang dilakukan pada saat uji coba yaitu: (1) tim pengembang menjelaskan tujuan uji coba kepada responden; (2) tim pengembang menyiapkan aplikasi Bank Soal; (3) tim pengembang meminta responden untuk memanfaatkan aplikasi Bank Soal dengan cara membuka semua menu yang tersedia berdasarkan arahan dari tim pengembang yang dibantu oleh fasilitator; (4) responden diminta untuk membuat soal dan evaluasi sesuai dengan menu yang tersedia pada aplikasi; dan (5) responden diminta untuk mengisi kuesioner yang disediakan guna memberikan masukan terhadap aplikasi Bank Soal.
Kuesioner terdiri dari enam pertanyaan terbuka yang hasilnya disajikan dalam bentuk tabel excel, serta 26 pernyataan yang mewakili 8 indikator untuk menguji kelayakan aplikasi dan menggunakan kuesioner UEQ yang terdiri dari 26 butir pasangan pernyataan yang saling bertolak belakang dengan skala semantik (1-7). Indikator yang digunakan untuk menyusun instrumen uji kelayakan aplikasi Bank Soal dalam bentuk pertanyaan terbuka, yaitu: (1) kualitas sistem; (2) tingkat kepuasan subyektif pemakai; (3) kemudahan penggunaan; (4) sistem navigasi; (5) rancangan grafis; (6) isi; dan (7) waktu pemanggilan. Untuk pasangan pernyataan yang terdiri dari 26 butir, digunakan kuesioner UEQ. Tabel 1 berikut menjelaskan pembagian aspek- aspek pada UEQ ke dalam 26 butir, berdasarkan struktur aspek-aspek kuesioner UEQ yang telah dijelaskan pada Gambar 2 di atas.

## Siti Mutmainah: Studi Kelayakan Pengembangan Aplikasi Bank Soal dalam Rumah Belajar

## HASIL DAN PEMBAHASAN
Perhitungan data kuesioner UEQ dilakukan dengan menggunakan UEQ tools dari Martin Schrepp, di mana data dari skala 1-7 ditransformasikan dalam skala -3 sampai +3 (Schrepp). Berdasarkan data dari responden yang mengisi kuesioner tentang fitur Bank Soal di portal Rumah Belajar, diperoleh hasil sebagaimana yang disajikan pada Tabel 2 berikut ini.
Martin Schrepp memberikan alternatif skala untuk menginterpretasikan hasil perhitungan berdasarkan UEQ tools. Pertama, nilai rata-rata antara -0,8 dan +0,8 menggambarkan evaluasi netral dari jawaban responden. Nilai>0,8 menggambarkan evaluasi yang positif dan nilai <-0,8 menggambarkan evaluasi yang negatif terhadap produk yang dinilai. Kedua, rentang skala antara -3 (sangat buruk) dan +3 (sangat baik). Pada aplikasi sesungguhnya, secara umum hanya nilai-nilai pada rentang tertentu yang diamati. Hal ini didasarkan pada perhitungan rata-rata yang melebihi rentang yang diberikan. Ketiga, rentang skala antara -2 (sangat buruk) dan +2 (sangat baik). Skala ini biasanya digunakan untuk membandingkan hasil dalam bentuk grafik,dengan tujuan memberikan penjelasan kepada pengguna data. Berikut ini grafik hasil perhitungan menggunakan UEQ tools dengan rentang -3 dan +3, serta rentang -2 dan +2.
Hasil perhitungan rata-rata pendapat responden yang berdasarkan UEQ tools, yang
Teknik analisis data yang digunakan pada studi kelayakan aplikasi Bank Soal adalah analisis deskriptif kuantitatif berdasarkan hasil kuesioner dari responden. Kuesioner dikerjakan oleh responden secara online melalui alamat url: http://survei.belajar.kemdikbud.go.id/index.php/ 675982?lang=id. Hasil dari survei online tersebut berbentuk tabel survei untuk pertanyaan terbuka. Untuk data dari hasil skala semantik, diolah dengan menggunakan UEQ tools.

## Tabel 2. Rata-rata Pendapat Responden Berdasarkan Aspek UEQ

## UEQ Scales
Attractiveness (Daya Tarik) 0.711 Perspicuity (Kejelasan) 0.553 Efficiency (Efisiensi) - 0.921 Dependability (Ketepatan) 0.618 Stimulation (Stimulasi) 1.526 Novelty (Kebaruan/Kekinian) 0.434 1. Attractiveness a. Menyusahkan- (Daya tarik) Menyenangkan b. Baik-Buruk c. Menggembirakan-Tidak disukai d. Nyaman-Tidak nyaman e. Atraktif-Tidak atraktif f. Ramah pengguna-Tidak ramah pengguna 2. Perspicuity a. Dapat dipahami-Tidak (kejelasan) dapat dipahami b. Mudah dipelajari- Sulit dipelajari c. Rumit-Sederhana d. Jelas-Membingungkan. 3. Efficiency (efisiensi) a. Cepat-lambat
b. Efisien-tidak efisien c. Praktis-Tidak praktis d. Terorganisasi-berantakan. 4. Dipendabillity a. Tidak dapat diprediksi- (ketepatan) Dapat diprediksi b. Menghalangi-Mendukung c. Aman-tidak aman d. Memenuhi ekspektasi- Tidak memenuhi ekspektasi. 5. Stimulation a. Bermanfaat-Kurang (stimulasi) bermanfaat b. Mengasyikkan- Membosankan c. Menarik-tidak menarik d. Memotivasi-Tidak memotivasi. 6. Novelty a. Kreatif-Monoton (kebaruan/kekinian) b. Berdaya cipta- Konvensional c. Lazim-Terdepan d. Konservatif-Inovatif

## Tabel 1. Butir-butir Kuesioner UEQ Berdasarkan 6 Aspek
No. Aspek Butir Pernyataan
ditampilkan pada Tabel 2, dapat diinterpretasikan bahwa aplikasi Bank Soal: (1) memiliki daya tarik yang cukup baik dari sisi tampilan, menyenangkan, atraktif, dan cukup ramah pengguna; (2) kejelasan sistem cukup mudah dipahami dan cukup mudah dipelajari, meskipun ada bagian yang kurang sederhana dan kurang jelas bagi pengguna yang baru mendaftar; (3) kecepatan aksesnya agak lambat, kurang efisien, kurang praktis, dan masih ada bagian yang kurang terorganisir; (4)  dalam hal ketepatan sistem cukup dapat diprediksi, cukup aman, dan cukup memenuhi ekspektasi guru dalam membuat evaluasi secara online ; (5) kurang memberikan stimulasi, motivasi, kurang mengasyikkan bagi guru, meskipun diakui bahwa ada manfaatnya dalam hal mengembangkan evaluasi hasil belajar berbasis komputer (berdasarkan wawancara kepada beberapa guru); dan (6) dalam hal kekinian masih kurang kreatif, agak konvensional dan agak konservatif.
Berdasarkan grafik pada Gambar 3, jika digunakan skala antara -2 (sangat buruk) dan +2 (sangat baik), dapat diinterpretasikan sebagai berikut. Dari sisi attractiveness (daya tarik), dengan rata-rata 1,307, fitur Bank Soal memiliki daya tarik yang baik. Aspek daya tarik dinilai dari enam pernyataan, yaitu: menyusahkan- menyenangkan (rata-rata skala 1,1), baik-buruk (rata-rata skala 1,8), tidak disukai- menggembirakan (rata-rata skala 1,3), tidak nyaman-nyaman (rata-rata skala 1,4), atraktif- tidak atraktif (rata-rata skala 1,2), serta ramah pengguna-tidak ramah pengguna (rata-rata skala 1,1).
Berdasarkan nilai rata-rata skala tersebut, dalam hal tampilan dan penggunaan fitur, Bank Soal dianggap cukup menyenangkan, cukup menggembirakan, cukup nyaman, cukup atraktif, dan cukup ramah pengguna. Dapat disimpulkan bahwa pengguna tertarik untuk menggunakan fitur Bank Soal dalam membuat evaluasi hasil belajar secara online . Responden merupakan pengguna yang belum pernah menggunakan aplikasi untuk membuat soal sebelumnya sehingga dari hasil penelitian ini dapat disimpulkan bahwa bagi pengguna baru aplikasi Bank Soal cukup ramah. Ini artinya bahwa aplikasi Bank Soal mudah untuk diikuti.
Dari aspek kejelasan (perspicuity), dengan rata-rata 0,921, alur yang disajikan dalam aplikasi Bank Soal masih dianggap cukup jelas. Aspek kejelasan dinilai dari empat pernyataan, yaitu: tidak dapat dipahami-dapat dipahami (rata-rata skala 1,3); mudah dipelajari-sulit dipelajari (rata- rata skala 0,8); rumit-mudah (rata-rata skala-0,2); dan jelas-membingungkan (rata-rata skala 1,0).
Berdasarkan nilai rata-rata skala tersebut, dapat disimpulkan bahwa secara umum fitur Bank Soal cukup dapat dipahami. Namun tanpa bimbingan dari fasilitator, responden masih mengalami kesulitan mempelajari sendiri karena agak rumit dan cenderung membingungkan
Gambar 3. Grafik Rata-rata Pendapat Responden Tentang Aplikasi Bank Soal
ketika mengisi dan membuat soal. Bagi pengguna baru yang belum pernah menggunakan aplikasi Bank Soal, fitur ini memiliki alur pembuatan soal yang cukup detail sehingga pengguna merasakan kerumitan ketika harus mengulang pengisian formulir yang sama setiap kali membuat sebuah soal.
Dari aspek efisiensi, dengan rata-rata 0,868, fitur Bank Soal cukup efisien. Aspek efisiensi dinilai dari empat pernyataan, yaitu: cepat-lambat (rata-rata skala –0,1); tidak efisien-efisien (rata- rata skala 1,5); tidak praktis-praktis (rata-rata skala 1,3); terorganisasi-berantakan (rata-rata skala 0,8). Berdasarkan nilai rata-rata skala tersebut dapat disimpulkan bahwa fitur Bank Soal cukup efisien dan praktis. Namun dalam hal waktu peng-akses-an masih lambat dan belum terorganisasi dengan baik. Bagi pengguna yang baru, aplikasi Bank Soal membutuhkan internet dengan kapasitas yang cukup besar agar proses berpindah antarmenu atau antarhalaman menjadi lebih cepat. Bagi pengguna baru yang belum terbiasa dengan sebuah aplikasi, fitur Bank Soal dianggap belum terorganisasi dengan baik karena urutan dalam membuat evaluasi, soal, dan melihat laporan tidak seperti yang mereka bayangkan.
Dari aspek ketepatan (dependability), dengan rata-rata 1,329, fitur Bank Soal memiliki ketepatan yang cukup baik. Aspek ketepatan dinilai dari empat pernyataan yaitu: tidak dapat diprediksi-dapat diprediksi (rata-rata skala 0,9); menghalangi-mendukung (rata-rata skala 1,7); aman-tidak aman (rata-rata skala 1,4); dan memenuhi ekspektasi-tidak memenuhi ekspektasi (rata-rata skala 1,2). Berdasarkan nilai rata-rata skala tersebut, dapat disimpulkan bahwa fitur Bank Soal tidak mudah diprediksi dan cukup memenuhi harapan. Meskipun demikian, aplikasi Bank Soal ini dapat mendukung evaluasi guru dan aman untuk diakses siswa. Dapat disimpulkan bahwa pengguna menganggap
langkah-langkah dalam membuat soal hingga membuat evaluasi di aplikasi Bank Soal tidak dapat diprediksi dengan mudah.
Ketika membuat soal, pengguna, yang belum pernah menggunakan aplikasi Bank Soal, tidak membayangkan bahwa soal dibuat satu per satu. Pengguna juga tidak mengira bahwa pilihan jawaban dibuat dan disimpan di tempat atau halaman yang berbeda dengan soal. Tetapi setelah pengguna membuat salah satu jenis evaluasi dan melakukan uji coba pengerjaan evaluasi tersebut, hasilnya sesuai dengan harapan mereka. Jadi, pengguna menganggap bahwa aplikasi Bank Soal ini dapat mendukung evaluasi belajar secara online dan guru tidak perlu lagi memeriksa hasil evaluasi karena nilai siswa sudah ada dalam laporan guru, lengkap dengan soal-soal yang dijawab benar dan yang salah.
Dari aspek stimulasi ( stimulation ), dengan rata-rata 1,526, fitur Bank Soal memiliki stimulasi yang baik. Aspek stimulasi dinilai dari empat pernyataan yaitu: bermanfaat-kurang bermanfaat (rata-rata skala 1,5); membosankan- mengasyikkan (rata-rata skala 1,2); tidak menarik-menarik (rata-rata skala 1,7); dan memotivasi-tidak memotivasi (rata-rata skala 1,7). Berdasarkan nilai rata-rata skala tersebut, dapat disimpulkan bahwa fitur Bank Soal dapat memotivasi dan menarik minat guru dan siswa untuk melakukan evaluasi secara online . Selain itu, aplikasi Bank Soal ini juga dianggap bermanfaat dan cukup menarik.
Bagi pengguna, dalam hal ini guru, fitur Bank Soal dapat memotivasi para siswa dalam mengerjakan evaluasi secara online sehingga mereka akan terbiasa mengerjakan ujian sekolah berbasis komputer. Evaluasi yang dibuat pada fitur Bank Soal ini dapat dikerjakan oleh siswa melalui android atau tab . Hal ini dapat menarik siswa dan membuat siswa merasa asyik, baik untuk mengerjakan latihan, ulangan, maupun ujian.
Dari aspek kebaruan/kekinian ( novelty ), dengan rata-rata 1,355, fitur Bank Soal dianggap memiliki kekinian atau inovasi yang baik. Aspek kebaruan ini dinilai dari empat pernyataan, yaitu: kreatif-monoton (rata-rata skala 1,1); berdaya cipta-konvensional (rata-rata skala 1,6); lazim- terdepan (rata-rata skala 0,8); dan konservatif- inovatif (rata-rata skala 1,8). Berdasarkan nilai rata-rata skala tersebut, dapat disimpulkan bahwa fitur Bank Soal merupakan sebuah inovasi pembelajaran yang mengikuti perkembangan teknologi dalam hal evaluasi secara online .
Fitur Bank Soal ini dikembangkan dalam rangka mendukung ujian berbasis komputer agar guru terbiasa membuat evaluasi hasil belajar secara online dan siswa terbiasa mengerjakan evaluasi secara online . Meskipun sudah banyak aplikasi Bank Soal lain, fitur Bank Soal di Portal Rumah Belajar masih dianggap memiliki kreativitas atau tidak monoton, dan inovatif dalam pengembangannya.
Berdasarkan enam pertanyaan terbuka yang diberikan pada awal survai/kuesioner, terdapat komentar yang beragam. Secara umum, aplikasi Bank Soal sudah dianggap bagus, namun perlu diperbaiki dalam beberapa hal, yaitu: (1) tampilan awal mungkin ditambahkan icon agar terlihat lebih menarik; (2) perlu ada database agar dapat memudahkan user dalam menentukan bidang, satuan pendidikan, dan mata pelajaran; (3) tombol enroll test ; (4) waktu untuk mengakses agar lebih cepat; (5) penulisan soal lebih disederhanakan; (6) navigasi; (7) tombol login mungkin terpisah dari menu yang lain supaya terlihat lebih menarik; (8) pada soal uraian singkat hanya perlu satu jawaban saja, tidak perlu alternatif jawaban yang lain; (9) perlu ditampilkan tools equation editor seperti pada Ms. Word, sehingga tidak perlu pindah ke link atau web lain; dan (10) perlu dibuat statistik hasil pencapaian ujian siswa.
Menurut responden, terdapat beberapa fitur/ menu yang mudah digunakan, yaitu: (1) laporan;
(2) evaluasi; (3) registrasi; (4) login; (5) log out;
(6) input soal; dan (7) buat soal baru. Menu-menu tersebut akan mudah digunakan jika koneksi internetnya mendukung.
Kesulitan-kesulitan yang dialami selama menggunakan Bank Soal, antara lain: (1) responden belum memahami perbedaan antara soal saya dan Bank Soal, serta kegunaan dari masing-masing; (2) kesulitan dalam menulis naskah soal yang berhubungan dengan simbol matematika; (3) mengevaluasi hasil belajar siswa karena ada kesalahan dalam prosedur yang dilakukan; (4) belum adanya konsistensi pada tipe pelajaran dan topik sehingga sering terjadi penggantian topik secara tiba-tiba; (5) ketika input soal, terlalu banyak pilihan mata pelajaran yang sama dan sering berubah sendiri ketika proses input, sehingga memengaruhi proses menjadikan soal latihan sebagai soal ulangan; (6) proses menyusun evaluasi dengan mengambil soal-soal dari Bank Soal masih mengalami kendala teknis, karena banyaknya mata pelajaran yang berulang (sama); (7) belum bisa melakukan unggah soal atau impor soal; (8) proses dalam meng -input soal baru masih terlalu lama karena harus diinput data kelas dan mata pelajaran berulang kali; (9) masih kesulitan saat memilih butir soal yang dipublikasikan; (10) ketika akan menuliskan jawaban, ada baiknya soalnya muncul dan frame untuk jawaban kiranya dapat diperpendek agar keterbacaan bagian per bagian jawaban dapat nampak; dan (11) ketika guru mencoba login sebagai siswa, ada beberapa kendala yang dialami, yaitu antara lain: kesulitan dalam memilih kelas ulangan karena not responding dan peringatan tentang scribd .
Ada beberapa fitur/menu dalam Bank Soal yang sering membuat pengguna melakukan kesalahan, yaitu:
Pertama, menu evaluasi; terdapat beberapa kesalahan yang sering dilakukan pengguna saat masuk ke menu ini, antara lain adalah: (1) pada

## Siti Mutmainah: Studi Kelayakan Pengembangan Aplikasi Bank Soal dalam Rumah Belajar
saat membuka isi evaluasi seharusnya ditambahkan tombol backward agar tidak membingungkan untuk kembali ke halaman sebelumnya; (2) saat mengisi form evaluasi masih belum terpisah antara pilihan jenjang, kelas, dan mata pelajaran sehingga ketika memilih jenjang SD, mata pelajaran yang muncul bukan hanya untuk jenjang SD tapi juga untuk jenjang yang lain; dan (3) ketika memasukkan Bank Soal pada evaluasi, pilihan topiknya tidak sesuai dengan topik saat pembuatan soal.
Kedua, menu soal; terdapat beberapa kesalahan yang sering dilakukan pengguna saat masuk ke menu ini, antara lain: (1) ketika melakukan input soal sering kali pilihan berubah sendiri yang mengakibatkan kesalahan ketika ingin menjadikan soal latihan sebagai soal ulangan; (2) ketika memilih jenjang SMA kelas X Umum dan memilih mata pelajaran IPA, ternyata topik yang tersedia belum lengkap sehingga harus mengulang kembali dalam memilih jenjang, kelas, dan mata pelajaran; (3) ketika melakukan unggah soal karena tombol unggahnya berada di bagian bawah tampilan sehingga kurang jelas terlihat; dan (4) ketika menuliskan simbol-simbol atau rumus- rumus, karena harus pindah atau link ke tempat lain ( website yang menyediakan menu equation editor ).

## SIMPULAN DAN SARAN

## Simpulan
Secara umum, fitur Bank Soal memiliki daya tarik yang baik; alur pembuatan evaluasi yang cukup jelas, efisien dan praktis mendukung evaluasi guru dan aman untuk diakses oleh siswa; dapat memotivasi dan menarik minat guru dan siswa untuk melakukan evaluasi secara online , serta merupakan sebuah inovasi pembelajaran yang mengikuti perkembangan teknologi dalam hal kegiatan evaluasi pembelajaran. Meskipun demikian, masih ada
beberapa kekurangan yang perlu segera diperbaiki agar pemanfaatannya lebih optimal dan menyeluruh.
Beberapa kekurangan fitur Bank Soal. Pertama, alur yang harus dilakukan ketika guru akan membuat evaluasi masih belum terorganisasi sehingga diperlukan buku panduan atau petunjuk teknis yang runut. Kedua, waktu untuk mengunggah file media dan proses membuat evaluasi cukup lama karena pengguna harus mengisi identitas berulang-ulang meskipun dengan topik yang sama. Ketiga, munculnya beberapa mata pelajaran yang sama pada jenjang dan kelas yang sama juga menyulitkan pengguna ketika membuat evaluasi. Karena ketika memilih mata pelajaran yang sama tapi urutan letaknya berbeda, akan muncul topik yang berbeda, sehingga pengguna harus melihat kembali ke identitas soal yang akan dimasukkan dalam evaluasi. Untuk mata pelajaran eksakta yang membutuhkan rumus-rumus, masih belum disediakan menu equation editor langsung, tapi pengguna diarahkan ke tautan yang menyediakan tempat untuk menuliskan rumus-rumus tersebut. Hal ini dianggap tidak efektif dan membutuhkan waktu lebih lama dalam membuat soal.

## Saran
Berdasarkan masukan dan hasil survai terhadap penggunaan fitur Bank Soal, perlu dilakukan perbaikan dan pengembangan lebih lanjut, di antaranya adalah: penguncian identitas soal ketika pertama kali membuat soal; menata ulang topik dan mata pelajaran agar tidak muncul mata pelajaran yang sama beberapa kali; panduan atau petunjuk teknis penggunaan fitur sudah tersedia pada halaman beranda; disediakan menu equation editor langsung seperti yang tersedia pada aplikasi office . Fitur Bank Soal perlu disosialisasikan secara meluas agar dapat dimanfaatkan oleh guru dan siswa, terutama dalam pengayaan materi pelajaran.

## PUSTAKA  ACUAN
Arikunto, Suharsimi, 2014, Dasar-dasar Evaluasi Pendidikan, Jakarta: Bumi Aksara.
Basuki, Ismet dan Hariyanto. 2014. Asesmen Pembelajaran . Bandung: PT. Remaja Rosda Karya.
Febriyana, Ikfan. 2015. Pengembangan Aplikasi Bank Soal Matematika Berbasis Web Untuk Mendukung Proses Evaluasi Dan Belajar Mandiri Siswa Di SMA Negeri 1 Sleman. Universitas Negeri Yogyakarta. http:// eprints.uny.ac.id/26577/7/BAB%20II.pdf diakses pada tanggal 11 Januari 2016.
Kurniawati, Ika. 2011. Modul Pelatihan: Pengujian Prototipa Media Pembelajaran . Jakarta: Pustekkom Kemdikbud.
Maslan, Andi. Pengukuran Kualitas Layanan Website Pemerintah Kota Batam Menggunakan Metode Webqual 4.0 . Universitas Putera Batam. https://www.academia.edu/7939246/PENGUKURAN_KUALITAS_ LAYANAN_WEBSITE_PEMERINTAH_KOTA_BATAM_ MENGGUNAKAN_METODE_WEBQUAL_4.0 diakses pada tanggal 23 Januari 2016.
Mutmainah, Siti. 2014. Modul Pelatihan: Evaluasi Media dan Sistem Pembelajaran . Jakarta: Pustekkom Kemdikbud.
Rauschenberger, Maria, dkk.  2013. Efficient Measurement of the User Experience of Interactive Products.
International Journal of Artificial Intelligence and Interactive Multimedia, Vol. 2, No. 1. http://www.ueq- online.org/wp-content/uploads/Efficient Measurement Of The User Experience Of Interactive Products.pdf. Diakses tanggal 23 Januari 2016.
Schrepp, Martin. 2015. User Experience Questionnaire Handbook. www.ueq-online.org. diakses pada tanggal 23 Januari 2016.
Sumardyono dan Wiworo. 2011. Program Bermutu: Pengembangan dan Pengelolan Bank Soal Matematika di KKG/MGMP. PPPPTK Matematika. Suyata, Pujiati, dkk. 2011. Model Pengembangan Bank Soal Berbasis Guru Dan Mutu Pendidikan. Jurnal Kependidikan, Volume 41, Nomor 2, November 2011. http://journal.uny.ac.id/index.php/jk/article/view/2218/ 1830. Diakses bulan April 2016.
Website:http://survei.belajar.kemdikbud. go.id/index.php/675982?lang=id Website:https://en.wikipedia.org/wiki/ ISO_9241 Kamus Besar Bahasa Indonesia, 2003. Wicaksono, Bayu Luhur, Adhi Susanto, dan Wing Wahyu Winarno. 2012. Evaluasi Kualitas Layanan Website Pusdiklat BPK RI Menggunakan Metode Webqual Modifikasian dan Importance Performance Analysis. Media Ekonomi & Teknologi Informasi Vol. 19 No. 1 Maret 2012: 21-34. http://dinus.ac.id/ wbsc/assets/ dokumen/majalah/3._Bayu_Luhur-1_2.pdf. Diakses pada tanggal 14 Desember 2016.
*******