Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
Paper โข 1908.10084 โข Published โข 20
How to use tikanosa/eduSBERT_CE with sentence-transformers:
from sentence_transformers import CrossEncoder
model = CrossEncoder("tikanosa/eduSBERT_CE")
query = "Which planet is known as the Red Planet?"
passages = [
"Venus is often called Earth's twin because of its similar size and proximity.",
"Mars, known for its reddish appearance, is often referred to as the Red Planet.",
"Jupiter, the largest planet in our solar system, has a prominent red spot.",
"Saturn, famous for its rings, is sometimes mistaken for the Red Planet."
]
scores = model.predict([(query, passage) for passage in passages])
print(scores)This is a Cross Encoder model finetuned from cross-encoder/stsb-roberta-base using the sentence-transformers library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.
CrossEncoder(
(0): Transformer({'transformer_task': 'sequence-classification', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'logits'}}, 'module_output_name': 'scores', 'architecture': 'RobertaForSequenceClassification'})
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import CrossEncoder
# Download from the ๐ค Hub
model = CrossEncoder("cross_encoder_model_id")
# Get scores for pairs of inputs
pairs = [
['SMK TEKNIK INSTALASI TENAGA LISTRIK - Pendidikan Agama dan Budi Pekerti, Pendidikan Pancasila, Bahasa Indonesia, Matematika, Bahasa Inggris, Informatika, Projek Ilmu Pengetahuan Alam dan Sosial, Projek Kreatif dan Kewirausahaan, Praktik Kerja Lapangan, Dasar-dasar Teknik Ketenagalistrikan, Gambar Teknik Listrik, Dasar Listrik dan Elektronika, Pengukuran Listrik, Keselamatan dan Kesehatan Kerja Kelistrikan, Instalasi Penerangan Listrik, Instalasi Tenaga Listrik, Instalasi Motor Listrik, Kendali Elektromagnetik, Programmable Logic Controller, Perbaikan Peralatan Listrik, Mesin Listrik', 'PENDIDIKAN TEKNIK ELEKTRONIKA - Algoritma dan Bahasa Pemrograman, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bengkel Elektronika, Capstone Design, Elektronika Analog, Fisika Elektronika, Fondasi Pendidikan Teknologi dan Vokasional, Gambar Teknik Elektronika Computer Aided Design, Ilmu Pendidikan, Instalasi dan Mesin Listrik, Internet of Things, Kesehatan, Keselamatan dan Lingkungan, Kuliah Kerja Nyata, Kurikulum dan Pembelajaran Teknik Elektronika, Manajemen Pendidikan, Matematika, Media Pembelajaran Teknik Elektronika, Metodologi Penelitian, Model Pembelajaran Teknik Elektronika, Olahraga dan Kebugaran Jasmani, Pancasila, Pembelajaran Mikro, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Inklusi, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Penilaian Pembelajaran Teknik Elektronika, Perancangan Sistem Elektronika, Perekayasaan Kontrol Instrumentasi Medik, Pilot Drone, Praktik Industri, Praktik Kependidikan, Praktikum Alat Ukur dan Pengukuran, Praktikum Algoritma dan Bahasa Pemrograman, Praktikum Elektronika Analog 1, Praktikum Elektronika Analog 2, Praktikum Elektronika Medis, Praktikum Instalasi dan Mesin Listrik, Praktikum Internet Of Things, Praktikum Jaringan Komputer, Praktikum Komunikasi Data dan Interface, Praktikum Mekatronika, Praktikum Pengolahan Sinyal Digital, Praktikum Perancangan Sistem Audio, Praktikum Pilot Drone, Praktikum PLC, Praktikum Rangkaian Listrik, Praktikum Robotika, Praktikum Serat Optik, Praktikum Sistem Audio, Praktikum Sistem Cerdas, Praktikum Sistem Informasi dan Komputasi Biomedis, Praktikum Sistem Instrumentasi, Praktikum Sistem Kendali, Praktikum Sistem Mikrokontroler, Praktikum Sistem Mikroprosesor, Praktikum Teknik Digital, Praktikum Teknik Komunikasi Radio, Praktikum Teknik Studio Penyiaran, Proyek Kewirausahaan, Psikologi Pendidikan, Rangkaian Listrik, Sistem Cerdas, Sistem Instrumentasi, Sistem Kendali, Sistem Mikroprosesor, Sistem Telekomunikasi, Sosiologi dan Antropologi Pendidikan, Teknik Digital, Teknik Perawatan dan Perbaikan, Teknologi Hijau, Tugas Akhir Sarjana'],
['SMK TEKNIK LISTRIK - Pendidikan Agama dan Budi Pekerti, Pendidikan Pancasila, Bahasa Indonesia, Matematika, Bahasa Inggris, Informatika, Projek Ilmu Pengetahuan Alam dan Sosial, Projek Kreatif dan Kewirausahaan, Praktik Kerja Lapangan, Dasar-dasar Teknik Ketenagalistrikan, Gambar Teknik Listrik, Dasar Listrik dan Elektronika, Pengukuran Listrik, Keselamatan dan Kesehatan Kerja Kelistrikan, Instalasi Penerangan Listrik, Instalasi Tenaga Listrik, Mesin Listrik, Pembangkit Tenaga Listrik, Jaringan Distribusi Tenaga Listrik, Kendali Elektromagnetik', 'TEKNIK ELEKTRONIKA - Algoritma dan Pemrograman, Analisis dan Pengujian Sistem Elektronika, Bahasa Indonesia, Bahasa Inggris Teknik, Bahasa Inggris Tujuan Khusus, Capstone Project, Computer Vision, Elektronika Dasar, Elektronika Daya dan Motor Listrik, Elektronika Digital, Etika Profesi, Keselamatan, dan Kesehatan Kerja Teknik, Fisika, Internet of Things, Kecerdasan Buatan, Komunikasi Data, Kreativitas, Inovasi dan Kewirausahaan, Manajemen Proyek, Matematika 1, Matematika 2, Metodologi Penelitian, Olahraga dan Kebugaran Jasmani, Pancasila, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Praktik Alat Ukur dan Pengukuran, Praktik Algoritma dan Pemrograman, Praktik Computer Vision, Praktik Desain Sistem Elektronika, Praktik Elektronika Dasar, Praktik Elektronika Daya dan Motor Listrik, Praktik Elektronika Digital, Praktik Industri Cerdas, Praktik Industri Mandiri, Praktik Industri Terbimbing, Praktik Integrasi Komputasi Awan dan IoT, Praktik Internet of Things, Praktik Internet of Things Cerdas, Praktik Jaringan Komputer, Praktik Kecerdasan Buatan, Praktik Komputasi Statistik, Praktik Metode Numerik, Praktik Mikrokontroler, Praktik Pemeliharaan Sistem Elektronika, Praktik Pemrograman Komputer, Praktik Pengolahan Sinyal Digital, Praktik Programmable Logic Controller, Praktik Robotika Cerdas, Praktik Robotika Lanjut, Praktik Sensor dan Aktuator, Praktik Sistem Kendali, Praktik Sistem Kendali Cerdas, Praktik Telemetri, Praktikum Sistem Tertanam, Proyek Sistem Elektronika Cerdas 1, Proyek Sistem Elektronika Cerdas 2, Robotika Dasar, Robotika Lanjut, Sensor dan Aktuator, Sistem Kendali, Sistem Kendali Cerdas, Sistem Tertanam, Statistika, Tugas Akhir Sarjana Terapan'],
['SURVEI PEMETAAN DAN INFORMASI GEOGRAFIS - Pendidikan Agama, Pendidikan Pancasila, Pendidikan Kewarganegaraan, Bahasa Indonesia, Bahasa Inggris, Kuliah Kerja Nyata, Metodologi Penelitian, Skripsi, Ilmu Ukur Tanah, Kartografi, Sistem Informasi Geografis, Penginderaan Jauh, Fotogrametri, Survei GNSS, Geografi Fisik, Analisis Spasial, Basis Data Spasial, Pemetaan Tematik', 'BIOLOGI - Analisis Biologi Modern, Anatomi dan Histologi Hewan, Anatomi Tumbuhan, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bioinformatika, Biokimia, Biologi Avertebrata, Biologi Dasar, Biologi Konservasi, Biologi Laut, Biologi Manusia dan Gizi, Biologi Perkembangan Hewan, Biologi Perkembangan Tumbuhan, Biologi Sel dan Molekuler, Biologi Tanah, Biologi Vertebrata, Bioremediasi, Biospeleologi, Bioteknologi, Biotropika, Botani Ekonomi, Budidaya Hewan, Budidaya Tanaman, Ekofisiologi Tumbuhan, Ekologi, Ekologi Perairan, Ekotoksikologi, Endokrinologi, Entomologi, Enzimologi, Etnobotani, Evolusi, Fisiologi Hewan, Fisiologi Tumbuhan, Fitofarmaka, Fitohormon, Genetika, Genetika Molekuler, Herpetologi, Ikhtiologi, Ilmu Lingkungan, Imunologi, Keamanan Pangan, Kuliah Kerja Nyata, Kultur Jaringan Tumbuhan, Mamalogi, Metodologi Penelitian, Mikologi, Mikrobiologi, Mikrobiologi Terapan, Mikroteknik, Morfologi Tumbuhan, Olahraga dan Kebugaran Jasmani, Ornitologi, Pancasila, Parasitologi, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Kewarganegaraan, Pengelolaan Lingkungan, Perancangan Percobaan Biologi, Praktik Kerja Lapangan, Praktikum Anatomi dan Histologi Hewan, Praktikum Anatomi Tumbuhan, Praktikum Biokimia, Praktikum Biologi Avertebrata, Praktikum Biologi Konservasi, Praktikum Biologi Laut, Praktikum Biologi Manusia dan Gizi, Praktikum Biologi Perkembangan Hewan, Praktikum Biologi Perkembangan Tumbuhan, Praktikum Biologi Sel dan Molekuler, Praktikum Biologi Tanah, Praktikum Biologi Vertebrata, Praktikum Bioremediasi, Praktikum Bioteknologi, Praktikum Budidaya Hewan, Praktikum Budidaya Tanaman, Praktikum Ekofisiologi Tumbuhan, Praktikum Ekologi, Praktikum Ekologi Perairan, Praktikum Ekotoksikologi, Praktikum Endokrinologi, Praktikum Entomologi, Praktikum Enzimologi, Praktikum Etnobotani, Praktikum Evolusi, Praktikum Fisiologi Hewan, Praktikum Fisiologi Tumbuhan, Praktikum Fitofarmaka, Praktikum Fitohormon, Praktikum Genetika, Praktikum Herpetologi, Praktikum Ikhtiologi, Praktikum Ilmu Lingkungan, Praktikum Imunologi, Praktikum Keamanan Pangan, Praktikum Kultur Jaringan Tumbuhan, Praktikum Mamalogi, Praktikum Mikologi, Praktikum Mikrobiologi, Praktikum Mikrobiologi Terapan, Praktikum Mikroteknik, Praktikum Morfologi Tumbuhan, Praktikum Ornitologi, Praktikum Parasitologi, Praktikum Pengelolaan Lingkungan, Praktikum Perancangan Percobaan Biologi, Praktikum Sistematika Tumbuhan, Seminar, Sistematika Tumbuhan, Statistika Dasar, Studi Ekskursi, Tugas Akhir Sarjana, Wawasan dan Kajian Matematika dan Ilmu Pengetahuan Alam'],
['TEKNIK ELEKTRO TENAGA LISTRIK - Pendidikan Agama, Pendidikan Pancasila, Pendidikan Kewarganegaraan, Bahasa Indonesia, Bahasa Inggris, Kuliah Kerja Nyata, Metodologi Penelitian, Skripsi, Rangkaian Listrik, Medan Elektromagnetik, Mesin Listrik, Sistem Tenaga Listrik, Analisis Sistem Tenaga, Transmisi dan Distribusi Tenaga Listrik, Proteksi Sistem Tenaga, Elektronika Daya, Pembangkit Tenaga Listrik, Teknik Tegangan Tinggi, Energi Terbarukan', 'PENDIDIKAN ILMU PENGETAHUAN ALAM - Alat Ukur dan Metode Pengukuran Ilmu Pengetahuan Alam, Astronomi, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Biofisika, Biokimia, Biologi Umum I, Biologi Umum II, Bioteknologi, Fisika Dasar I, Fisika Dasar II, Fisika Modern, Gelombang dan Optik, Genetika dan Pewarisan Sifat, Ilmu Gizi dan Kesehatan, Ilmu Kebumian, Ilmu Lingkungan, Ilmu Pendidikan, Ilmu Pengetahuan Alam Dasar, Ilmu Pengetahuan Alam Integrasi dan Pembelajarannya, Ilmu Pengetahuan Alam Terapan, Ilmu Pengetahuan Bumi dan Antariksa, Ilmu Tanah, Kajian Hasil Penelitian Pendidikan Ilmu Pengetahuan Alam, Kajian Ilmu Pengetahuan Alam Sekolah I, Kajian Ilmu Pengetahuan Alam Sekolah II, Kajian Ilmu Pengetahuan Alam Sekolah III, Keanekaragaman Hayati, Kearifan Lokal dalam Pembelajaran Ilmu Pengetahuan Alam, Keterampilan Kimia, Kimia dalam Kehidupan, Kimia Umum I, Kimia Umum II, Komputasi Ilmu Pengetahuan Alam, Kuliah Kerja Nyata, Kurikulum dan Pembelajaran Ilmu Pengembangan Alam, Listrik dan Magnet, Manajemen Berbasis Sekolah, Manajemen Pendidikan, Matematika untuk Ilmu Pengetahuan Alam, Media Pembelajaran Berbasis Komputer, Media Pembelajaran Ilmu Pengetahuan Alam, Mekanika dan Fluida, Metodologi Penelitian, Model Pembelajaran Ilmu Pengetahuan Alam, Olahraga dan Kebugaran Jasmani, Pancasila, Pembelajaran Mikro Ilmu Pengetahuan Alam, Pemrograman dan Robotika, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Ilmu Pengetahuan Alaman untuk Berkelanjutan, Pendidikan Inklusi, Pendidikan Kewarganegaraan, Pengelolaan dan Teknik Laboratorium Ilmu Pengetahuan Alam, Pengembangan Kompetensi dan Profesi, Penilaian Pembelajaran Ilmu Pengetahuan Alam, Praktik Kependidikan, Psikologi Pendidikan, Publikasi Ilmiah Pendidikan Ilmu Pengetahuan Alam, Sains Industri Berbasis Budaya, Sains, Teknologi, Teknik, dan Matematika, Sciencepreneur, Sosiologi dan Antropologi Pendidikan, Statistika Dasar, Statistika Terapan, Strategi dan Manajemen Pembelajaran Ilmu Pengetahuan Alam, Struktur dan Fungsi Hewan, Struktur dan Fungsi Tumbuhan, Teknologi Informasi dan Komunikasi dalam Pembelajaran Ilmu Pengetahuan Alam, Teori Respon Butir, Termodinamika, Tugas Akhir Sarjana, Videografi, Wawasan dan Kajian Matematika dan Ilmu Pengetahuan Alam'],
['TEKNIK INFORMATIKA - Pendidikan Agama, Pendidikan Pancasila, Pendidikan Kewarganegaraan, Bahasa Indonesia, Bahasa Inggris, Kuliah Kerja Nyata, Metodologi Penelitian, Skripsi, Kalkulus, Matematika Diskrit, Algoritma dan Pemrograman, Struktur Data, Basis Data, Sistem Operasi, Jaringan Komputer, Rekayasa Perangkat Lunak, Pemrograman Web, Pemrograman Berorientasi Objek, Kecerdasan Buatan, Interaksi Manusia dan Komputer, Keamanan Informasi, Grafika Komputer, Teori Bahasa dan Otomata', 'PENDIDIKAN TEKNIK ELEKTRONIKA DAN INFORMATIKA - Deep Learning dan Natural Language Processing, Desain dan Pengembangan Aplikasi Web, Desain Kurikulum dan Metodologi Pembelajaran Vokasional, Evaluasi dan Asesmen Pembelajaran Vokasional, Filsafat Ilmu dan Etika Profesi, Ilmu Pendidikan, Keamanan Siber dan Blockchain, Kecerdasan Buatan, Komputasi Edge dan Cloud, Management Jaringan Komputer, Manajemen Pendidikan dan Pelatihan Vokasional, Manajemen Sistem Informasi, Metodologi Penelitian, Pemrograman Lanjut untuk Rekayasa Perangkat Lunak, Penambangan Data dan Big Data, Pengolahan Sinyal dan Citra Digital, Penulisan Karya Ilmiah, Proposal dan Seminar Tugas Akhir Magister, Psikologi Pendidikan, Robotika dan Automasi Industri, Sistem Multimedia, Sistem Ternam dan Internet of Things, Statistika, Teknologi Kesehatan dan Elektronika Medis, Teknologi Seluler dan Komunikasi Nirkabel, Teknopreneur dan Startup Digital, Tugas Akhir Magister, User Experience Design'],
]
scores = model.predict(pairs)
print(scores)
# [1.0000e+00 1.0000e+00 7.1877e-05 4.6272e-06 1.0000e+00]
# Or rank different texts based on similarity to a single text
ranks = model.rank(
'SMK TEKNIK INSTALASI TENAGA LISTRIK - Pendidikan Agama dan Budi Pekerti, Pendidikan Pancasila, Bahasa Indonesia, Matematika, Bahasa Inggris, Informatika, Projek Ilmu Pengetahuan Alam dan Sosial, Projek Kreatif dan Kewirausahaan, Praktik Kerja Lapangan, Dasar-dasar Teknik Ketenagalistrikan, Gambar Teknik Listrik, Dasar Listrik dan Elektronika, Pengukuran Listrik, Keselamatan dan Kesehatan Kerja Kelistrikan, Instalasi Penerangan Listrik, Instalasi Tenaga Listrik, Instalasi Motor Listrik, Kendali Elektromagnetik, Programmable Logic Controller, Perbaikan Peralatan Listrik, Mesin Listrik',
[
'PENDIDIKAN TEKNIK ELEKTRONIKA - Algoritma dan Bahasa Pemrograman, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bengkel Elektronika, Capstone Design, Elektronika Analog, Fisika Elektronika, Fondasi Pendidikan Teknologi dan Vokasional, Gambar Teknik Elektronika Computer Aided Design, Ilmu Pendidikan, Instalasi dan Mesin Listrik, Internet of Things, Kesehatan, Keselamatan dan Lingkungan, Kuliah Kerja Nyata, Kurikulum dan Pembelajaran Teknik Elektronika, Manajemen Pendidikan, Matematika, Media Pembelajaran Teknik Elektronika, Metodologi Penelitian, Model Pembelajaran Teknik Elektronika, Olahraga dan Kebugaran Jasmani, Pancasila, Pembelajaran Mikro, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Inklusi, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Penilaian Pembelajaran Teknik Elektronika, Perancangan Sistem Elektronika, Perekayasaan Kontrol Instrumentasi Medik, Pilot Drone, Praktik Industri, Praktik Kependidikan, Praktikum Alat Ukur dan Pengukuran, Praktikum Algoritma dan Bahasa Pemrograman, Praktikum Elektronika Analog 1, Praktikum Elektronika Analog 2, Praktikum Elektronika Medis, Praktikum Instalasi dan Mesin Listrik, Praktikum Internet Of Things, Praktikum Jaringan Komputer, Praktikum Komunikasi Data dan Interface, Praktikum Mekatronika, Praktikum Pengolahan Sinyal Digital, Praktikum Perancangan Sistem Audio, Praktikum Pilot Drone, Praktikum PLC, Praktikum Rangkaian Listrik, Praktikum Robotika, Praktikum Serat Optik, Praktikum Sistem Audio, Praktikum Sistem Cerdas, Praktikum Sistem Informasi dan Komputasi Biomedis, Praktikum Sistem Instrumentasi, Praktikum Sistem Kendali, Praktikum Sistem Mikrokontroler, Praktikum Sistem Mikroprosesor, Praktikum Teknik Digital, Praktikum Teknik Komunikasi Radio, Praktikum Teknik Studio Penyiaran, Proyek Kewirausahaan, Psikologi Pendidikan, Rangkaian Listrik, Sistem Cerdas, Sistem Instrumentasi, Sistem Kendali, Sistem Mikroprosesor, Sistem Telekomunikasi, Sosiologi dan Antropologi Pendidikan, Teknik Digital, Teknik Perawatan dan Perbaikan, Teknologi Hijau, Tugas Akhir Sarjana',
'TEKNIK ELEKTRONIKA - Algoritma dan Pemrograman, Analisis dan Pengujian Sistem Elektronika, Bahasa Indonesia, Bahasa Inggris Teknik, Bahasa Inggris Tujuan Khusus, Capstone Project, Computer Vision, Elektronika Dasar, Elektronika Daya dan Motor Listrik, Elektronika Digital, Etika Profesi, Keselamatan, dan Kesehatan Kerja Teknik, Fisika, Internet of Things, Kecerdasan Buatan, Komunikasi Data, Kreativitas, Inovasi dan Kewirausahaan, Manajemen Proyek, Matematika 1, Matematika 2, Metodologi Penelitian, Olahraga dan Kebugaran Jasmani, Pancasila, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Praktik Alat Ukur dan Pengukuran, Praktik Algoritma dan Pemrograman, Praktik Computer Vision, Praktik Desain Sistem Elektronika, Praktik Elektronika Dasar, Praktik Elektronika Daya dan Motor Listrik, Praktik Elektronika Digital, Praktik Industri Cerdas, Praktik Industri Mandiri, Praktik Industri Terbimbing, Praktik Integrasi Komputasi Awan dan IoT, Praktik Internet of Things, Praktik Internet of Things Cerdas, Praktik Jaringan Komputer, Praktik Kecerdasan Buatan, Praktik Komputasi Statistik, Praktik Metode Numerik, Praktik Mikrokontroler, Praktik Pemeliharaan Sistem Elektronika, Praktik Pemrograman Komputer, Praktik Pengolahan Sinyal Digital, Praktik Programmable Logic Controller, Praktik Robotika Cerdas, Praktik Robotika Lanjut, Praktik Sensor dan Aktuator, Praktik Sistem Kendali, Praktik Sistem Kendali Cerdas, Praktik Telemetri, Praktikum Sistem Tertanam, Proyek Sistem Elektronika Cerdas 1, Proyek Sistem Elektronika Cerdas 2, Robotika Dasar, Robotika Lanjut, Sensor dan Aktuator, Sistem Kendali, Sistem Kendali Cerdas, Sistem Tertanam, Statistika, Tugas Akhir Sarjana Terapan',
'BIOLOGI - Analisis Biologi Modern, Anatomi dan Histologi Hewan, Anatomi Tumbuhan, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bioinformatika, Biokimia, Biologi Avertebrata, Biologi Dasar, Biologi Konservasi, Biologi Laut, Biologi Manusia dan Gizi, Biologi Perkembangan Hewan, Biologi Perkembangan Tumbuhan, Biologi Sel dan Molekuler, Biologi Tanah, Biologi Vertebrata, Bioremediasi, Biospeleologi, Bioteknologi, Biotropika, Botani Ekonomi, Budidaya Hewan, Budidaya Tanaman, Ekofisiologi Tumbuhan, Ekologi, Ekologi Perairan, Ekotoksikologi, Endokrinologi, Entomologi, Enzimologi, Etnobotani, Evolusi, Fisiologi Hewan, Fisiologi Tumbuhan, Fitofarmaka, Fitohormon, Genetika, Genetika Molekuler, Herpetologi, Ikhtiologi, Ilmu Lingkungan, Imunologi, Keamanan Pangan, Kuliah Kerja Nyata, Kultur Jaringan Tumbuhan, Mamalogi, Metodologi Penelitian, Mikologi, Mikrobiologi, Mikrobiologi Terapan, Mikroteknik, Morfologi Tumbuhan, Olahraga dan Kebugaran Jasmani, Ornitologi, Pancasila, Parasitologi, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Kewarganegaraan, Pengelolaan Lingkungan, Perancangan Percobaan Biologi, Praktik Kerja Lapangan, Praktikum Anatomi dan Histologi Hewan, Praktikum Anatomi Tumbuhan, Praktikum Biokimia, Praktikum Biologi Avertebrata, Praktikum Biologi Konservasi, Praktikum Biologi Laut, Praktikum Biologi Manusia dan Gizi, Praktikum Biologi Perkembangan Hewan, Praktikum Biologi Perkembangan Tumbuhan, Praktikum Biologi Sel dan Molekuler, Praktikum Biologi Tanah, Praktikum Biologi Vertebrata, Praktikum Bioremediasi, Praktikum Bioteknologi, Praktikum Budidaya Hewan, Praktikum Budidaya Tanaman, Praktikum Ekofisiologi Tumbuhan, Praktikum Ekologi, Praktikum Ekologi Perairan, Praktikum Ekotoksikologi, Praktikum Endokrinologi, Praktikum Entomologi, Praktikum Enzimologi, Praktikum Etnobotani, Praktikum Evolusi, Praktikum Fisiologi Hewan, Praktikum Fisiologi Tumbuhan, Praktikum Fitofarmaka, Praktikum Fitohormon, Praktikum Genetika, Praktikum Herpetologi, Praktikum Ikhtiologi, Praktikum Ilmu Lingkungan, Praktikum Imunologi, Praktikum Keamanan Pangan, Praktikum Kultur Jaringan Tumbuhan, Praktikum Mamalogi, Praktikum Mikologi, Praktikum Mikrobiologi, Praktikum Mikrobiologi Terapan, Praktikum Mikroteknik, Praktikum Morfologi Tumbuhan, Praktikum Ornitologi, Praktikum Parasitologi, Praktikum Pengelolaan Lingkungan, Praktikum Perancangan Percobaan Biologi, Praktikum Sistematika Tumbuhan, Seminar, Sistematika Tumbuhan, Statistika Dasar, Studi Ekskursi, Tugas Akhir Sarjana, Wawasan dan Kajian Matematika dan Ilmu Pengetahuan Alam',
'PENDIDIKAN ILMU PENGETAHUAN ALAM - Alat Ukur dan Metode Pengukuran Ilmu Pengetahuan Alam, Astronomi, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Biofisika, Biokimia, Biologi Umum I, Biologi Umum II, Bioteknologi, Fisika Dasar I, Fisika Dasar II, Fisika Modern, Gelombang dan Optik, Genetika dan Pewarisan Sifat, Ilmu Gizi dan Kesehatan, Ilmu Kebumian, Ilmu Lingkungan, Ilmu Pendidikan, Ilmu Pengetahuan Alam Dasar, Ilmu Pengetahuan Alam Integrasi dan Pembelajarannya, Ilmu Pengetahuan Alam Terapan, Ilmu Pengetahuan Bumi dan Antariksa, Ilmu Tanah, Kajian Hasil Penelitian Pendidikan Ilmu Pengetahuan Alam, Kajian Ilmu Pengetahuan Alam Sekolah I, Kajian Ilmu Pengetahuan Alam Sekolah II, Kajian Ilmu Pengetahuan Alam Sekolah III, Keanekaragaman Hayati, Kearifan Lokal dalam Pembelajaran Ilmu Pengetahuan Alam, Keterampilan Kimia, Kimia dalam Kehidupan, Kimia Umum I, Kimia Umum II, Komputasi Ilmu Pengetahuan Alam, Kuliah Kerja Nyata, Kurikulum dan Pembelajaran Ilmu Pengembangan Alam, Listrik dan Magnet, Manajemen Berbasis Sekolah, Manajemen Pendidikan, Matematika untuk Ilmu Pengetahuan Alam, Media Pembelajaran Berbasis Komputer, Media Pembelajaran Ilmu Pengetahuan Alam, Mekanika dan Fluida, Metodologi Penelitian, Model Pembelajaran Ilmu Pengetahuan Alam, Olahraga dan Kebugaran Jasmani, Pancasila, Pembelajaran Mikro Ilmu Pengetahuan Alam, Pemrograman dan Robotika, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Ilmu Pengetahuan Alaman untuk Berkelanjutan, Pendidikan Inklusi, Pendidikan Kewarganegaraan, Pengelolaan dan Teknik Laboratorium Ilmu Pengetahuan Alam, Pengembangan Kompetensi dan Profesi, Penilaian Pembelajaran Ilmu Pengetahuan Alam, Praktik Kependidikan, Psikologi Pendidikan, Publikasi Ilmiah Pendidikan Ilmu Pengetahuan Alam, Sains Industri Berbasis Budaya, Sains, Teknologi, Teknik, dan Matematika, Sciencepreneur, Sosiologi dan Antropologi Pendidikan, Statistika Dasar, Statistika Terapan, Strategi dan Manajemen Pembelajaran Ilmu Pengetahuan Alam, Struktur dan Fungsi Hewan, Struktur dan Fungsi Tumbuhan, Teknologi Informasi dan Komunikasi dalam Pembelajaran Ilmu Pengetahuan Alam, Teori Respon Butir, Termodinamika, Tugas Akhir Sarjana, Videografi, Wawasan dan Kajian Matematika dan Ilmu Pengetahuan Alam',
'PENDIDIKAN TEKNIK ELEKTRONIKA DAN INFORMATIKA - Deep Learning dan Natural Language Processing, Desain dan Pengembangan Aplikasi Web, Desain Kurikulum dan Metodologi Pembelajaran Vokasional, Evaluasi dan Asesmen Pembelajaran Vokasional, Filsafat Ilmu dan Etika Profesi, Ilmu Pendidikan, Keamanan Siber dan Blockchain, Kecerdasan Buatan, Komputasi Edge dan Cloud, Management Jaringan Komputer, Manajemen Pendidikan dan Pelatihan Vokasional, Manajemen Sistem Informasi, Metodologi Penelitian, Pemrograman Lanjut untuk Rekayasa Perangkat Lunak, Penambangan Data dan Big Data, Pengolahan Sinyal dan Citra Digital, Penulisan Karya Ilmiah, Proposal dan Seminar Tugas Akhir Magister, Psikologi Pendidikan, Robotika dan Automasi Industri, Sistem Multimedia, Sistem Ternam dan Internet of Things, Statistika, Teknologi Kesehatan dan Elektronika Medis, Teknologi Seluler dan Komunikasi Nirkabel, Teknopreneur dan Startup Digital, Tugas Akhir Magister, User Experience Design',
]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]
sentence_0, sentence_1, and label| sentence_0 | sentence_1 | label | |
|---|---|---|---|
| type | string | string | float |
| modality | text | text | |
| details |
|
|
|
| sentence_0 | sentence_1 | label |
|---|---|---|
SMK TEKNIK INSTALASI TENAGA LISTRIK - Pendidikan Agama dan Budi Pekerti, Pendidikan Pancasila, Bahasa Indonesia, Matematika, Bahasa Inggris, Informatika, Projek Ilmu Pengetahuan Alam dan Sosial, Projek Kreatif dan Kewirausahaan, Praktik Kerja Lapangan, Dasar-dasar Teknik Ketenagalistrikan, Gambar Teknik Listrik, Dasar Listrik dan Elektronika, Pengukuran Listrik, Keselamatan dan Kesehatan Kerja Kelistrikan, Instalasi Penerangan Listrik, Instalasi Tenaga Listrik, Instalasi Motor Listrik, Kendali Elektromagnetik, Programmable Logic Controller, Perbaikan Peralatan Listrik, Mesin Listrik |
PENDIDIKAN TEKNIK ELEKTRONIKA - Algoritma dan Bahasa Pemrograman, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bengkel Elektronika, Capstone Design, Elektronika Analog, Fisika Elektronika, Fondasi Pendidikan Teknologi dan Vokasional, Gambar Teknik Elektronika Computer Aided Design, Ilmu Pendidikan, Instalasi dan Mesin Listrik, Internet of Things, Kesehatan, Keselamatan dan Lingkungan, Kuliah Kerja Nyata, Kurikulum dan Pembelajaran Teknik Elektronika, Manajemen Pendidikan, Matematika, Media Pembelajaran Teknik Elektronika, Metodologi Penelitian, Model Pembelajaran Teknik Elektronika, Olahraga dan Kebugaran Jasmani, Pancasila, Pembelajaran Mikro, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Inklusi, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Penilaian Pembelajaran Teknik Elektronika, Perancangan Sistem Elek... |
1.0 |
SMK TEKNIK LISTRIK - Pendidikan Agama dan Budi Pekerti, Pendidikan Pancasila, Bahasa Indonesia, Matematika, Bahasa Inggris, Informatika, Projek Ilmu Pengetahuan Alam dan Sosial, Projek Kreatif dan Kewirausahaan, Praktik Kerja Lapangan, Dasar-dasar Teknik Ketenagalistrikan, Gambar Teknik Listrik, Dasar Listrik dan Elektronika, Pengukuran Listrik, Keselamatan dan Kesehatan Kerja Kelistrikan, Instalasi Penerangan Listrik, Instalasi Tenaga Listrik, Mesin Listrik, Pembangkit Tenaga Listrik, Jaringan Distribusi Tenaga Listrik, Kendali Elektromagnetik |
TEKNIK ELEKTRONIKA - Algoritma dan Pemrograman, Analisis dan Pengujian Sistem Elektronika, Bahasa Indonesia, Bahasa Inggris Teknik, Bahasa Inggris Tujuan Khusus, Capstone Project, Computer Vision, Elektronika Dasar, Elektronika Daya dan Motor Listrik, Elektronika Digital, Etika Profesi, Keselamatan, dan Kesehatan Kerja Teknik, Fisika, Internet of Things, Kecerdasan Buatan, Komunikasi Data, Kreativitas, Inovasi dan Kewirausahaan, Manajemen Proyek, Matematika 1, Matematika 2, Metodologi Penelitian, Olahraga dan Kebugaran Jasmani, Pancasila, Pendidikan Agama Budha, Pendidikan Agama Hindu, Pendidikan Agama Islam, Pendidikan Agama Katolik, Pendidikan Agama Konghucu, Pendidikan Agama Kristen Protestan, Pendidikan dan Pembangunan Berkelanjutan, Pendidikan Kewarganegaraan, Pengolahan Sinyal Digital, Praktik Alat Ukur dan Pengukuran, Praktik Algoritma dan Pemrograman, Praktik Computer Vision, Praktik Desain Sistem Elektronika, Praktik Elektronika Dasar, Praktik Elektronika Daya dan Motor Listri... |
1.0 |
SURVEI PEMETAAN DAN INFORMASI GEOGRAFIS - Pendidikan Agama, Pendidikan Pancasila, Pendidikan Kewarganegaraan, Bahasa Indonesia, Bahasa Inggris, Kuliah Kerja Nyata, Metodologi Penelitian, Skripsi, Ilmu Ukur Tanah, Kartografi, Sistem Informasi Geografis, Penginderaan Jauh, Fotogrametri, Survei GNSS, Geografi Fisik, Analisis Spasial, Basis Data Spasial, Pemetaan Tematik |
BIOLOGI - Analisis Biologi Modern, Anatomi dan Histologi Hewan, Anatomi Tumbuhan, Bahasa Indonesia, Bahasa Inggris Tujuan Khusus, Bioinformatika, Biokimia, Biologi Avertebrata, Biologi Dasar, Biologi Konservasi, Biologi Laut, Biologi Manusia dan Gizi, Biologi Perkembangan Hewan, Biologi Perkembangan Tumbuhan, Biologi Sel dan Molekuler, Biologi Tanah, Biologi Vertebrata, Bioremediasi, Biospeleologi, Bioteknologi, Biotropika, Botani Ekonomi, Budidaya Hewan, Budidaya Tanaman, Ekofisiologi Tumbuhan, Ekologi, Ekologi Perairan, Ekotoksikologi, Endokrinologi, Entomologi, Enzimologi, Etnobotani, Evolusi, Fisiologi Hewan, Fisiologi Tumbuhan, Fitofarmaka, Fitohormon, Genetika, Genetika Molekuler, Herpetologi, Ikhtiologi, Ilmu Lingkungan, Imunologi, Keamanan Pangan, Kuliah Kerja Nyata, Kultur Jaringan Tumbuhan, Mamalogi, Metodologi Penelitian, Mikologi, Mikrobiologi, Mikrobiologi Terapan, Mikroteknik, Morfologi Tumbuhan, Olahraga dan Kebugaran Jasmani, Ornitologi, Pancasila, Parasitologi, Pendidi... |
0.0 |
BinaryCrossEntropyLoss with these parameters:{
"activation_fn": "torch.nn.modules.linear.Identity",
"pos_weight": null
}
num_train_epochs: 10per_device_train_batch_size: 8num_train_epochs: 10max_steps: -1learning_rate: 5e-05lr_scheduler_type: linearlr_scheduler_kwargs: Nonewarmup_steps: 0optim: adamw_torch_fusedoptim_args: Noneweight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08optim_target_modules: Nonegradient_accumulation_steps: 1average_tokens_across_devices: Truemax_grad_norm: 1label_smoothing_factor: 0.0bf16: Falsefp16: Falsebf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonegradient_checkpointing: Falsegradient_checkpointing_kwargs: Nonetorch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneuse_liger_kernel: Falseliger_kernel_config: Noneuse_cache: Falseneftune_noise_alpha: Nonetorch_empty_cache_steps: Noneauto_find_batch_size: Falselog_on_each_node: Truelogging_nan_inf_filter: Trueinclude_num_input_tokens_seen: nolog_level: passivelog_level_replica: warningdisable_tqdm: Falseproject: huggingfacetrackio_space_id: Nonetrackio_bucket_id: Nonetrackio_static_space_id: Noneper_device_eval_batch_size: 8prediction_loss_only: Trueeval_on_start: Falseeval_do_concat_batches: Trueeval_use_gather_object: Falseeval_accumulation_steps: Noneinclude_for_metrics: []batch_eval_metrics: Falsesave_only_model: Falsesave_on_each_node: Falseenable_jit_checkpoint: Falsepush_to_hub: Falsehub_private_repo: Nonehub_model_id: Nonehub_strategy: every_savehub_always_push: Falsehub_revision: Noneload_best_model_at_end: Falseignore_data_skip: Falserestore_callback_states_from_checkpoint: Falsefull_determinism: Falseseed: 42data_seed: Noneuse_cpu: Falseaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}parallelism_config: Nonedataloader_drop_last: Falsedataloader_num_workers: 0dataloader_pin_memory: Truedataloader_persistent_workers: Falsedataloader_prefetch_factor: Nonedataloader_multiprocessing_context: Nonedataloader_in_order: Trueremove_unused_columns: Truelabel_names: Nonetrain_sampling_strategy: randomlength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falseddp_static_graph: Noneddp_backend: Noneddp_timeout: 1800fsdp: Nonefsdp_config: Nonedeepspeed: Nonedebug: []skip_memory_metrics: Truedo_predict: Falseresume_from_checkpoint: Nonelocal_rank: -1prompts: Nonebatch_sampler: batch_samplermulti_dataset_batch_sampler: proportionalrouter_mapping: {}learning_rate_mapping: {}warmup_ratio: None| Epoch | Step | Training Loss |
|---|---|---|
| 3.8168 | 500 | -1.1888 |
| 7.6336 | 1000 | -2.9126 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
Base model
FacebookAI/roberta-base