Ordo Santo Yohanes terbentuk pada permulaan abad ke-11, zaman perombakan dan pembaharuan besar-besaran di bidang kebiaraan. Ordo ini didirikan sebagai paguyuban orang-orang yang berasosiasi dengan balai penyantunan milik Kadipaten Amalfi di kawasan permukiman Muristan, kota Yerusalem. Balai penyantunan ini didirikan pada "ca." 1023 untuk menyediakan santunan dan perawatan bagi para peziarah yang miskin, sakit, atau terluka sewaktu berada di Tanah Suci. Setelah Yerusalem dikuasai tentara Kristen Barat pada tahun 1099 selama masa Perang Salib Pertama, organisasi ini menjadi sebuah Ordo Keagamaan dan Ordo Militer menurut akta pembentukannya, dan diberikan tugas untuk menjaga dan mempertahankan Tanah Suci. Setelah Perang Salib Kesembilan ketika Tanah Suci direbut oleh tentara Muslim, ordo ini beroperasi dari Pulau Rodos, di mana wilayah itu adalah wilayah merdeka, dan kemudian dari Pulau Malta di mana mereka menjadi negara bawahan di bawah raja negara bagian Spanyol di Sisilia.