Basileios sedang mempersiapkan sebuah ekspedisi militer untuk memulihkan pulau Sisilia ketika ia meninggal, pada tanggal 15 Desember 1025. Basileios dimakamkan di sarkofagus terakhir yang tersedia di rotunda Konstantinus Agung di Gereja para Rasul Kudus. Namun, dia kemudian meminta saudara laki-lakinya dan penerus Kōnstantinos VIII untuk dimakamkan di Gereja Santo Yohanes sang Teolog (yaitu sang Penginjil), di kompleks istana Bakırköy, di luar tembok Konstantinopel. Nisan di makamnya merayakan kampanye dan kemenangan Basileios. Selama penjarahan 1204, makam Basil dinodai oleh Tentara Salib dari Perang Salib Keempat yang menyerang.