Fore å unndra seg strid med sine teologiske motstandere innen dogmatikken trakk Rupert seg omkring år 1113 tilbake til klosteret Michaelsberg i Siegburg. I 1120 ble han abbed for St. Heribert-klostert i Deutz (Köln), der han døde i 1129.