Andronikos besluttet at hans liv ville bli spart hvis han abdiserte og gikk i kloster. Romanos aksepterte og denne avtalen ble ratifisert i Konstantinopel. Men Johannes Dukas så bort fra avtalen og sendte menn for å få Romanos blindet den 29. juni 1072 før han ble sendt i eksil i et kloster i Marmarahavet. Uten noe medisinsk assistanse ble såret infisert, og Romanos fikk en smertefull og langsom død. Den siste fornærmelsen fikk han noen dager før sin død, da han mottok et brev fra sin bitre motstander Michael Psellos som gratulerte ham med tapet av synet. Da han var død fikk hans kone Eudokia lov til å hedre ham med en storslått begravelse.