Da hans helse og syn begynte å svikte dro han tilbake til London i 1877. I 1882 solgte han rundt 20 000 kinesiske titler og antikke bøker han hadde samlet i Kina til biblioteket i Oxford. Hans samling er i dag oppbevart i Bodleian Library som «Alexander Wylie Collection». Blind og lenket til sengen døde han i sitt hjem i Hampstead den 6. februar 1887 og ble gravlagt på kirkegården i Highgate.