Diallo jätti politiikan Modibo Keïtan syrjäyttäneen vuoden 1968 sotilasvallankaappauksen jälkeen. Hän jatkoi työtä hallintovirkailijana ja toimi valtionyhtiöministeri Sékou Sangarén kabinettipäällikkönä 1970-luvun lopussa. Diallo jäi sen jälkeen eläkkeelle. Hänet haudattiin valtiollisin menoin presidentti Amadou Toumani Tourén ja pääministeri Modibo Sidibén läsnäollessa.