Avustettuaan vuoden 1968 vallankaappausta Ly pääsi Moussa Traorén lähipiiriin. Hän palveli Niorossa jalkaväkijoukkueen komentajana ja kaupungin päällikkönä vuosina 1969–1970. Vuosina 1970–1977 Ly toimi Bamakon kaupunginjohtajana.