Vuoden 1968 vallankaappauksen aikana Ly yritti kampanjoida presidentti Modibo Keïtan hallinnon puolesta. Hän menetti työpaikkansa ja siirtyi Neuvostoliittoon jatkamaan opintojaan. Ly väitteli tohtoriksi Leningradin yliopistossa vuonna 1973 ja palasi Maliin, jossa hän sai jälleen paikan opettajakorkeakoulussa. Ly jatkoi Neuvostoliitossa aloittamaansa poliittista toimintaa ja kampanjoi vuoden 1974 perustuslakia vastaan. Hänet pidätettiin kesäkuussa 1974 ja hän vietti neljä vuotta vankilassa Bamakossa, Nionossa ja Taoudénit’ssa.