På samme tid var han også førstesekretær i Tadsjikistans kommunistpartis avdeling i Dusjanbe. Fra januar til juli 1991 var Karimov visestatsminister (under statsminister Akbar Mirzojev og fra juli til november samme år var han første visestatsminister under Mirzojev og Abdumalik Abdullajanov. I 1994 var han presidentens rådgiver angående sosialpolitikk og økonomiske spørsmål. 2. desember samme år ble han utnevnt til statsminister, en posisjon han hadde til 8. februar 1996. 9. januar 1997 ble han utnevnt til Tadsjikistans ambassadør til KIna, en stilling han tiltrådte i juni samme år.