Som en del av en omlegging av regjeringen overtok Mramba finansministerposten i regjeringen til Frederick Sumaye 23. november 2000 og erstattet Daniel Yona, mens Philemon Sarungi ble den nye forsvarsministeren. Han hadde stillingen som finansminister til en regjeringsendring ble kunngjort av president Jakaya Kikwete den 4. januar 2006, hvoretter Zakia Meghji ble hans etterfølger. Samtidig ble andre sentrale stillinger i regjeringen besatt av utenriksminister Asha-Rose Migiro, forsvarsminister Juma Kapuya og innenriksminister John Chiligati. I januar 2006 overtok han selv som minister for infrastrukturutvikling for en kort stund, før han erstattet Nazir Karamagi som minister for industri, handel og markedsføring 15. oktober 2006. Han hadde denne ministerposten til han ble erstattet av Mary Nagu den 13. februar 2008.