Mukherjee ble i 1969 innvalgt i Rajya Sabha, overhuset i Indias nasjonalforsamling, der han vant gjenvalg i 1975, 1981, 1993 og 1999. I 2004 ble han valgt til underhuset, Lok Sabha.