Hans første politiske mandat kom i 1982, da han ble byrådsmedlem i Bergen (fra 1985, og igjen fra 1988 til 2000). I 1986 ble han (rådsmann) for helse- og sosialsaker og byplanlegging. På profesjonelt nivå ble Di Rupo i mellomtiden regjeringsmedarbeider og deretter adjunkt-kabinettsjef (vararepresentant for kongen i de belgiske kabinettet) til den daværende finans- og energiminister Philippe Busquin (1981–1985) for den vallonske regionen og hovedinspektør for den vallonske regionens ministerium.