La sua carriera inizia quando i fratelli Dardenne gli offrono il ruolo di Riquet nel loro primo grande successo di pubblico, "Rosetta", Palma d'oro al Festival di Cannes 1999. Da allora Rongione è diventato un attore feticcio dei cineasti belgi, che lo hanno diretto in "L'Enfant - Una storia d'amore", "Il matrimonio di Lorna", "Il ragazzo con la bicicletta" e nel recente "Due giorni, una notte".