Han returnerte til sentralbanken i november 1994, som leder for forskningsavdelingen. Han ble direktør i 1999 for en seksårstermin, og denne ble i 2005 og 2011 fornyet for seks nye år. Smets ble utpekt som Luc Coenes arvtaker som sentralbanksjef allerede 10. mars 2014, og da Coene gikk av 10. mars 2015 overtok Smets stillingen 11. mars. Som sentralbanksjef representerer han Belgia i blant annet European Systemic Risk Board, Den internasjonale bank for gjenoppbygging og utvikling, European Systemic Risk Board og G-10.