Etter studiene gikk han inn i næringslivet som direktør i Unilever og Calvé. Frem til 1997 var han ansatt i personalavdelingen i Unilever og spilte en sentral rolle i flere omorganiseringer. Rutte var personalsjef i datterselskapet Van den Bergh Nederland 1997–2000. I 2002 ble han personalsjef i IgloMora Groep, et annet av Unilevers datterselskaper.