Rudd ble som parlamentariker tidlig profilert i utenrikspolitikken. Han var skygge-utenriksminister fra 2001 til 2005. I denne posisjonen angrep han den konservative statsminister John Howard for Australias sterke støtte til USAs okkupasjon i Irak og til USAs klimapolitikk. Rudd unnlot i hele denne perioden å utfordre Labors statsministerkandidat Mark Latham.