Han har ført befal på tropps-, kompani- og bataljonsnivå og har arbeidet ved militære skoler. I tillegg til tjeneste i hæren har han også tjenestegjort i New Zealand Special Air Service. Fra 1994 til 1995 var han militærobservatør for UNTSO i Sør-Libanon. Mateparae førte i 1998 befal over den fredsbevarende styrken Operasjon Belisi, som ble satt inn på den borgerkrigsherjede øya Bougainville i Papua Ny-Guinea. Mateparae hatt ledende stillinger i New Zealands forsvar. I 1999 ble han øverstkommanderende for landstridskreftene og fra desember samme år til juli 2001 ledet han New Zealands tropper i Øst-Timor. I 2002 ble han hærsjef. Han ble forfremmet til generalløytnant og overtok stillingen som forsvarssjef i 2006. Mateparae ble i august 2010 utpekt til sjef for etterretningstjenesten Government Communications Security Bureau (GCSB), der han begynte i februar 2011, men trakk seg 1. juli 2011 fra sjefsstillingen i påvente av å overta som generalguvernør.