Canaris vokste opp i Duisburg, hvor han gikk på Steinbart-gymnaset. I 1905 gikk han inn i Den tyske keiserlige flåte. Under første verdenskrig tjenestegjorde han som etterretningsoffiser til sjøs, og etter å ha rømt fra fangenskap i Chile i 1915, ble han sendt på etterretningsoppdrag i Spania hvor han blant annet slapp unna et britisk attentat. Ved krigens avslutning tjenestegjorde han som sjef på en ubåt i Middelhavet.