El apellido que utilizaba parece tener raíces griegas, pero, aunque Canaris gustaba convenientemente de mencionar entre sus ascendientes al almirante griego Konstantinos Kanaris —también marino y héroe de la Guerra de independencia de Grecia—, se supone que su familia procedía de Italia, a través de los "Canarisi", que se mudaron a Alemania en el siglo XVII.