Han var sønn av fiskebåtreder Johan E. Hareide og Betty Bakke og giftet seg i 1940 med sykepleier Anne Langmoen, datter av brukseier Berger Langmoen (1887–1950). Han var bror av Einar Hareide og far til Dag Hareide.