John Patterson est né dans le comté d'Oxford dans la province canadienne d'Ontario. Il était l'un des treize enfants de Francis Patterson et Annie Telfer. Il a pu étudier à l'université de Toronto et y obtenir son baccalauréat en génie en 1900, tout en obtenant la bourse de recherche en sciences de l'Exposition universelle de 1851 pour poursuivre une maîtrise en physique au laboratoire Cavendish de l'université Cambridge. À cet endroit, Patterson a étudié les films métalliques très minces et leur propriétés électriques, l’ionisation de l'air et la variation de la résistance électrique des métaux exposés aux champs magnétiques.