John McPhail wurde 1923 im Glasgower Stadtbezirk Lambhill geboren. Seine Fußballkarriere begann er beim "FC Strathclyde" für den er bis 1941 spielte. Als 17-Jähriger unterschrieb McPhail im Oktober 1941 einen Vertrag bei Celtic Glasgow. Mit "Celtic" gewann er in den folgenden Jahren den Coronation Cup, der zu Ehren der Krönung von Elisabeth II. ausgespielt wurde, die schottische Meisterschaft in der &lt;a href="Scottish%20Division%20One%201953/54"&gt;Spielzeit 1953/54&lt;/a&gt; und 1951 und 1954 den Pokal. McPhail spielte in seiner gesamten Karriere bei "Celtic" und absolvierte von 1941 bis zu seinem Karriereende im Jahr 1956 335 Spiele (142 Ligaspiele) und erzielte dabei 100 Tore (54 Ligatore). Der bei Celtic zeit seines Lebens und darüber hinaus populäre McPhail erhielt durch seine Außenristpässe den Spitznamen "Hooky".