Gallagher vokste opp i Ironton i Ohio og var en solid idrettsutøver i high school. Han fortsatte med idretten da han gikk på Kentucky Wesleyan College. Etter uteksamineringen spilte han en kort periode for det semi-profesjonelle laget Ironton Tanks i 1930 før han tok fatt på en trenerkarriere. Hans første jobb var i Pedro i Ohio og deretter på Ironton High School før han fikk sin første stilling på collegenivå som assistenttrener for William & Mary i 1940. Gallagher tjente i United States Navy under andre verdenskrig og returnerte til William & Mary i 1945. Han ble forfremmet til hovedtrener for baseball og basketball året etter, og ledet lagets basketballag til et sammenlagtresultat på 14–12 i 1946–47-sesongen. Han tok deretter en jobb med Browns i tre år før han ble hovedtrener for Santa Clara, hvor han i løpet av tre år hadde et sammenlagtresultat på 8–18–2.