Housman utdannet seg først på King Edward's School, begynte så på Bromsgrove School hvor han tilegnet seg en sterk akademisk bakgrunn, og vant sine første priser for hans dikt. I 1877 vant han et stipend til St John's College ved University of Oxford, hvor han studerte klassikerne. Han var en svært begavet student og fikk meget gode karakterer, men var også en innadvendt type som kun fikk to nære venner på universitetet, hans romkamerater Moses Jackson og A.W. Pollard. Housman ble forelsket i den kjekke og atletiske Jackson. Den heteroseksuelle Jackson avviste tilnærmelsen, men de forble venner. Denne opplevelsen, som også ble bearbeidet i noen av diktene hans, kan være en forklaring på at Housman uventet strøk på sine avsluttende eksamener i 1881. Housman tok sine dårlige karakterer svært alvorlig, og klarte å stå på eksamenene ett år senere, etter en kort periode som lærer på Bromsgrove School.