Fleming arbeidet fra 1906 som bakteriolog ved St. Mary's Hospital i London. Fra 1919 var han professor i bakteriologi ved London universitet. Under den første verdenskrig vervet han seg som kaptein til det britiske hærens sanitetskorps, Royal Army Medical Corps. Han og mange av hans kolleger jobbet ved sykehusene på slagmarken ved vestfronten i Frankrike. I 1918 vendte han tilbake til St. Mary's Hospital, som var et universitetssykehus. Etter den første verdenskrigen begynte Fleming aktivt forske på anti-bakterielle midler etter å ha sett så alt for mange soldater dø som følge av infiserte skuddsår. Disse soldatene kunne blitt reddet hvis det hadde vært antibiotikum til stede i skyttergravene.