Han gikk videre til Birkbeck College ved University of London på slutten av 1953. I London arbeidet han sammen med Rosalind Franklin ved John Bernals laboratorium. Dette arbeidet vekket en livslang interesse for studier av virus og i denne perioden oppdaget han strukturen til tobakkmosaikkviruset. I 1962 begynte han ved det nyopprettede MRC Laboratory of Molecular Biology i Cambridge. I løpet av det neste tiåret anvendte Klug metoder som røntgenkrystallografi, mikroskop og strukturmodeller til å utvikle et elektronmikroskop. Dette mikroskopet danner en sekvens med todimensjonale bilder av krystaller tatt fra ulike vinkler for å danne tredimensjonale bilder av objektet.