Bonham fikk sin første skarptromme da han var 10 år gammel, og trommesett da han var 15. Han spilte senere i en rekke lokale band – deriblant , hvor Robert Plant var vokalist. Det var Plant som anbefalte Bonham for Jimmy Page, da Page var i ferd med å starte et nytt band etter oppløsningen av The Yardbirds, og hadde gitt Plant jobben som vokalist. Bonham var imidlertid ikke så veldig lysten på å bli heltidsmusiker, og Plant måtte bruke lang tid på å overtale Bonham til å bli med i det nye bandet, som senere fikk navnet Led Zeppelin.