I 1969 ble Rafferty det tredje medlemmet i folkpop–gruppen, The Humblebums, sammen med komikeren Billy Connolly og Tam Harvey. Harvey forlot bandet kort tid etter og Rafferty og Connolly fortsatte som en duo. De spilte inn to album for Transatlantic Records. I 1970, i Royal Festival Hall, spilte de sammen med Fotheringay med Nick Drake, og fikk positiv anmeldelse av kritikeren Karl Dallas, som mente at de tre artistene viste lovende tendenser, og han observerte at at Gerry Raffertys sanger hadde en slags ømhet i seg som den Paul McCartney hadde i låten «Yesterday». I sine egne stand-up show, har Connolly ofte snakket om hvordan Rafferty fikk ham til å le og beskrev alle de ville tingene de gjorde på turnéene sine.