Williams første profesjonelle opptreden var i Wigmore Hall i London 6. november 1958. Siden da har han opptrådt over hele verden og har hatt regelmessige opptredener på radio og TV. Han har spilt nesten hele repertoaret for gitar og har utvidet det ved å bestille gitarkonserter fra komponister som Stephen Dodgson, André Previn, Patrick Gowers, Richard Harvey og Steve Gray. Han har spilt inn duettalbum med andre gitarister, Julian Bream og Paco Peña. John Williams har gjort en stor innsats for å bringe komponisten Augustin Barrios frem i lyset. Williams har ofte snakket godt om Barrios’ arbeid. Selv sier han at han tror Barrios er den største komponisten av gitarmusikk. Han har også jobbet med samtidige komponister fra sitt hjemland Australia, blant andre Phillip Houghton, Peter Sculthorpe, Ross Edwards og Nigel Westlake.