Zijn vader was William Knox. William Knox was van goede komaf, maar niet voornaam. Hij had gevochten tijdens de Slag bij Flodden Field en was woonachtig in de provincie Haddington. De naam van zijn moeder was Sinclair. John kreeg een liberale opvoeding zoals die op dat moment in de Schotse Kerk heerste.