Knudsen var sønn av skipsreder Jørgen Christian Knudsen (1843–1923) og Marie Henriette Resch (1846–1925), samt nevø til statsminister Gunnar Knudsen. Han giftet seg i 1901 med Lavinia (Vinnie) Laura Franklin (1881–1963), og var far til blant andre NS-føreren Vidkun Quislings privatsekretær, Harald Franklin Knudsen (1905–1976).