Den ene sønnen var den kjente avholdstaleren Peder Svendsen (f. 13. november 1868). I begynnelsen av sønnens karriere het det at han var Faste Svendsens sønn, senere ble sagt om faren at han var Peder Svendsens far og faren kunne introduserte seg som far til Peder Svendsen. En annen sønn var Morten Luther Svendsen (født 15. juli 1877 i Molde, død 14. januar 1959) som var musiker og dirigent og grunnla Trondheim symfoniorkester i 1909.