Kellermann pocházel ze saské rodiny, která se usadila již několik let před jeho narozením ve Štrasburku. Byl synem vysokého úředníka. Vystudoval vojenskou královskou školu a vstoupil do služby v armádě jako kadet roku 1752. Jako poddůstojník prodělal tažení sedmileté války a pomalu stoupal v žebříčku hodností. Roku 1769 se oženil. Jeho ženou se stala o 15 let mladší Marie-Anne Barbe. Roku 1771 byl i u pokusu Ludvíka XV. ovlivnit polské složité poměry podporou barské konfederace a 9. března 1788 dosáhl nejnižší generálské hodnosti "(marechal de camp)" odpovídající přibližně dnešní hodnosti generálmajora a byl nobilisován.