Сади Карно је био син државника Иполита Карноа. Рођен је у Лиможу. Стриц му је био француски физичар Николас Леонард Сади Карно, по коме је и добио име. Садијев деда, Лазар Карно, био је један од значајнијих француских генерала из периода Француске револуције и Револуционарних ратова. Сади се школовао за грађевинског инжињера. Од оца је усвојио републиканске идеје, што је допринело да му влада народне одбране 1870. године повери организацију отпора у неколико француских департмана. Следеће године постао је префект департмана Приморска Сена. Исте године Народна скупштина ставила га је на чело департмана Златна обала. Августа 1878. године именован је секретаром министра јавних радова. Постао је министар септембра 1880. и поново априла 1885. године.