Lite er kjent av Legendres barndom og oppvekst. Men han kom fra en rik familie som betydde at han ikke måtte søke vanlig arbeid. Fra 1770 studerte han fysikk og matematikk ved i Paris. Med denne utdannelsen kunne han undervise ved militærakademiet i samme by fra 1775. I forbindelse med en priskonkurranse om beregning av kanonkulers baner under innflytelse av luftmotstand som ble utlyst av det prøyssiske vitenskapsakademiet i Berlin, sendte han i 1782 inn en avhandling om dette tema. Den ble vurdert av Lagrange som på den tiden ledet akademiet. På den måten fikk han kjennskap til den unge Legendre og ble klar over hans matematiske ferdigheter. Dette var begynnelsen på Legendres berømmelse i vitenskapelige kretser.