Jedlik ble født i Szímő i Kongedømmet Ungarn (i dag Zemné i Slovakia). Hans mor var fra en ungarsk adelsfamilie, mens hans fars familie var av slovakisk opprinnelse som i 1720 flyttet fra Liptó fylke (nå Liptov) til Szímő.