Mark Knopfler ble født 12. august 1949 i Glasgow i Skottland. Faren var arkitekt og av jødisk bakgrunn. Farens kommunistiske sympatier førte til at han rømte fra fødelandet Ungarn. Han kom til Storbritannia, der han giftet seg med en engelsk kvinne og bosatte seg i Glasgow. Broren David (f. 1952), som også er musiker, ble født i Glasgow tre år senere. Da Mark var omkring sju år gammel flyttet familien til Newcastle upon Tyne. Som mange andre ungdommer på 1960-tallet ble Mark fascinert av datidens popmusikere og fremstående gitarister som Hank Marvin. Han lyttet til ledende gitarister som Chet Atkins, B.B. King, Scotty Moore, Jimi Hendrix, Django Reinhardt og James Burton, og han var med på å danne flere lokale skoleband.