Ele nasceu em uma família nobre de língua alemã da Livônia que eram membros do clã escocês Barclay. Seu pai foi o primeiro de sua família a ser aceito na nobreza russa. Barclay ingressou no Exército Imperial Russo ainda jovem em 1776, alistando-se no Regimento de Carabineiros Pskov. Por seu papel na captura de Ochakov em 1788 dos otomanos, ele foi pessoalmente condecorado por Grigory Potemkin. Em 1794, ele participou da supressão da Revolta de Kościuszko na Polônia e foi novamente condecorado por seu papel na captura de Vilnius.