Osterman kom fra tysk bakgrunn, og medstammet fra innflyttere fra Westfalen. Han begynte sin diplomatiske løpebane i 1757 i Paris, og ble utnevnt i 1760 til envoyé i Stockholm. Der kom han i intim forbindelse med Mösspartiet og opptrådte ved riksdagene 1765-66, 1769-70 og 1771-72 rent frem som dette partis leder, takket være gullet og makten hos det hoff han representerte (han brukte ufattelige summer for korrupsjonsformål).