Grev Berchtolds familie stammet fra Tirol og eide store landområder i Mähren. Leopold var sønn av grev Sigmund von Berchtold (1834–1900) og dennes hustru som var født grevinne Trauttmansdorff. Han vokste opp på slottet i Buchlovice i Mähren. Der lærte han seg tsjekkisk, slovakisk og ungarsk.