Golitsyn var etterkommer av den litauiske fyrst Gediminas. Han ble født mot slutten av tsar Aleksej Mikhajlovitsjs regjeringstid, og var sønn av Mikhail Andrejevitsj Golitsyn, som tilhørte en bojarfamilie i byen Kursk.