Han begynte sin karriere ved tsar Aleksej Mikhajlovitsjs hoff der han ble utnevnt til bojar. Under prinsesse Sofia Aleksejevnas regentskap 1682-1689 var Golitsyn hennes favoritt, elsker og utenriksminister.