Boris Cheremetiev naît dans une famille ancienne de boyards parmi les plus anciennes et les plus distinguées de Russie. C'est le fils aîné de Pierre Vassiliévitch Petrovitch, mort en 1690, et de son épouse née Anna Féodorovna Volynskaïa, morte en 1684. Il est nommé stolnic à l'âge de treize ans et entre ensuite dans la carrière militaire. Il combat le khanat des Tatars de Crimée en 1681 à la tête de ses troupes à Tambov. Il reçoit son titre de boyard en 1682 et participe à des missions diplomatiques, comme celle de 1685 à 1687, où il est du nombre des négociateurs du traité de paix éternelle de 1686 entre la Russie et la Pologne. À la suite de ces négociations, il est envoyé comme ambassadeur à Varsovie pour la ratification du traité. De retour en Russie, Cheremetiev reçoit le commandement des troupes stationnées à Belgorod et Sevsk afin de défendre les confins de la Crimée et ainsi ce service loin de la capitale lui permet de ne pas prendre parti dans le conflit qui oppose Sophie et Pierre le Grand. Il fait partie des officiers d'état-major qui accompagnent Pierre dans sa première campagne d'Azov en 1695. Toutefois il ne participe pas aux combats d'Azov, car il commande l'armée de la région du Dniepr contre les Tatars.