Ta oli Otto I ja Adelheidi noorim ja ainus täiskasvanuks elanud poeg. 961. aastal sai Otto II Saksa kuningaks ja 967. aastal isa kaaskeisriks, kuid reaalselt sai ta võimule alles peale isa surma, olles vaid 18-aastane.