Durant les premières années de son règne, de 1872 à 1878, parcourt le pays pour demander le paiement des tributs et la soumission des gouverneurs locaux. Au début, de nombreux seigneurs régionaux sont réticents, notamment dans l'Est du Wello, dans le Bégemeder et dans quelques zones adjacentes du Tegré où il part en campagne de 1871 à 1873. De 1873 à 1875, va asseoir son autorité dans les régions au centre et au sud refusant de se soumettre à sa souveraineté. En 1873, il se rend à Gonder, où il reçoit les hommages du Bégemeder et la reconnaissance, par la ville, de son statut de Negusse Negest. De 1874 à 1875, il impose son autorité sur le Nord ; il a également obtenu la soumission de Welé du Yedjou et a réussi à pacifier le Wello. En 1875, Yohannes retourne dans le Tegré après être parvenu à unifier une très grande partie du pays derrière lui. Le principal succès de la période a été la soumission d'Adal Tessema, dirigeant du Godjam, une province voisine du Shewa toujours indépendant. Le Godjam est à l'époque un royaume prospère dont Basso est la capitale commerciale importante. Il est gouverné par le ras Adal Tessema, au pouvoir depuis le règne de . Sa soumission en 1875 à permet à celui-ci de bénéficier d'un « atout politique et économique » afin de contrer l'Égypte qui s'installe dans la Corne de l'Afrique. Par ailleurs, il peut contrebalancer la montée de Menelik dans l'Éthiopie méridionale.