Иако је покушавао да смањи утицај Русије на Подунавске кнежевине (Влашка и Молдавија) Русија му је била главни спољно политички савезник. Јосиф је имао тендеције да присвоји Баварску по цену да изгуби Холандију која се тада налазила под аустријском управом. Међутим, у томе га је у томе осујетио Фридрих II Велики и то два пута 1778. и 1785. године. Територију Аустрије је проширио учествујући у ,Првој подели Пољске" и заузимањем Београда заједно са руском царицом Катарином у рату против Османлија који је он започео 1787. а окончао његов брат Леополд II, 1791. године.