В начале 1919 г. под давлением Антанты отозван из Финляндии, вернулся в Прибалтику, где участвовал в создании прибалтийского ландесвера. С 1 февраля 1919 года командовал антибольшевистскими силами в Латвии в годы Латвийской Освободительной войны. Сторонник создания Балтийского герцогства. В апреле 1919 г. разоружил в Либаве латышские национальные войска и сместил правительство К. Улманиса, заменив его своим ставленником А. Ниедрой. Войска под его командованием заняли Курляндию и Ригу (22 мая 1919 г.) (после отставки фон дер Гольца эти вооруженные силы перешли под командование Бермондта-Авалова).