Am 19. Juli 1914 wurde Ungern reaktiviert und einem Regiment aus Nertschinsk zugeteilt, welches am russischen Einmarsch in Ostpreußen beteiligt war. Nachdem die Fronten großteils zum Stillstand gekommen waren, machte Ungern sich als Anführer von Erkundungsmissionen bis unmittelbar vor oder sogar hinter die feindlichen Linien einen Namen. Für eine solche Aktion erhielt er am 22. September 1914 das Georgskreuz 4. Klasse. Bis zum Oktober 1916 kämpfte Ungern in Polen und Galizien und wurde währenddessen fünfmal verwundet. Trotz seiner Tapferkeit wurde er in dieser Zeit kaum befördert, was hauptsächlich mit seiner Disziplinlosigkeit zusammenhing. Nach einem Zwischenfall am 22. Oktober, bei dem er in betrunkenem Zustand einen Adjutanten des russischen Gouverneurs von Czernowitz beleidigte oder auch schlug, wurde er zu zwei Monaten Arrest verurteilt.