Першу світову війну фон Рафенштайн зустрів на посаді ад'ютанта батальйону, воював на Західному фронті, брав участь у битвах за Верден, на Соммі, у в Шампані. У 1916 році відзначений орденом дому Гогенцоллернів із мечами. У 1918 році командир 1-го батальйону 37-го західно-прусського фузилерного полку фон Штеймеца під час масштабного Весняного наступу кайзерівської армії. 27 травня 1918 його батальйон прорвав укріплені позиції противника поблизу Суассона. У цих боях Йоган фон Рафенштайн відзначився, захопивши важливий міст через Ену біля Бур-е-Комен, близько 1 500 полонених та 32 гармати. За цей подвиг молодий офіцер був удостоєний ордена Pour le Mérite.