Mit Ausbruch des Ersten Weltkriegs gab Olszewski das Regiment an seinen Nachfolger Oberstleutnant Neubauer ab, wurde zum Kommandeur der 55. Infanterie-Brigade ernannt und am 19. August 1914 zum Generalmajor befördert. Im Verbund mit der 28. Infanterie-Division nahm er an den Kämpfen in den Vogesen und Lothringen sowie bei Arras teil und ging Mitte Oktober 1914 in Flandern in den Stellungskrieg über. Während der Lorettoschlacht konnte sich Olszewski in den schweren Kämpfen um Notre-Dame de Lorette besonders bewähren. Ausgezeichnet mit beiden Klassen des Eisernen Kreuzes musste er aufgrund einer Gallenerkrankung das Kommando über seinen Großverband abgeben. Er wurde daraufhin am 24. März 1916 zu den Offizieren von der Armee versetzt und am 8. September 1916 unter Verleihung des Roten Adlerordens II. Klasse mit Eichenlaub und Schwertern mit der gesetzlichen Pension zur Disposition gestellt.