עם פרוץ מלחמת העולם הראשונה באוגוסט 1914 הופרשו הכוחות הצבאיים של המחוז הצבאי קייב לצורך יצירת הארמייה השלישית אשר רוזסקי מונה כמפקדה. הארמייה נעה מאוקראינה, ופלשה לגליציה שנשלטה בידי האימפריה האוסטרו-הונגרית. ב-29 באוגוסט נלחמה הארמייה נגד האוסטרו-הונגרים בקרב גנילה ליפה, וב-3 בספטמבר כבשה את למברג. בשל הכיבוש הועברה לאזור הארמייה הרביעית האוסטרו-הונגרית, אולם הארמייה השלישית הביסה אותה בקרב רווה. כהוקרה על הצלחתו מונה רוזסקי למפקד החזית הצפון-מערבית, ופיקד עליה במהלך הקרב על הוויסלה וקרב לודז'. רוזקי הפיל את האחריות על כישלונותיו על פקודיו, ובהם פאול פון רננקמפף וסרגיי שיידמן. במאי 1915 הוא פרש מתפקידו בשל בריאות לקויה, ומונה לחבר המועצה המדינית, ולאחר מכן מונה לחבר במועצה הצבאית. בסוף יוני מונה גנרל רוזקי למפקד הארמייה השישית, ובאמצע אוגוסט הוא מונה לפיקוד על כל החזית הצפונית, אבל בדצמבר 1915 הוא חלה כאשר פיקד על החזית והשמאל. בתחילת אוגוסט 1916 הוא החלים ממחלתו וחזר לחזית כמפקד הכללי, במקום הגנרל אלכסיי קורופטקין. בתקופתו כמפקד העליון בחזית הצפונית, היו חייליו זהירים ונמנעו מפעולות מכריעות נגד כוחות אויב גדולים.