עם פרוץ מלחמת העולם הראשונה באוגוסט 1914 נכלל הקורפוס של שצ'רבצ'וב בארמייה ה-11 של אנדריי סליבנוב ולחם עמה בקרב גליציה. ב-5 באפריל 1915 התפטר סליבנוב בגלל בריאות לקויה ושצ'רבצ'וב מונה למפקד הארמייה במקומו. הוא המשיך להילחם בקרבות כנגד האוסטרו-הונגרים, ובאוקטובר 1915 הועלה לדרגת גנרל חיל הרגלים ומונה למפקד הארמייה השביעית. תחת פיקודו לחמה הארמייה בהצטיינות במהלך מתקפת ברוסילוב. ב-1 באפריל 1917 הוא מונה למפקד החזית הרומנית אשר כללה יחידות רוסיות ורומניות ולחמה כנגד הגרמנים על אדמת רומניה.