גרפילד פיקד על הבריגדה העשרים של ארמיית אוהיו, וב-1862 הצטרף אל מייג'ור גנרל יוליסס סימפסון גרנט וכוחותיו, כשהתקדמו בקורנית', מיסיסיפי. לפני שהגיע לשם, תקפו כוחות הקונפדרציה את צבאו של גרנט בהפתעה, והבריחו אותם. חייליו של גרפילד התקדמו במהירות והגיעו לעזור לגרנט למחרת היום, כדי לגרום למורדים לברוח. המקרה, שנודע כקרב שילה, היה הקרב הקטלני ביותר במלחמה באותה התקופה. גרפילד נחשף לאש אבל לא נפצע. לאחר מכן התקדם הצבא אל קורינת', כשהקונפדרציה נסוגה.