ב-28 בפברואר 1863 קודם אלגר לדרגת קולונל ברגימנט הפרשים החמישי של מישיגן. הכוח שבפיקודו היה הראשון שנכנס לגטיסברג ב-28 ביוני והוא הוזכר במיוחד בדיווח של גנרל ג'ורג' ארמסטרונג קסטר על פעולות הפרשים שם. אלגר נחשב לאסטרטג ויחד עם הנשיא לינקולן הוא עמד בשדה הקרב וסקר את פעולות האספקה של האיחוד ובעודו רודף אחר האויב ב-8 ביולי הוא נפצע קשה בבונסבורו שבמרילנד. הוא השתתף במערכות העמק של גנרל שרידן ב-1864 בווירג'יניה. ב-11 ביוני 1864, בתחנת טרוויליאן, הוא לכד כוח גדול של לוחמי הקונפדרציה באמצעות תקיפת פרשים מוצלחת. ב-20 ביוני 1864 פרש אלגר מהצבא. ב-1866 הוא מונה לדרגת ייצוג של בריגדיר גנרל בצבא המתנדבים ושנה לאחר מכן כמייג'ור גנרל.