גרנט בחר בפיטסבורג לנדינג כשטח היערכות לקראת המשך ההתקדמות דרומה. חמש מתוך שש הדיוויזיות שלו נפרסו בתא השטח בין פיטסבורג לנדינג לבין כנסייה קטנה בשם "כנסיית שילה" (Shilo Church), ואילו השישית נשמרה בעתודה באזור קרמפס ליסינג, מצפון לסנייק קריק. מטרתו העיקרית הייתה לאפשר לצבאו שטח לאימונים, והוא לא היה ערוך לאפשרות של מתקפה מצד צבא הדרום. תא השטח בו נפרשה הארמייה, היה תחום במכשולים טבעיים מכל עבריו. גרנט ביצע מספר טעויות קשות: הוא לא הורה לכוחותיו הקדמיים להתחפר, כדי להדוף מתקפה אפשרית של האויב; הוא מיקם את יחידותיו ללא מחשבה על אפשרות כזו, ולכן הדיוויזיות בפיקוד המפקדים המנוסים ביותר שלו מוקמו סמוך לנהר טנסי, ואילו הדיוויזיות בפיקוד המפקדים הפחות מנוסים - שרמן ופרנטיס - מוקמו בקו החזית, סמוך יותר לכוחות האויב; הוא מיקם את מפקדתו במרחק רב מכוחותיו הקדמיים - בעיר סוואנה, כ-14 ק"מ מצפון מערב לפיטסבורג לנדינג; וגרוע מכל, הוא לא פקד על עריכת סיורים כדי לגלות את מיקומו של האויב. בליל ה-5 באפריל שלח גרנט מברק להאלק ומסר כי אינו צופה כל התקפה מצד הדרומיים.
ארמיית אוהיו, בפיקוד דון קרלוס ביואל, שכללה כ-50 אלף חיילים, החלה ב-16 במרץ בתנועה מנשוויל לכיוון דרום-מערב, במטרה לחבור לארמיית הטנסי של גרנט. ב-5 באפריל הגיעה דיוויזיית החלוץ של הארמייה, בפיקוד ויליאם נלסון, לסוואנה, אך גרנט הורה לנלסון לחנות שם, בגדה המזרחית של נהר טנסי, ולא להמשיך בתנועה דרומה לכיוון פיטסבורג לנדינג. שלוש דיוויזיות נוספות מהארמייה של ביואל (בפיקוד אלכסנדר מק'קוק, תומאס קריטנדן ותומס ווד) נמצאו במרחק קצר יחסית מאחרי הדיוויזיה של נלסון, והיו עתידות לקחת חלק ביום הלחימה השני של קרב שילה, אם כי הדיוויזיה של ווד הגיעה מאוחר מדי מכדי להשתתף באופן פעיל בקרב. ארבע הדיוויזיות הנ"ל כללו בסך הכל כ-18 אלף חיילים.
קרב, 6 באפריל.
היתקלויות ראשונות.
לאחר היערכות צבא הצפון סביב פיטסבורג לנדינג החלו היתקלויות בין יחידותיו הקדמיות לסיירים של צבא הדרום. תקריות אלו לוו בהתראות שווא רבות, שגרמו לשרמן, שפיקד על הדיוויזיה הקדמית ביותר של צבא הצפון, להתעלם מהתראות שונות בדבר נוכחות כוחות צבא דרומיים בקרבת עמדותיו. הוא התעלם מדיווחים על התקרבות כוח צבא דרומי גדול וסבר שהמדובר בסיורים בלבד, על אף חששות שהביעו קצינים שונים ומידע שהתקבל מחקירת חיילים דרומיים שנפלו בשבי. ב-5 באפריל אחר הצהריים זיהו חיילים מהרגימנט ה-53 של אוהיו פרשי אויב במרחק לא רב, ויחידה שנשלחה לבדוק במה המדובר דיווחה שספגה אש מחיילים במדים בהירים. מפקד הרגימנט הורה לכוחו להיערך לקרב ושלח מסר בהול לשרמן על נוכחות כוח צבא דרומי בסמוך לו, אולם זה האחרון לא התייחס ברצינות להתראה והגיב עליה באומרו: מספר חודשים לפני הקרב פוטר שרמן מתפקידו, בטענה שהוא מפגין חשש מוגזם מפני כוונות האויב. שרמן הוחזר לתפקידו זמן מה לפני קרב שילה, וייתכן שזו הייתה הסיבה להתעלמותו מהדיווחים לגבי היערכות צבא הדרום לא רחוק מעמדותיו.
גם גנרל פרנטיס גילה שאננות, אף על פי שקיבל מספר דיווחים על הימצאות כוחות של האויב בקרבת הדיוויזיה שלו. אולם מפקד הבריגדה הראשונה של הדיוויזיה, קולונל אברט פיבודי, לא היה שקט. בשעות הבוקר המוקדמות של ה-6 באפריל, הוא הורה לשלוח דרומה כוח סיור, שכלל שלוש פלוגות מרגימנט הרגלים ה-25 של מיזורי. הכוח נע לכיוון דרום מערב, ובשעה 05:15 נתקל בכוחות חלוץ של צבא הדרום בשדה כותנה, כ-1,200 מטרים מדרום לכנסיית שילה, לאחר כשעה של חילופי אש, הבחין מפקד כוח הסיור בכוח של פרשים דרומיים, שניסה לאגף את כוחו, ונסוג צפונה.
בין ההיתקלות הראשונה בכוחות צבא הצפון לבין תחילת התנועה של הכוח הדרומי העיקרי חלפו כ-90 דקות. העיכוב נבע מחוסר הניסיון של החיילים והמפקדים, מתנאי השטח הקשים, וגם מחוסר בהירות בניסוח הפקודות שניתנו למפקדי צבא הדרום לקראת הקרב, בהן נכתב כי הקרב יתחיל "מוקדם ככל שניתן", אך לא צוין זמן מדויק לפתיחת המתקפה על ארמיית הטנסי. המפקדים הדרומיים עדיין היו חלוקים בדעתם האם נכון לפתוח בקרב, כאשר בשעה 6:40 אמר ג'ונסטון לקציניו : . ולאחר מכן רכב על סוסו אל החזית, בהותירו את בורגארד לנהל את הקרב מהעורף.
מתקפת הבוקר.
הכוח הצפוני שנתקל ראשון בצבא הדרום השתייך, כאמור, לבריגדה של פיבודי מהדיוויזיה של פרנטיס. כאשר קיבל פיבודי דיווחים ראשונים על ההיתקלות הורה לשלוח תגבורת לכוח הסיור שלו, וזו פגשה את הכוח בעת שהיה בנסיגה. הכוח המתוגבר התקדם שוב, וספג מכת אש מכוחות דרומיים, שהשתייכו לבריגדה של שייבר מהקורפוס של הרדי. הוא נאלץ לסגת, ושלח התראה גם לדיוויזיה של שרמן על התקרבות האויב. פרנטיס, מפקד הדיוויזיה, שמע את קול היריות והגיע למפקדתו של פיבודי. הוא האשים אותו בשליחת כוח הסיור ללא אישורו, ואיים עליו שיראה בו אחראי לתוצאות. בכל מקרה, פיבודי פרס שניים מן הרגימנטים שלו בקו הגנה על תלוליות לרוחב דרך קורינת המזרחית. כאשר התקרבו חיילי הבריגדה של שייבר פתחו חיילי הצפון באש מטווח קצר. הדרומיים נסוגו בבלבול, אך מפקדיהם - כולל ג'ונסטון עצמו - עודדו אותם לחדש את ההתקפה. חילופי האש נמשכו עד השעה 8:00 בבוקר, כאשר הרגימנטים הדרומיים החלו לאגף את שני אגפיו של הקו הצפוני. פיבודי נסוג לקו הגנה חדש, באזור המאהל של הבריגדה שלו. במקביל קידם מפקד הדיוויזיה, פרנטיס, רגימנט נוסף וסוללת תותחים לסיוע. סוללות תותחים של הקורפוס של הרדי פתחו באש כבדה על המאהל הצפוני וגרמו לאבדות כבדות, ומתקפה עזה של שתי בריגדות דרומיות אילצה את פרנטיס להסיג את כוחו לקו הגנה חדש עד 09:00. בין הנפגעים הרבים היה גם פיבודי, שנהרג.
במקביל להתקפה על הדיוויזיה של פרנטיס החלו הבריגדות של הילדברנד ובאקלנד מהקורפוס של הרדי לתקוף את הדיוויזיה של שרמן, שהחזיקה את הקו הקדמי הצפוני ממערב לדיוויזיה של פרנטיס. בשעה 7:00 בבוקר סייר שרמן בקו הקדמי, וצפה בכוח בלתי ידוע שהתקדם לעברו. לפתע נפתחה עליו ועל קציני מטהו אש אגפית, שנורתה על ידי חיילי הדרום. אחד מקציני המטה נהרג, ושרמן עצמו נפצע קל בידו. הוא הורה למפקד הרגימנט הקדמי שלו להיערך לקרב, ודהר לאחור כדי לארגן את שאר כוחותיו לניהול קרב מגננה. הרגימנט הצפוני הצליח להדוף שתי התקפות של כוחות החלוץ הדרומיים, אך המתקפה השלישית הכריעה אותו וחייליו נמלטו לאחור.
שתי הדיוויזיות הקדמיות של ארמיית הטנסי נתפסו בהפתעה. וייטלאו רייד, שהיה כתב (ומאוחר יותר פוליטיקאי, שגריר ארצות הברית בבריטניה ובצרפת) תיאר את תמונת המצב בדקות הראשונות:
המהומה התגברה יותר בשל האש הכבדה, שניתכה על מחנות האוהלים של צבא הצפון. שרמן עצמו הודה בדו"ח שלאחר הקרב, שמספר יחידות שלו נתפסו לפאניקה, גם בשל העובדה שהקצינים הבכירים שלהן נהרגו או נפצעו. עם זאת, אף על פי שלאחר הקרב נמתחה ביקורת רבה על חוסר המוכנות של שרמן, הדיוויזיה שלו לא התפוררה תחת לחץ מתקפת הפתע הדרומית, ורוב היחידות הפגינו התנגדות עיקשת. נתוני הנפגעים מלמדים על הלחימה הקשה שניהלה הדיוויזיה: מתוך 8,213 קצינים וחיילים שהיו בשורותיה בתחילת הקרב, נהרגו 325 איש (כ-4%) ונפצעו 1,277 (כ-15.4%).
אף על פי שחלק מכוחותיו של שרמן התפורר ונמלט תחת המתקפה הדרומית, רגימנטים אחרים לחמו בעוז והסבו לכוחות שתקפו אותם אבדות כבדות: רגימנט מיסיסיפי ה-6 איבד יותר מ-70% מאנשיו שנהרגו או נפצעו, ורגימנטים נוספים ספגו גם הם אבדות כבדות. למרות זאת המשיכו הבריגדות הדרומיות בהתקפתן. בשלב זה החלו הבריגדות הראשונות מהקורפוסים של בראג ושל פולק לתגבר את היחידות בקו החזית, והלחץ הכבד על הדיוויזיה של שרמן גבר. עד השעה 10:00 נאלץ שרמן להורות לכוחותיו לסגת לקו הגנה אחורי.
הלחץ של כוחות הדרום נמשך. עד שעה 9:00 בבוקר התמוטטו רוב היחידות בדיוויזיה של פרנטיס, וכמה מן הקצינים הבכירים שלו נהרגו. הדיוויזיה של שרמן הוכתה קשות, חוסר הסדר והמוכנות לקרב של צבא הצפון, באו לידי ביטוי גם בדרך המבולבלת בה ניהל פיקוד הדיוויזיה של מקלרננד, שמוקמה בין הדיווזיות של פרנטיס ושרמן, במרחק קצר מאחורי (מצפון) קו החזית, את הלחימה. פיקוד הדיוויזיה איחר להבין את תמונת המצב, ואת העובדה שהכוחות השכנים מותקפים על ידי צבא הדרום. עובדה זו ואובדן השליטה של פיקוד הדיוויזיה על יחידותיה, גרמו לכך שהם הוטלו לקרב טיפין טיפין, וכל רגימנט לחם בנפרד, ללא תיאום מלמעלה. המהומה וחוסר התיאום הביאו לכך שיחידות הארטילריה של הדיוויזיה נותרו ללא הגנה של יחידות הרגלים, ונשטפו בהסתערויות של חיילי הדרום. כתוצאה מכך, איבדה הדיוויזיה את כל התותחים שלה בתוך שעות ספורות.