לארהרדט 50 הופעות במדי נבחרת גרמניה המערבית, בהן הבקיע שער אחד. ארהרדט ייצג את גרמניה המערבית בשלושה מונדיאלים. במונדיאל 1954 היה חלק מהסגל של גרמניה המערבית שזכה בטורניר לאחר ניצחון 2–3 במשחק הגמר על נבחרת הונגריה, אך לא שיחק כלל במונדיאל זה. מאמנו ספ הרברגר תכנן להפתיע ולהשתמש בו במשחק הגמר במקום ורנר קולמאייר, אך זנח את הרעיון ונשאר עם הרכב זהה להרכב שפתח בחצי הגמר מול נבחרת אוסטריה. במונדיאל 1958 הפך ארהרדט לשחקן משמעותי הרבה יותר, אך ספג תשעה שערים במצטבר בחצי הגמר בהפסד 1–3 לנבחרת שוודיה ובמשחק על המקום השלישי בהפסד 3–6 לנבחרת צרפת. במונדיאל 1962 ארהרדט שוב היה בסגל של גרמניה המערבית, אך הנבחרת הודחה ברבע הגמר מול נבחרת יוגוסלביה לאחר הפסד 0–1. לאחר מונדיאל 1962, ארהרדט לא שיחק עוד בנבחרת. בין השנים 1959 ל-1962 שימש ארהרדט כקפטן הנבחרת, תפקיד בו החליף את הלמוט ראן. לאחר פרישתו של ארהרדט מהנבחרת, מונה במקומו האנס שפר לקפטן.