נולד ברקלינגהאוזן שבגרמניה. האב, מוזס (יליד פורוהי שבמחוז איוואנו-פרנקיבסק, באותה עת בפולין, ומסוף המאה העשרים באוקראינה) והאם, הלה (ילידת דרוהוביץ', באותה עת בפולין, ומסוף המאה העשרים באוקראינה) עברו לגרמניה בעקבות עבודת האב. משפחתו עברה בילדותו למץ בצרפת. במקום הולדתו ובצרפת קיבל שפר חינוך יהודי. לאחר מכן, עברו לזארבריקן בגרמניה ושם למד בבית ספר כללי. ב-1933, עם עליית הנאצים לשלטון חזרה המשפחה לצרפת וב-1936, עם כניסת הצבא הגרמני לחבל הריין חזרה המשפחה לעיירת הולדת האב בפולין. שפר החל ללמוד בגימנסיה בדרוהוביץ', התגורר אצל דודתו לוסיה והחל לשחק כדורגל בקבוצת בית"ר דרוהוביץ'. מפרוץ מלחמת העולם ב-1939 ועד הפלישה הגרמנית לברית המועצות ב-1941 היה אזור מגוריהם תחת שליטת ברית המועצות. כבר ב-1939, בגיל 16 עזב שפר את משפחתו ונמלט מזרחה. תחילה לאזור באקו שבאזרבייג'ן שם עבד שנתיים במפעל לנעליים ולאחר מכן באלמה אטה שבקזחסטן שם שיחק באופן מקצועי בקבוצת דינמו אלמה אטה. בהיותו שם קיבל ידיעות מדודתו לוסיה כי כל משפחתו נרצחה על ידי הנאצים. מיד בתום מלחמת העולם השנייה שב לביילבה שבפולין, שם התגוררה דודתו ששרדה את השואה לאחר שמשפחתה הוסתרה על ידי משפחה פולנית.
עלייה לישראל וקריירה כשחקן.
בביילבה שבפולין הקים שפר, שיחק ואימן קבוצת כדורגל יהודית, ZKS Bielawa. הקבוצה הגיעה עד לליגה השנייה בפולין, אך השלטון הקומוניסטי לא ראה בעין יפה קיום קבוצה על בסיס אתני ופרק את הקבוצה. כששפר זומן לצבא הפולני, הוא נמלט דרך צ'כוסלובקיה, אוסטריה ואיטליה ועלה לישראל בשנת 1950. הוא התקבל לעבודה בנמל חיפה כמכונאי ובמקביל, החל לשחק בהפועל חיפה באגף השמאלי ולאחר כשנה עבר להפועל כפר סבא וסייע לה לעלות לליגה הלאומית. הוא אף הוזמן לנבחרת ישראל ב'. קריירת המשחק שלו נמשכה עד 1957 ואז פרש עקב פציעה.
קריירה כמאמן.
השתלמות בגרמניה.
לאחר שפרש ממשחק פעיל בגיל 34, עבר שפר לאימון. כצעד ראשון עבר ב-1958 לגרמניה והשתלם בבית הספר למאמנים בקלן בהדרכת הנס וייסוויילר. צעד זה היה חריג בקרב המאמנים הישראלים. לטענת עוזרו בנבחרת ישראל בשנים מאוחרות יותר, אמציה לבקוביץ', שפר העריץ את הכדורגל הגרמני ושליטתו בשפה הגרמנית הקלה עליו את הבחירה. בנו של שפר טען כי אביו היה פרפקציוניסט והפריד בין הכדורגל ובין התלאות שסבל במלחמת העולם השנייה והעובדה שמשפחתו הושמדה על ידי הגרמנים. שפר הצטיין בקורס ונבחר על ידי שאר התלמידים כאחד משני הבוגרים המצטיינים (השני היה המאמן ההולנדי רינוס מיכלס). הוא אף קשר קשרים אישיים עם מנהל התוכנית, הנס וייסוויילר, שאימן את פ.צ. קלן ומאוחר יותר התפרסם כמאמנה של מנשנגלדבאך בשנות השיא שלה. בזמן לימודיו אימן שפר קבוצה מקומית, רנאניה וירזלן . בזמן שהותו בגרמניה קשר שפר גם קשרים עסקיים ומאוחר יותר הפך ליבואן של אדידס בישראל ובשנים מאוחרות יותר היו לו קשרים עסקיים גם עם חברת פומה.
אימון קבוצות בישראל.
לאחר שובו לישראל ב-1959, החל שפר לאמן את הקבוצה בה שיחק בעבר: הפועל כפר סבא שהייתה לקראת סוף עונת 1958/1959 קבוצת תחתית בליגה הלאומית. הוא החליף את אליעזר שפיגל בסיום העונה, אולם ללא הצלחה רבה ובסיום העונה ירדה הפועל כפר סבא לליגה א'. שפר אימן את כפר סבא גם בליגה א' בעונת 1959/1960, עד המחזור ה-9, אז החליפו יאיר לויטה. אחר כך אימן את הפועל רחובות ואת הפועל רעננה. באוקטובר 1961 החל לאמן את בני יהודה תל אביב ששיחקה בליגה הלאומית וניצלה מירידה בעונה הקודמת. הוא אימן אותה בעונת 1961/1962, ובתום העונה המוצלחת, בה סיימה בני יהודה במקום ה-5, עבר שפר לאמן את מכבי פתח תקווה. הוא התפטר מתפקידו בפברואר 1963 לאחר כישלון הקבוצה. לאחר התפטרותו החליף את ג'ק גיבונס כמאמן הפועל ירושלים. בתחילת עונת 1963/1964 שב לאמן את בני יהודה, תפקיד אותו מילא עד אפריל 1964. עוד לפני כן, בספטמבר 1963 מונה למאמן נבחרת הנוער של ישראל. במקביל, אימן באותן שנים גם את נבחרת חיל האוויר. ב-1964 הפסידה נבחרת חיל האוויר במשחק הגמר ב"גביע הרמטכ"ל" 1:0 לנבחרת גייסות השריון.
בינואר 1967, לאחר ששימש במשך 3 שנים מאמן נבחרת הנוער, התמנה שפר למאמנה של מכבי נתניה במקום אוטו שלפנברג. אולם חוסר ההצלחה של קבוצת הצמרת נמשך גם בתקופת שפר ובחודש מאי 1967 ביקש לשחררו מהתפקיד.
לאחר סיום תפקידו כמאמן הנבחרת הלאומית ב-1970 חזר שפר לאמן בליגה הישראלית. בעונת 1972/1973 החל לאמן את בית"ר ירושלים שהעפילה לליגה הלאומית. אולם בפברואר 1973 פוטר והוחלף על ידי סמואל רזניק, על רקע אי הצלחת הקבוצה ועל רקע חיכוכים בלתי פוסקים עם השחקנים.
אימון נבחרת ישראל לנוער.
עם מינוי כמאמן נבחרת הנוער, משימתו הראשונה הייתה הכנת הנבחרת לטורניר אליפות אסיה לנוער שנערך באפריל 1964 בסייגון שבדרום וייטנאם. שפר השתית את נבחרתו על כוכבי נבחרות חילות צה"ל שאותם הכיר מעת שאימן את נבחרת חיל האוויר. עם שחקני נבחרת הנוער נמנו מספר כדורגלנים שהמשיכו בשנים לאחר מכן להוות את שלד הנבחרת הלאומית, כמו: יצחק ויסוקר, דוד פרימו, צבי רוזן ומרדכי שפיגלר. ישראל העפילה לגמר הטורניר לאחר שגברה על תאילנד 0:4, על קוריאה הדרומית 0:4, ועל יפן 0:2. בגמר התמודדה מול נבחרתה החזקה של בורמה והמשחק הסתיים בתיקו 0:0. בסיום המשחק נפסק ששתי הנבחרות יחזיקו בגביע במשותף.
לאחר שנה, שבה נבחרת הנוער של ישראל להתמודד על גביע אסיה לנוער בטורניר שהתקיים בטוקיו שביפן. רק צבי רוזן ויצחק אנגלנדר נותרו מהסגל של סייגון 1964. בסגל 1965 בלטו כדורגלנים נוספים שהמשיכו לאחר מכן לככב בנבחרת הבוגרת, כמו: ישעיהו שווגר, מנחם בלו, שמואל רוזנטל וגיורא שפיגל. ישראל גברה על דרום וייטנאם 1:5, על הפיליפינים 1:8, על הונג קונג 1:3 ועל יפן 1:2. בחצי הגמר הביסה ישראל את מלזיה 0:9 (משה רומנו הבקיע 4 שערים במשחק). במשחק הגמר, שוב מול נבחרת בורמה, ניצחה ישראל 0:5 (שלושער של רומנו) וזכתה בגביע אסיה לנוער.
כשסיכם את מסע הנבחרת, שיבח עיתונאי "מעריב", ישעיהו פורת, את ההכנה הממושכת המקצועית והיסודית של הנבחרת. הוא טען כי התנהגותו של שפר לשחקנים הצעירים נראית לעיתים כחסרת סבלנות וחסרת רחמים, אך גישה בלתי מתפשרת זו היא שהביאה את הנבחרת לחוסר שאננות ולאי-זלזול ביריבים, ללכידות ולרוח לחימה שהביאו את התוצאות. הוא מציין כי בשנתיים וחצי שחלפו לא נוצחה נבחרות הנוער שבהדרכתו של שפר בשום מפגש בינלאומי.
ב-1966 נערך הטורניר במנילה שבהפיליפינים. בסגל נבחרת הנוער נכללו חלק גדול מכוכבי טוקיו כגון: בלו, רוזנטל, שפיגל, אנגלנדר ורומנו. שייע פייגנבוים שנמנה עם הסגל תופקד באותן שנים כמגן. הנבחרת פתחה את משחקיה בתיקו 0:0 מול קוריאה הדרומית. במשחק השני, מול הונג קונג, ניצחה ישראל 1:6 (רומנו כבש שלושער). ברבע הגמר ניצחה ישראל את הודו 0:4 ובחצי הגמר הביסה ישראל את פורמוזה 0:5 (רומנו כבש שלושער נוסף). בגמר התמודדה ישראל מול יריבתה המושבעת באותן שנים - בורמה. המשחק הסתיים בתיקו 1:1 וכפי שנקבע שנתיים לפני כן בסייגון, הוחלט כי כל נבחרת תחזיק בגביע במשך חצי שנה.
בשנים בהן אימן שפר את נבחרת הנוער שימש אמציה לבקוביץ' כעוזרו. לאחר שמונה שפר למאמן הנבחרת הבוגרת הפך לבקוביץ' למאמן נבחרת הנוער, אולם בטורניר אליפות אסיה ב-1971 החליפו שפר והנבחרת זכתה בגביע אסיה. בהמשך שנות ה-70 מילא שפר לסירוגין את תפקיד מאמן נבחרת הנוער, לא תמיד בהצלחה רבה.
אימון נבחרת ישראל.
באפריל 1968 החליף שפר את מילובן צ'יריץ' בתפקיד מאמן הנבחרת הישראלית. משחקה הראשון של ישראל בהדרכתו היה באצטדיון בלומפילד, בספטמבר 1968, כנגד נבחרת צפון אירלנד (המשחק נסתיים בניצחון האורחים 3:2). בהדרכת שפר, הופיעה נבחרת ישראל בטורניר הכדורגל של אולימפיאדת מקסיקו בשנת 1968. נבחרת ישראל הצליחה להעפיל לשלב רבע הגמר, שם התמודדה מול נבחרתה החזקה של בולגריה. המשחק לא הוכרע גם לאחר הארכה ובהטלת מטבע שנערכה זכתה בולגריה והעפילה לשלב חצי הגמר.
לאחר שגברה במוקדמות על נבחרות ניו זילנד ואוסטרליה הצליחה נבחרת ישראל להעפיל בפעם היחידה בתולדותיה לטורניר הגמר של גביע העולם בכדורגל, מונדיאל 1970 שנערך במקסיקו. אף על פי שנבחרת ישראל נשרה כבר בשלב הבתים ולא העפילה לרבע הגמר, נחשב הטורניר הצלחה מבחינתה לאחר שסיימה בתיקו עם שוודיה ועם איטליה, שסיימה את הטורניר במקום השני לאחר שנוצחה במשחק הגמר. משחקו האחרון עם הנבחרת בקדנציה הראשונה שלו כמאמנה היה המשחק מול איטליה בגביע העולם ב-1970 (המשחק נסתיים בתיקו 0:0). מספר חודשים לאחר הטורניר (באפריל 1971), הוא הוחלף על ידי המאמן אדמונד שמילוביץ'. ביוני 1977 נבחר שפר שנית לתפקיד מאמן הנבחרת הלאומית. הוא נכשל במשימתו העיקרית - העפלת הנבחרת לטורניר האולימפי במוסקבה 1980 וסיים את תפקידו כמאמן הלאומי. היו שהאשימו את שפר בכך שהקדיש זמן רב מדי לעסקיו הפרטיים. בסוף 1979 הוחלף שפר על ידי המאמן האנגלי ג'ק מנסל. בסך הכול הדריך את הנבחרת ב-24 משחקים בין-ארציים.
שפר היה ידוע בדרישתו הקפדנית למשמעת מחניכיו, דבר אשר הביא לא פעם להתמרמרות מצד השחקנים והיה אחת מהסיבות לסיום תפקידו כמאמן הנבחרת למרות ההישגים, שהיו חסרי תקדים בכדורגל הישראלי. כמו כן, הוא דרש משחקניו רמה גבוהה של כושר גופני. לשם כך מינה את סא"ל עמוס בר חמא, קצין הכושר הקרבי של צה"ל, כמאמן מיוחד לכושר גופני, דבר אשר היווה חידוש בכדורגל הישראלי באותה עת.
שפר היה הראשון בישראל שערך האימונים עם שעון עצר, מדידת יכולת ההתאוששות השחקנים וכוח מתפרץ.