Né le à Stiring-Wendel, Émile Grosshans commence à jouer au football avec ses deux frères aînés. Son père, boucher-charcutier meurt peu après la Seconde Guerre mondiale, et ses frères reprennent alors à leur compte le commerce familial. Émile Grosshans montre des prédispositions pour le sport : sélectionné avec l'équipe de Lorraine dans toutes les catégories d'âge, il joue avec l'équipe sénior du CS Stiring-Wendel dès ses quinze ans, et dispute à plusieurs reprises le championnat de France amateur. Remarqué par plusieurs clubs professionnels, il reçoit des propositions de l'Olympique lyonnais, du Racing Club de Lens et du FC Sochaux-Montbéliard. Néanmoins, pour échapper au service militaire et à la perspective de devoir servir en Algérie, il opte pour un travail de mineur de fond que lui propose le président du CS Stiring-Wendel, et qui réduit ses obligations militaires à quatre mois. En 1961, Stiring-Wendel devient vice-champion de France amateur, battu en finale par l'équipe réserve de l'AS Monaco, après avoir terminé en tête du groupe Est.