L'année suivante, Frankie enregistre deux autres 78 tours, une fois de plus financés par ses soins. En 1940, Frankie épouse sa première femme June. Yankovic s’enrôle dans les Forces armées de 1943 à , et fait quelques enregistrements pendant son congé juste avant son départ pour l'Europe. Il a combattu dans la Bataille des Ardennes, où de sévères gelures ont failli lui valoir l'amputation de ses mains et de ses pieds; heureusement, il fut capable de battre la gangrène et reçu par la suite le Purple Heart. Bien que les docteurs lui aient conseillé de faire amputer ses doigts, il refusa, car cela signifiait pour lui qu'il ne serait plus capable de jouer de l'accordéon. après l'armée Frankie forme à nouveau son quatuor avec Hokavar à la basse, Naglitch au piano, et Georgie Cook sur le banjo.