John Haskell King naît à Sackets Harbor, New York, le . Dans son adolescence, il déménage chez son parent, le colonel Hugh Brady au Michigan, où ce dernier commande le fort Wayne. Étant élevé dans une maison militaire, son père étant officier de la milice et vétéran de la guerre de 1812, John âgé de cherche une nomination militaire ; et, au moment de l'expansion de l'armée en raison des conflits séminoles et les déplacements des Amérindiens, il est directement nommé second lieutenant dans la compagnie I du 1st U.S. Infantry le . Promu premier lieutenant le , il sert lors de la seconde guerre séminole de 1839 à 1840. Prenant part à la guerre américano-mexicaine, il est promu capitaine le , et participe au siège de Vera Cruz en . Le capitaine King continue de servir sur la frontière dans divers postes et gagne le surnom de « Iron Bull » avec une réputation d'officier travaillant durement et compétent.