John Howard era hijo de sir Robert Howard (1385-1436) y lady Margaret de Mowbray (1388-1459), hija mayor de Thomas de Mowbray, I duque de Norfolk (1366-1399), (en la primera creación del ducado) y lady Elizabeth FitzAlan (1366-1425). Sus abuelos paternos fueron John Howard de Wiggenhall, Norfolk y Alice Tendring. Se le conocía como "Jack (o "Jock", de ahí "Jockey") de Norfolk", y fue descrito como "un hombre de estatura media, con unas facciones fuertes y cuadradas". Los Howard eran leales seguidores de la Casa de York durante la Guerra de las Dos Rosas, y John Howard, respaldado por sus poderosas relaciones con los Mowbray, abrazó la causa de la Casa de York en Norfolk. Tras demostrar su valor durante la Batalla de Towton, se ganó la admiración de Eduardo IV de Inglaterra, que lo nombró condestable del Castillo de Norwich, sheriff de Norfolk y Suffolk, y tesorero de la Casa Real. Fue enviado al Parlamento como lord Howard el 15 de octubre de 1470. Fue designado "lord gran senescal" y caminó delante del rey Ricardo III, portando su corona durante su coronación. Su hijo mayor, Thomas, conde de Surrey, portó la espada del Estado.