Nacido en Mantua, era el tercer hijo de los marqueses de Mantua Francesco II Gonzaga e Isabel de Este. A la edad de dieciséis años fue enviado a la corte de España del emperador Carlos V, a quien se mantuvo fiel durante toda su vida. En 1527 tomó parte en el saqueo de Roma y asistió a la coronación triunfal de Carlos en Bolonia en 1530. A la muerte del condestable Carlos de Borbón (1527) fue nombrado comandante en jefe del ejército imperial en Italia.