Figlio del militare di carriera Herbert Norman Schwarzkopf Senior, il suo rapporto col Golfo Persico comincia molto presto. A 12 anni, nel 1946, si sposta infatti con la famiglia a Teheran, dove suo padre è coinvolto nell'Operazione Ajax e fa parte della gendarmeria dello scià Mohammad Reza Pahlavi. Dopo aver frequentato le scuole superiori a Teheran e successivamente a Ginevra, Schwarzkopf torna negli Stati Uniti e si iscrive all'accademia militare di Valley Forge, in Pennsylvania, per poi completare gli studi a West Point, dove si laurea nel 1956 in ingegneria meccanica.