Ses grands-parents étaient des brasseurs originaires de la région de Verviers (Belgique) et son père devint libraire à Osnabrück. Walter Warlimont termine la Première Guerre mondiale au grade de "Oberleutnant". Au début de la guerre civile espagnole en 1936, l’"Oberst" Warlimont est conseiller militaire du général Franco. En 1937, il devient commandant du d'artillerie à Düsseldorf. , il est associé aux préparatifs concernant les futures opérations de la Seconde Guerre mondiale. Il est nommé "Generalmajor" en 1940 et chef adjoint des opérations de l’"Oberkommando der Wehrmacht" sous les ordres de Jodl. , il est nommé "Generalleutnant" et en , "General der Artillerie". Il est blessé lors de l’attentat contre Hitler du à la Wolfsschanze. Le soir même, il appelle le "Generalfeldmarschall" von Kluge pour lui annoncer que le "Führer" est vivant. Hitler qui se méfie désormais de la hiérarchie en poste sur le front de l'Ouest fait de Warlimont son messager, même s'il est un temps supposé avoir pris part au complot. Ainsi le , il se déplace au chevet de Rommel, hospitalisé après une attaque aérienne sur son véhicule en Normandie puis, début , il se rend auprès de Kluge pour lui dire à quel point Hitler compte sur l’opération Luttich (la contre-attaque de Mortain) et il se rend encore dans la poche de Falaise pour exhorter Eberbach à continuer ses contre-attaques.