Lübke kom fra trange kår i Westfalen. Han var sønn av en skomaker og bonde fra Sauerland, og ble utdannet landmåler. Han meldte seg til det militære og deltok i første verdenskrig som soldat, og avanserte til løytnants grad. Han ble tildelt Jernkorset i begge klasser.