Politisch schloss sich Velde der Republikanischen Partei an. Bei den Kongresswahlen des Jahres 1948 wurde er im 18. Wahlbezirk von Illinois in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 3. Januar 1949 die Nachfolge von Edward H. Jenison antrat. Nach drei Wiederwahlen konnte er bis zum 3. Januar 1957 vier Legislaturperioden im Kongress absolvieren. In diese Zeit fielen der Beginn des Kalten Krieges, der Koreakrieg und innenpolitisch der Anfang der Bürgerrechtsbewegung. Von 1953 bis 1955 leitete er das Komitee für unamerikanische Umtriebe.