En raison de l'activité professionnelle de son père, directeur des chemins de fer à Troppau, Klaudy passe ses années de lycée dans cette ville. Afin de permettre au fils d'étudier, la famille déménage à Vienne en 1924. Kurt Klaudy étudie entre 1924 et 1928 à l'université technique de Vienne, où Siegfried Theiss, Max Ferstel, Rudolf Salinger et Karl Mayreder sont ses professeurs. Pendant ses études, il fait un stage dans le bureau de Robert Oerley. À la recherche d'un premier emploi, Klaudy écrit à un certain nombre d'architectes bien connus (Adolf Loos, Frank L. Wright, Le Corbusier, etc.). Il travaille pendant une courte période dans le bureau d'Adolf Loos ; Loos est déjà gravement malade à l'époque, Klaudy ne l'a jamais connu et n'a pas d'ordre. Il étudie aussi l'histoire de l'art avec Josef Strzygowski à l'université de Vienne entre 1924 et 1929. Après avoir son doctorat en 1929 avec une thèse sur l'urbanisme au Moyen Âge, il ouvre son bureau en 1930. Il réalise sa première mission, une villa pour trois familles, en 1930 à Vienne-Hernals, Braungasse 38 ; elle est présentée à l'Exposition universelle de 1935. En 1934, Klaudy conclut une association architecturale avec Georg Lippert qui dure jusqu'en 1945. En 1936, il acquiert le droit de devenir ingénieur civil, mais exerce entre 1939 et 1951. En 1952, il est de nouveau certifié en tant qu'ingénieur civil.