Markelius war schon früh an Gebäude- und Raumplanung interessiert und gehörte 1928 zu den Gründungsmitgliedern des internationalen Kongresses moderner Architektur (Congrès International d’Architecture Moderne). 1927 traf er auf einer Deutschlandreise Walter Gropius und besichtigte die Bauhausschule in Dessau. Gropius' funktionalistische Ideen beeindruckten Markelius. 1930 war er maßgeblich an der Wohnabteilung auf der Stockholmer Ausstellung 1930 beteiligt, die allgemein als Beginn des schwedischen Funktionalismus angesehen wird. 1931 verfasste er die Schrift "Acceptera", zusammen mit u. a. Gunnar Asplund, Gregor Paulsson und Uno Åhrén, ein Manifest für den Funktionalismus in Schweden. Gleichzeitig arbeitete er an seinem ersten großen Werk, der Konzerthalle von Helsingborg, die 1932 eingeweiht wurde.