Ervi fullførte sine arkitekturstudier ved Tekniska högskolan i Helsingfors i 1935. Han arbeidet en tid sammen med Alvar Aalto og Toivo Paatela før han startet sitt eget arkitektkontor i 1938. Sine mest framstående arbeider gjorde Ervi under gjenreisningen på 1940-taltet og senere på 1950-tallet da bygningsindustrien ekspanderte. Ervi var en av de første til å ta bruk betongelementer, hvilket han gjorde i 1949 da han tegnet Helsingfors universitets Porthania-bygning.