Høie etablerte egen praksis i Kristiania i 1894 og tegnet mange leiegårder under byggeboomen på 1890-tallet, ikke minst på østkanten. De er gjerne holdt i tidens nyrenessanse/nybarokk med blanding av pussede og upussede flater. Noen gårder har et drag av jugendstil. Nærmere århundreskiftet tegnet Høie også noe mer luksuriøse leiegårder på vestkanten.