Postupně se členem Umělecké besedy a Levé fronty. Počínaje rokem 1948 stál v čele ateliéru ve Stavoprojektu. Před druhou světovou válkou, ve třicátých letech 20. století, spolupracoval Karlem Hannauerem a Josefem Kittrichem, po ní pak s Josefem Havlíčkem a Františkem Kerhartem. Ve své tvorbě preferoval funkcionalistický styl. Od padesátých let 20. století spolupracoval s Františkem Cubrem a Zdeňkem Pokorným. Spolu navrhli československý pavilon na Světové výstavě 1958 (EXPO) a podíleli se také na podobě expozic a exteriéru národního výstavního pavilonu na Světové výstavě 1967. Hrubý rovněž navrhl Dům módy v Praze na Václavském náměstí (1956) nebo sochařský ateliér manželů Janouškových.