张天虚出生于呈贡龙街（今昆明市呈贡区龙城街道龙街社区），1928年考入云南省立第一中学（今昆明一中），在校期间接受民主革命思想，加入中国共产主义青年团，与省立第一师范的聂耳相识，结成好友。1928年，张天虚考入东陆大学（今云南大学），与聂耳等一同加入中国共产党外围组织“互济会”。1930年，云南中共地下党组织遭到严重破坏，张天虚离开云南来到上海，之后创作了小说《铁轮》，并经何家槐介绍，加入中国左翼作家联盟。1933年，流亡日本。1935年，聂耳于日本藤泽罹难，张天虚与郑子平负责料理后事，次年护送聂耳骨灰回国