1906年，吴伯箫出生在今山东省莱芜市吴花园村一半耕半读的富裕家庭。1919年，14岁的吴考入省立曲阜师范学校（今曲阜师范大学）读书学习，后任学生会干事，参加五四运动并深受其影响。1924年，在曲阜孔家府馆作家教，教孔德成英语。1925年，考入北京师范大学学习。1931年，大学毕业后担任青岛大学校长办公室事务员，结识闻一多、洪琛、老舍、王统照、孟超等朋友。1935年，任济南乡村师范学校教务主任兼国文教员，与他人联合创办《避暑录话》。1936年，任莱阳乡村师范学校校长。1938年4月，来到延安，