毕业后便从事养猪、卖茶叶蛋等工作养家。国共内战时，父母追随国民党逃到台湾，他留在中国大陆，与祖母相伴。由于他堂伯宣铁吾是蒋介石亲信，曾任国民党京沪杭警备总部副总司令，所以宣建生被打为黑五类身份。小学毕业，因为黑五类身份，被下放贵州。因生病求医，辗转由香港回到台湾与父母相聚，进入国立台湾师范大学附属高级中学，后考入台湾国立成功大学电机工程学系。毕业后，留学美国。1971年，获得波士顿大学系统工程硕士学位，1974年，获得布鲁克林理工学院系统工程及工业管理博士。1975年，进入美国通用电气研发部工业管理部门