帝要求仔细评阅「遗卷」，因此补中第十八名举人。此后力图进士，参加会试，三次不中，从此不再参加科举考试。时清朝政治腐败，经济凋敝。他目睹时艰，在其居室为联自励云：“身无半亩，心忧天下；读破万卷，神交古人。”左宗棠在醴陵渌江书院主讲，1837年，两江总督陶澍回乡省亲，他书写了一副对联“春殿语从容，廿载家山印心石在；大江流日夜，八州子弟翘首公归”，陶澍看后，将他视为奇才。后入陶澍幕府，并与陶结为亲家。1851年起先后入湖南巡抚张亮基、骆秉章幕府，为平定太平军筹划，张亮基三顾茅庐，但左宗棠不愿为其幕客，胡林