于书香门第，父亲曾在蔡锷幕府任过私人秘书。但由于父亲早逝，李伯蛟早年并未受过正规教育，从军后自湖南军官讲习所毕业。1916年，湘军独立混成旅旅长刘重威奉命驻扎邵阳，身处邵阳的李伯蛟加入该旅，后逐步被提升为班、排、连长等职。1926年3月，湘军第四师师长唐生智吞并刘重威旅，李伯蛟改投湘军第三师师长叶开鑫部。1929年，叶开鑫离开湖南，何键入湘主政，领有四个师：十九师、三十四师、六十二师、六十三师，李伯蛟任六十三师营长以及团长。1937年，李伯蛟任国民革命军陆军第28军63师187旅旅长。1937年7月下旬，第