Durante sus primeras décadas en la música formó el grupo "Gladys Knight & The Pips" junto a su hermano Merald Knight y dos de sus primos.