Harrys musikkarrière begynte som korist i folkrock-gruppen som ga ut et album i 1968 på Capitol Records., deretter ble hun med i jentegruppen tidlig i 1970-årene. Blant denne gruppens støttemusikere var hennes kommende kjæreste og gitarist i Blondie, Chris Stein. De dannet Blondie i midten av 1970-årene og ga gruppen navn etter de seksuelt betonte tilropene Harry kunne oppleve å få fra menn når hun hadde bleket håret, blant annet fra lastebilsjåfører, som ropte «Hey, Blondie!» til henne når de passerte henne på veien. Blondie fikk etter hvert faste opptredener på anerkjente klubber og musikksteder i New York. Etter at det første albumet kom ut i 1976 hadde de stor kommersiell suksess, særlig fram til de første årene i 1980-årene, først i Australia og i Europa, noe senere i USA.