Bandet ble startet i 1928 av Boye Asbjørn Killingberg. De første årene var bandet en kvartett med fire violiner. Etterhvert byttet Asbjørn ut violinen med trekkspill og det kom senere med både gitar, vokalist, bassist og trommeslager. Bandet spilte i radioen i 1930-årene med en selvskrevet låt kalt «Solrenning». Denne låten ble laget ombord på båten fra Leksvik til Trondheim samme dag som radiospillingen fant sted. Under krigen var det forbudt å ha offentlige arrangementer, så derfor ble det heller få spillejobber. Killingbergs spilte derimot på festen i Leksvik på frigjøringsdagen 8. mai 1945. Utover på 50- og 1960-årene begynte barna til Asbjørn å spille i bandet. Sylvi Killingberg og Aud Mary Killingberg sang, mens Sven Killingberg spilte gitar og bass. Dagens trekkspiller Arnstein begynte i 1965 og har holdt det gående uten stopp siden den gang. Utover 70- og 1980-årene utvidet bandet sine jobboppdrag til Sverige. Men mesteparten av spillingene foregikk fortsatt i Trøndelag. Utover 80-årene ble flere av Asbjørns barnebarn med, og bandet var på den tiden et rent familieband. I 1990-årene dro Killingbergs ut på en rekke USA-turneer i regi av Sons of Norway. Hovedsakelig i Midtvesten, men senere også i Canada. Ida Christina Killingberg ble nordamerikansk mester på torader i sin klasse i Kimberley, Canada i 1995. Dagens gitarist Alexander Killingberg fikk Fosenprisen innen kultur i 2006 for sin gitarspilling. Gjennom de vel 95 årene Killingbergs har eksistert har over 100 personer spilt i bandet.