Mens alle våtdamplokene var utrangert innen 1955, ble den første overhetermaskinen utrangert i 1956. "Vekk med dampen"-programmet hadde startet, og dermed begynte en generell erstatning av damplok med diesellok, skiftetraktorer og elektriske lok når hele banestrekninger ble elektrifisert. Bestanden av 21-lok gikk dermed gradvis nedover, men til tross for at dette var små og lette maskiner, eller kanskje nettopp derfor, så gikk tallet 21-lok ganske langsomt nedover. For ennå var det mange sidebaner som ikke tålte tunge lokomotiver, og 21-maskinene var utmerkede for den ofte lille trafikken disse banene hadde. Den siste banen 21-lokene hadde fast tjeneste, var nettopp Numedalsbanen. Det ukentlige godstoget gikk med 21-lok helt til mai 1970, og den såkalte Svene-pukken brukte normalt 21-lok helt til høsten 1970. Disse togene var de siste regelmessig damptrukne tog ved NSB. Type 21 kom dermed til å være den siste damploktypen NSB brukte til ordinær togkjøring. Lettvekter'n bygget for Vossebanens ombygging i 1904 kom til å overleve alle de store tunge damploktypene som kom 10-20 år senere. I 1969 var det fortsatt syv 21-lok på NSBs damplokliste.