Mediauppspelning stöds inte på den här enheten
Smith hävdar att det fanns "ingen anledning" för Rangers att behöva åter in i ligan i den lägsta nivån.
"Det kommer att vara en massiv motivation för Rangers. Det skulle säkert vara en motivation för mig", sade Smith.
Han tror också att Ibrox styrelsen "måste hitta ett sätt" att back manager Mark Warburton att konkurrera i toppflyget.
Med klubben fastnade i skulder, Rangers trädde in administration och sedan likvidation under 2012 och var tvungen att åter in i den skotska fotbollspyramiden i den fjärde nivån.
Smith känner söndagens skotska Cup semifinal mot Celtic kommer inte att vara en korrekt mätare av hur Rangers kommer att klara nästa säsong och accepterar Celtic är "det gynnade laget".
Men den tidigare Rangers chefen tror Warburton män går i slipsen i en "mycket mer optimistisk inställning än förra säsongen" när Celtic var bekväma vinnare i League Cup semifinal.
"För fyra år sedan var klubben på sin lägsta nivå någonsin", sade Smith. "Vi var nästan starta en säsong, eller var fem dagar från att starta en säsong med bara fem spelare, ingen Rangers manager har någonsin varit i denna omständighet innan.
"Och ingen Rangers manager har någonsin varit i den omständighet att han [Smiths efterträdare Ally McCoist] var i för de kommande tre åren.
"Jag tror att det [ill känsla mot Rangers] alltid kommer att vara där.
"Det fanns ingen nödvändighet för Rangers att sättas ner i den tredje divisionen och jag tror att det är det som alltid kommer att stanna i skotsk fotboll.
"Jag tror att det blir en bitterhet i Rangers leden att det har hänt.
"Det är ingen tvekan om att det var fel drag i mina ögon. Skotsk fotboll har varit värre och en hel del av de lag som var glada att se Rangers gå ner har lidit och befunnit sig delegerade eller i processen att delegeras.
"Så det kommer att bli bitterhet. Hur kan de glömma vad som hände med dem där? Du kan inte glömma det."
När det gäller möjligheten att erbjuda en titelutmaning i toppflygningen sade Smith: "Keltiskt utseende som om de skulle få fem i rad; det är en stor sak.
"Det är dem närmare att komma till nio eller tio i rad. Så, Rangers måste visa en reaktion. "
Före detta Rangers manager Walter Smith tror att en känsla av bitterhet om hur klubben behandlades återstår när de rustar upp för Premiership fotboll.