41-åringen har varit arbetslös sedan han lämnade Alloa i mars.
Chris Barker, som har varit ansvarig sedan Andy Scott avskedades i januari, kommer att förbli hos Shots som spelare-assistant manager.
"Barry är ambitiös och har stor erfarenhet av att utveckla unga spelare," sade ordförande Shahid Azeem.
Smith började sin spelkarriär på Celtic och tillbringade sedan 11 år på Dundee, som var kapten på sidan mellan 1997 och 2006.
Mediauppspelning stöds inte på den här enheten
Han återvände till Dens Park som chef 2010 och tillbringade nästan två och ett halvt år i ledningen innan han skildes åt med klubben i februari 2013.
Han utsågs till Alloa manager i januari 2014 men avgick förra månaden, med Wasps botten av skotska mästerskapet efter en körning av en seger i 13 liga matcher.
"Jag ser Aldershot som en stor klubb med samma ambitioner som mig själv. Det kändes en idealisk passform, sa han.
"Vi vill bygga en ny trupp och vi måste bygga långsamt. I slutändan vill vi ta klubben tillbaka till Football League."
Centre-back Barker, 35, vann fem av sina 15 matcher som ansvarar för Hampshire sidan och ledde Shots till en 18: e-placerad finish i bordet.
Aldershot Town har utsett före detta Dundee och Alloa Athletic boss Barry Smith till ny chef på ett ettårigt rullande kontrakt.