Han var sønn av skipsreder, kjøpmann og skipsbygger Mads Henrik Tybring Smith og hans danske hustru Henriette Brahde, og ble født som nummer tre i søskenflokken på syv. Han reiste til sjøs som fjortenåring på en av hans fars seilskuter. Han ble styrmann allerede som 17-åring på briggen «Tvedestrand». Da han var 21 fikk han skipperborgerskap, og ble kaptein på briggen «Den syttende mai», senere på barken «Oxefia», hvor han reiste til blant annet USA, Panama, Rio de Janeiro, Amsterdam og England. I 1852 ga han opp sjømannslivet, og byttet ut hans gamle borgerbrev med et handelsborgerbrev i Arendal året etter. Han ble kompanjong med sin svigerfar, og etter at svigerforeldrene døde, ble selskapet delt mellom ham og svogeren Jens T. Thommesen, som sammen utvidet selskapet. Smith ble etter hvert seniorsjef i Handelshuset Thommesen - Smith, og var i en periode Arendals rikeste mann. 21. januar 1885 ble han ridder av St. Olavs Orden for almennyttig virksomhet.