Faits: A. Par demande unilatérale du 8 septembre 2008, dame A._ a ouvert action en divorce contre A._ devant le Tribunal de l'arrondissement de Lausanne. Un exemplaire de la demande a été notifié à l'époux le 10 septembre 2008 avec un délai pour se déterminer sur le principe du divorce et déposer une réponse. L'époux a, par lettres des 9 octobre et 10 novembre 2008, requis des prolongations de délai qui lui ont été accordées, mais n'a pas procédé. L'assignation de celui-ci à l'audience préliminaire et de conciliation est revenue en retour au greffe du Tribunal avec la mention "destinataire introuvable". L'épouse ignorant la nouvelle adresse du mari, l'audience a été renvoyée sans réappointement et une ordonnance sur preuves a été rendue le 23 février 2009. Bien que cité à comparaître par voie édictale, l'époux n'a comparu à aucune des audiences ultérieures. Par jugement du 21 janvier 2011, le Tribunal d'arrondissement a prononcé le divorce des époux A._. Cette décision a été notifiée le même jour à l'épouse sous pli recommandé. En l'absence de domicile connu du mari, le jugement lui a été notifié par publication officielle dans la Feuille des avis officiels (ci-après: FAO) du 28 janvier 2011. B. Le 17 février 2011, l'époux s'est présenté au greffe du Tribunal d'arrondissement, où une copie du jugement lui a été remise contre déclaration de réception. B.a Le 9 mars 2011, l'époux a déposé une requête de relief tendant à l'annulation du jugement de divorce du 21 janvier 2011, payant le même jour, par virement postal, les frais frustraires. L'épouse a contesté le droit au relief et a conclu au rejet de la requête. B.b Après avoir entendu les parties à une audience incidente le 21 septembre 2011, le Président du Tribunal d'arrondissement a, par jugement incident du 19 octobre 2011, rejeté la requête de relief du 9 mars 2011 et confirmé le jugement rendu le 21 janvier 2011. B.c Statuant par arrêt du 14 février 2012, la Cour d'appel civile du Tribunal cantonal du canton de Vaud (ci-après: la Cour d'appel) a rejeté l'appel de l'époux et confirmé le jugement de première instance. C. Par acte du 7 mai 2012, l'époux interjette un "recours" au Tribunal fédéral. Il conclut à l'annulation de l'arrêt entrepris et au renvoi de la cause "à l'autorité inférieure pour nouvelle décision dans le sens des considérants". A titre préalable, il sollicite le bénéfice de l'assistance judiciaire. Des réponses n'ont pas été requises.