Faits: A. Le 20 octobre 2010, X._ a déposé une demande en paiement contre Y._ SA devant le Tribunal d'arrondissement de Lausanne. Il a notamment conclu au paiement d'une indemnité pour licenciement abusif au sens de l'art. 336 CO. Le 27 octobre 2010, le Tribunal d'arrondissement a requis une avance de frais de 500 fr. à payer d'ici au 16 novembre 2010, précisant que "l'office ne procéderait à aucune opération avant que le paiement ait été effectué", référence étant faite aux art. 90 du Code de procédure civile vaudois du 14 décembre 1996 (CPC/VD) et 13 de l'ancien Tarif des frais judiciaires en matière civile du 4 décembre 1984 (aTFJC). Le demandeur a admis avoir omis de payer l'avance de frais dans le délai imparti. Par courrier du 29 décembre 2010, le Tribunal d'arrondissement a constaté que l'émolument de demande n'avait pas été avancé dans le délai fixé et qu'en l'état, le demandeur était déchu de son droit à la notification de cette écriture. Il précisait que, sous réserve de restitution par voie de réforme qui devrait être requise d'ici le 20 janvier 2011, il constaterait cette déchéance et ordonnerait que la cause soit rayée du rôle. L'avance de frais a été réglée par le demandeur le 13 janvier 2011. Il n'a toutefois déposé aucune requête de réforme dans le délai fixé au 20 janvier 2011. B. Par décision du 15 février 2011, le Président du Tribunal d'arrondissement de Lausanne a rayé du rôle sans frais la cause dirigée contre Y._ SA. Par arrêt du 19 mai 2011, la Cour d'appel civile du Tribunal cantonal vaudois a rejeté l'appel et confirmé le jugement de première instance. C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 19 mai 2011. Il conclut à son annulation, à ce qu'il soit constaté que l'avance de frais a été faite valablement et au renvoi de la cause à la Cour civile pour statuer sur les dépens, puis au Tribunal d'arrondissement pour que la procédure soit ouverte et suive son cours. En substance, le recourant fait grief à la cour précédente d'avoir violé les principes de la bonne foi et de la proportionnalité, ainsi que les interdictions de formalisme excessif et d'arbitraire. L'intimée se borne à souligner que le recourant n'expose pas en quoi l'application par les tribunaux vaudois des règles de procédure cantonales serait contraire à la Constitution fédérale.