Sachverhalt:
A. Am 20. Oktober 2009 kündigte die B._ (Beschwerdegegnerin) das zwischen ihr als Vermieterin und A._ (Beschwerdeführer) als Mieter bestehende Mietverhältnis über eine 1-Zimmer-Wohnung und einen Zusatzkeller an der Kantonsstrasse in X._ wegen sorgfaltswidrigen Gebrauchs der Mietsache gestützt auf Art. 257f Abs. 3 bzw. Abs. 4 OR per 30. November 2009.
Dagegen gelangte der Beschwerdeführer an die kantonale Schlichtungsbehörde für Miete und Pacht, welche die Kündigung mit Entscheid vom 4. Dezember 2009 für wirksam erklärte und eine Erstreckung des Mietverhältnisses ausschloss.
Den Entscheid der Schlichtungsbehörde zog der Beschwerdeführer mit Klage vom 22. Dezember 2009 an das Amtsgericht Luzern-Land weiter, das diese mit Urteil vom 17. Mai 2010 abwies und die Kündigung per 30. November 2009 für wirksam erklärte.
B. Gegen das Urteil des Amtsgerichts erhob der Beschwerdeführer am 27. Mai 2010 Appellation beim Obergericht des Kantons Luzern.
Mit Gesuch vom 1. Juli 2010 beantragte die Beschwerdegegnerin die Sicherstellung ihrer Parteikosten. Mit Entscheid vom 19. Juli 2010 hiess das Obergericht das Sicherstellungsgesuch gut und verpflichtete den Beschwerdeführer dazu, der Beschwerdegegnerin innert 14 Tagen seit Zustellung des Entscheids die erstinstanzlichen Parteikosten sowie die voraussichtlichen Parteikosten vor zweiter Instanz im Betrag von insgesamt Fr. 8'256.15 sicherzustellen, andernfalls auf die Appellation nicht eingetreten und das Verfahren durch Erledigungsentscheid beendet werde.
Mit Entscheid vom 2. September 2010 trat das Obergericht auf die Appellation mangels fristgerechter Zahlung der Sicherheitsleistung nicht ein.
C. Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, es sei der Entscheid des Obergerichts aufzuheben und die Sache zur Fortführung des Appellationsverfahrens an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin und die Vorinstanz schliessen in ihren Vernehmlassungen auf Abweisung der Beschwerde, soweit darauf einzutreten ist.
D. Mit Verfügung vom 1. November 2010 wurde das Gesuch der Beschwerdegegnerin um Sicherstellung der Parteikosten gutgeheissen, worauf der Beschwerdeführer bei der Bundesgerichtskasse einen Betrag von Fr. 2'500.-- hinterlegte.
Mit Verfügung vom 8. November 2010 wurde das Gesuch des Beschwerdeführers um aufschiebende Wirkung gutgeheissen.
Erwägungen:
1. Die Beschwerde richtet sich gegen einen verfahrensabschliessenden Entscheid einer letzten kantonalen Instanz (Art. 75 Abs. 1 i.V.m. Art. 90 BGG) in einer Zivilsache (Art. 72 Abs. 1 BGG), die Rechtsbegehren des Beschwerdeführers sind im kantonalen Verfahren nicht geschützt worden (Art. 76 Abs. 1 BGG), der massgebende Streitwert beträgt mehr als Fr. 15'000.-- (Art. 51 i.V.m. Art. 74 Abs. 1 lit. a BGG) und die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 BGG). Unter Vorbehalt der rechtsgenüglichen Begründung (Art. 42 Abs. 2 i.V.m. Art. 106 Abs. 2 BGG) ist auf die Beschwerde in Zivilsachen einzutreten.
2. Mit der Beschwerde in Zivilsachen kann die Verletzung von Bundesrecht (einschliesslich Bundesverfassungsrecht) gerügt werden (Art. 95 lit. a BGG; BGE 134 III 379 E. 1.2). Nicht zu den in Art. 95 BGG vorgesehenen Rügegründen gehört hingegen die Verletzung von kantonalem Zivilprozessrecht, dessen Anwendung und Auslegung vom Bundesgericht einzig unter dem Blickwinkel eines Verstosses gegen Bundesrecht bzw. gegen Bundesverfassungsrecht beurteilt werden kann (BGE 136 I 241 E. 2.4; 135 III 513 E. 4.3 S. 521; 134 III 379 E. 1.2 S. 382 f.).
Dabei wird die Verletzung von verfassungsmässigen Rechten vom Bundesgericht freilich nur insofern geprüft, als entsprechende Rügen in der Beschwerde präzise vorgebracht und begründet worden sind (Art. 106 Abs. 2 BGG; BGE 136 I 65 E. 1.3.1; 134 II 244 E. 2.2). Der Beschwerdeführer muss angeben, welches verfassungsmässige Recht verletzt wurde, und substanziiert darlegen, worin die Verletzung besteht (BGE 134 V 138 E. 2.1 S. 143; 133 III 439 E. 3.2 S. 444 mit Hinweis). Soweit die Beschwerdeschrift diesen Begründungsanforderungen nicht genügt, ist darauf nicht einzutreten (BGE 136 I 65 E. 1.3.1).
3. Der Beschwerdeführer wirft der Vorinstanz vor, diese habe mit ihrem Nichteintretensentscheid gegen das Willkürverbot sowie den Grundsatz von Treu und Glauben verstossen und seinen Anspruch auf ein faires und gerechtes Verfahren verletzt.
3.1 Im Entscheid vom 19. Juli 2010, der vom Beschwerdeführer am 27. Juli 2010 in Empfang genommen wurde, setzte die Vorinstanz dem Beschwerdeführer eine Frist von 14 Tagen zur Bezahlung einer Sicherheitsleistung von Fr. 8'256.15.
Im vorliegend angefochtenen Nichteintretensentscheid vom 2. September 2010 führte die Vorinstanz unter Hinweis auf den Kommentar von STUDER/RÜEGG/EIHOLZER, Der Luzerner Zivilprozess, 1994, N. 1 zu § 128, aus, dass es sich beim Kostensicherungsverfahren um ein summarisches Verfahren handle. Dafür würden gemäss § 86 lit. b i.V.m. § 84 lit. a der Zivilprozessordnung des Kantons Luzern (ZPO/LU; SRL 260a) die Gerichtsferien vom 15. Juli bis 31. August nicht gelten, womit die Sicherheitsleistung im vorliegenden Fall bis am 10. August 2010 zu erbringen gewesen wäre. Da dies nicht geschehen sei, könne androhungsgemäss auf die Appellation nicht eingetreten werden.
3.2 Der Beschwerdeführer macht demgegenüber geltend, er habe am 10. September 2010 einen Betrag von Fr. 8'256.15 auf das Konto der kantonalen Gerichtskasse einbezahlt, womit die ihm eingeräumte Frist zur Zahlung der Sicherheitsleistung unter Berücksichtigung der vom 15. Juli bis 31. August währenden Gerichtsferien eingehalten worden sei. Die Qualifikation des Kostensicherungsverfahrens als summarisches Verfahren und die Nichtberücksichtigung der Gerichtsferien durch die Vorinstanz rügt der Beschwerdeführer als willkürlich.
3.2.1 Nach der ständigen Praxis des Bundesgerichts liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 134 II 124 E. 4.1 S. 133 mit Hinweisen).
3.2.2 Der Beschwerdeführer ist der Auffassung, dass die Anordnung einer Sicherheitsleistung aufgrund der Systematik der Luzerner Zivilprozessordnung nicht unter das summarische Verfahren subsumiert werden könne. Die Luzerner ZPO unterscheide im Teil VIII vier Verfahrensarten, nämlich das Vermittlungsverfahren, den ordentlichen Prozess, den einfachen Prozess und das summarische Verfahren. Das Kostensicherungsverfahren gemäss § 125 ZPO/LU sei im Teil V "Allgemeines Verfahrensrecht", unter dem Untertitel Ziff. 8 "Prozesskosten" eingeordnet. Zum "Allgemeinen Verfahrensrecht" gehörten gemäss Ziff. 5 auch die Bestimmungen über die Fristen, Gerichtsferien und Säumnis. Dabei regle § 86 ZPO/LU abschliessend die Ausnahmen von den Gerichtsferien. Diese beträfen nur das Vermittlungsverfahren, das summarische Verfahren und anschliessende Rechtsmittelverfahren sowie dringliche Fälle, für welche der Richter die Aufhebung der Ferienbestimmungen ausdrücklich verfüge. Der vorliegende Mietrechtsprozess falle aber nicht unter das summarische, sondern unter das ordentliche Verfahren. Zudem würden die Sicherheitsleistungen im Teil über das "Allgemeine Verfahrensrecht" systematisch gemeinsam mit den Vorschüssen geregelt (Ziff. 8 "Prozesskosten", lit. c "Vorschüsse und Sicherheitsleistungen"); dabei sei unbestrittene Praxis, dass für die Fristen zur Zahlung der Vorschüsse die Gerichtsferien gelten würden. Es sei daher "rechts- und systemwidrig", wenn dies nicht auch für die Fristen zur Zahlung der Sicherheitsleistung gelten sollte. Vor diesem Hintergrund erweise sich die Meinung von STUDER/RÜEGG/EIHOLZER, a.a.O., N. 1 zu § 128 ZPO, wonach die Bestimmungen des Summariums auf das Kostensicherungsverfahren ergänzend anzuwenden seien, als willkürlich.
Zudem sei die Begründung des Kommentators, wonach die Zuständigkeit, der Zweck, die Rechtsmittelregelung und die relative Dringlichkeit des Kostensicherungsverfahrens die ergänzende Anwendung des summarischen Verfahrens nahe legen sollen, nicht zutreffend. Gemäss § 128 ZPO liege die Zuständigkeit zum Entscheid über die Sicherheitsleistung wie für andere prozessleitende Verfügungen beim Instruktionsrichter. Aus dem Zweck des Verfahrens oder gar aus dem bezüglichen Rechtsmittel liessen sich nach Auffassung des Beschwerdeführers keine Gründe ableiten, welche die Nichtanwendung der Gerichtsferien praeter legem rechtfertigen könnten. Zudem habe der Kommentator keinen Grund angeführt, weshalb dieses Verfahren eine "relative Dringlichkeit" aufweise.
3.2.3 Die Vorinstanz verweist in der Vernehmlassung auf ihre im Jahr 1996 begründete Rechtsprechung, wonach das Kostensicherungsverfahren gemäss § 118 ZPO/LU inhaltlich und formell selbständig sei (LGVE 1996 I Nr. 24). Darauf könne nur das summarische Verfahren zur Anwendung gelangen, was sich aus der Zuständigkeit, dem Zweck, der Rechtsmittelregelung und der relativen Dringlichkeit des Entscheids über die Kostensicherung ergebe (unter Hinweis auf die bereits genannte Textstelle bei Studer/Rüegg/Eiholzer, a.a.O. sowie auf Kurt Boesch, Zivilprozessrecht des Kantons Luzern [Übersichten], 2007, S. 62, wo das Kostensicherungsverfahren als selbständiges Verfahren mit endgültigem Kostenspruch beschrieben wird, sowie S. 84, wo auf die sinngemässe Anwendbarkeit des summarischen Verfahrens hingewiesen wird).
Auch die Beschwerdegegnerin verweist in ihrer Vernehmlassung darauf, dass der Entscheid über die Sicherheitsleistung in einem separaten Zweiparteienverfahren erfolge und nicht als prozessleitende Verfügung ergehe. Wie alle anderen Verfahren auf Erlass eines Entscheids durch den Instruktionsrichter, (unentgeltliche Rechtspflege, vorsorgliche Massnahmen) erfolge das Kostensicherungsverfahren im summarischen Verfahren. Dies gelte umso mehr, als auch eine Sicherheitsleistung als vorsorgliche Massnahme zu qualifizieren sei und Gesuche um Erlass vorsorglicher Massnahmen gemäss § 227 ZPO/LU immer im summarischen Verfahren behandelt würden. Es bestehe denn auch eine relative Dringlichkeit, da der Hauptprozess durch das Kostensicherungsverfahren nicht unnötig lange verzögert werden dürfe.
3.2.4 Gemäss der im Jahr 1996 begründeten Praxis des Obergerichts des Kantons Luzern ist das Kostensicherungsverfahren ein inhaltlich und formell selbständiges Verfahren, das keinen inneren materiellen Zusammenhang mit dem Hauptverfahren aufweist (LGVE 1996 I Nr. 24). Darauf sind gemäss der Vorinstanz die Regeln über das summarische Verfahren zugeschnitten. Dies wird durch das Argument der Beschwerdegegnerin gestützt, wonach Sicherheitsleistungen als vorsorgliche Massnahmen zu qualifizieren seien (so in der Literatur etwa auch BERNHARD BERGER, Gedanken zur Kautionspflicht im Zivilprozess, ZBJV 2004, S. 277 ff., 280), für welche § 227 ZPO/LU ausdrücklich auf das summarische Verfahren verweist. Die vorinstanzliche Auslegung entspricht zudem den Lehrmeinungen zum Luzerner Zivilprozessrecht (STUDER/RÜEGG/EIHOLZER, a.a.O. und KURT BOESCH, a.a.O.), die für das Kostensicherungsverfahren die ergänzende Anwendung der Bestimmungen über das summarische Verfahren vorschlagen. Diese Gesichtspunkte reichen aus, um die vorinstanzliche Auslegung als vertretbar und damit nicht als willkürlich erscheinen zu lassen, zumal der Beschwerdeführer keinerlei Nachweise erbringt, dass die angeführten Lehrmeinungen zum Luzerner Zivilprozessrecht in der Literatur auf Kritik gestossen wären. Die von ihm vorgetragene, im Wesentlichen auf gesetzessystematischen Überlegungen beruhende Auslegung mag zwar ihrerseits plausibel und vertretbar sein; dies genügt aber nicht, um die vorinstanzliche Auslegung als geradezu unhaltbar auszuweisen.
3.3 Der Beschwerdeführer beanstandet weiter, die Vorinstanz habe auch den Grundsatz von Treu und Glauben sowie den aus Art. 29 BV und Art. 6 EMRK abgeleiteten Anspruch auf ein faires und gerechtes Verfahren verletzt, indem sie ihn nicht auf ihre "rechtswidrige Praxis" hingewiesen habe, wonach auf das Kostensicherungsverfahren die Bestimmungen des summarischen Verfahrens Anwendung finden. Denn selbst wenn er von den einschlägigen Kommentarstellen Kenntnis gehabt hätte, habe der Beschwerdeführer nicht davon ausgehen müssen, dass das Obergericht diese "eher extravagante Auslegung" offenbar "in jahrelanger Praxis" ungeprüft übernommen habe. Infolge der Verletzung dieser "prozessualen Aufklärungspflicht" sei der angefochtene Entscheid aufzuheben.
3.3.1 Den allgemein gehaltenen Ausführungen des Beschwerdeführers lässt sich nicht entnehmen, aus welcher rechtlichen Grundlage er eine derartige "prozessuale Aufklärungspflicht" ableiten will. Der Beschwerdeführer legt jedenfalls nicht dar, auf welche Teilgehalte von Art. 29 BV bzw. Art. 6 EMRK er sich berufen will und ob er mit seinem Hinweis auf Treu und Glauben auf den in Art. 9 BV oder in § 57 der Luzerner Zivilprozessordnung verankerten Grundsatz Bezug nimmt. Soweit er mit dem Hinweis auf BGE 117 Ia 422 auf die Praxis zum Vertrauensschutz bei unrichtigen Auskünften von Behörden anspielt, geht aus der Beschwerdeschrift sodann nicht hervor, inwiefern der Beschwerdeführer von der Vorinstanz falsch informiert worden wäre. Sofern er mit der Verletzung einer "prozessualen Aufklärungspflicht" einen Verstoss gegen verfassungsmässige Rechte bzw. eine willkürliche Anwendung von kantonalem Zivilprozessrecht rügen will, genügen die Ausführungen des Beschwerdeführers den strengen Begründungsanforderungen nach Art. 106 Abs. 2 BGG (oben E. 2) jedenfalls nicht.
3.3.2 Unabhängig davon kann der Argumentation des Beschwerdeführers in der Sache ohnehin nicht gefolgt werden. Denn der Beschwerdeführer ist von einem Anwalt vertreten und muss sich dessen Verhalten zurechnen lassen. Von einem Anwalt kann verlangt werden, sich darüber zu informieren, ob auf die Frist zur Bezahlung der Sicherheitsleistung die Regelung betreffend die Gerichtsferien zur Anwendung gelangt oder nicht, gehört doch zu seinen elementaren Aufgaben, Fristen richtig zu bestimmen und zu berechnen (vgl. BGE 135 III 489 E. 6.2 S. 495). Einem im Kanton Luzern prozedierenden Anwalt darf unter dem Gesichtspunkt von Treu und Glauben mithin zugemutet werden, den einzigen existierenden Kommentar zum Luzerner Zivilprozessrecht zu konsultieren. Angesichts der dortigen Hinweise (STUDER/RÜEGG/EIHOLZER, a.a.O., N. 1 zu § 128 ZPO) ist nicht nachvollziehbar, wie der Rechtsvertreter des Beschwerdeführers hätte annehmen können, dass die Regelung über die Gerichtsferien auch für die Frist zur Zahlung der Sicherheitsleistung gelten würde.
4. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen. Diese Entschädigung wird aus der an die Gerichtskasse bezahlten Sicherheitsleistung ausgerichtet.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, I. Kammer als Appellationsinstanz, schriftlich mitgeteilt.
Lausanne, 23. Februar 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Hurni