Sachverhalt:
A. X._ (Beschwerdeführer) erhob gegen die Bank Y._ AG (Beschwerdegegnerin) eine Forderungsklage, die das Zivilgericht Basel-Stadt im Dezember 2008 abwies. Der Beschwerdeführer appellierte an das Appellationsgericht des Kantons Basel-Stadt, das ihm mit Schreiben vom 18. Dezember 2009 eine einmal erstreckbare Frist bis zum 15. Januar 2010 zur Leistung des Kostenvorschusses ansetzte unter der Androhung, dass die Appellation widrigenfalls aus dem Recht gewiesen werden könnte. Der dem Beschwerdeführer zugestellte Einzahlungsschein nannte allerdings als Zahlungsziel den 20. Januar 2010. Am 25. Januar 2010 wurde die Appellation mangels Leistung des Kostenvorschusses aus dem Recht gewiesen. In der Folge bezahlte der Beschwerdeführer den Kostenvorschuss in zwei Teilbeträgen mit Ausführungsdatum 29. Januar 2010 und 1. Februar 2010. Am 3. Februar 2010 stellte er ein Gesuch um Wiederherstellung der Frist und machte geltend, er habe die bis am 20. Januar 2010 laufende Frist für die Leistung des Kostenvorschusses aufgrund "einer akut eintretenden, ernsthaften Erkrankung" verstreichen lassen. Gleichzeitig reichte er ein ärztliches Zeugnis vom 23. Januar 2010 ins Recht, das ihn vom 18. Januar 2010 bis zum 25. oder 28. Januar (schwer lesbare Schrift) "wegen Krankheit" als 100 % arbeitsunfähig einstufte. Mit Urteil vom 25. Mai 2010 wies das Appellationsgericht das Gesuch um Wiederherstellung der Frist ab.
B. Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, das Urteil des Appellationsgerichts vom 25. Mai 2010 aufzuheben und die Frist zur Leistung der Prozesskaution wiederherzustellen bzw. aufgrund der bereits geleisteten Kaution auf die Appellation einzutreten.
Die Beschwerdegegnerin beantragt, auf die Beschwerde nicht einzutreten bzw. diese abzuweisen. Das Appellationsgericht schliesst unter Hinweis auf den angefochtenen Entscheid auf Abweisung der Beschwerde.
Erwägungen:
1. Die Vorinstanz wies das Gesuch um Wiedereinsetzung in den vorigen Stand ab, da sie zum Schluss gelangte, das Verpassen der Frist zur Leistung des Kostenvorschusses sei auf grobe Nachlässigkeit des Beschwerdeführers zurückzuführen. Das von ihm eingereichte Arztzeugnis stufe ihn "wegen Krankheit" vom 18. Januar bis 25. oder 28. Januar 2010 (schwer lesbare Schrift) als 100 % arbeitsunfähig ein, aber attestiere nicht "eine generelle Unfähigkeit, irgendwelche Vorkehren treffen zu können". Der Beschwerdeführer selbst oder sein Rechtsvertreter hätte lediglich mit einem einfachen Schreiben oder telefonisch um Fristerstreckung ersuchen müssen. Die verschiedenen - auf einem internen Verarbeitungsfehler beruhenden - Zahlungsdaten im Schreiben vom 18. Dezember 2009 und auf dem Einzahlungsschein würden dem Beschwerdeführer weder nützen noch schaden, da er den Kostenvorschuss erst am 1. Februar 2010 vollständig bezahlt habe und somit beide Daten bereits verstrichen gewesen seien.
2. Der Beschwerdeführer macht geltend, die Vorinstanz habe überspitzt formalistisch gehandelt, indem sie ohne Ansetzen einer Nachfrist auf seine Appellation nicht eingetreten sei und damit Art. 29 Abs. 1 BV verletzt. Die Vorinstanz habe die Rechtsfolgen bei Unterlassen der Zahlung des Kostenvorschusses nicht von vornherein klar und unmissverständlich angedroht. Mit der Formulierung "widrigenfalls die Appellation aus dem Recht gewiesen werden könnte" habe sie kundgetan, dass ein Ermessen bestehe und der Beschwerdeführer nicht zwingend, unmittelbar und ohne weitere Möglichkeit der Einflussnahme mit der Nichtbehandlung seiner Appellation habe rechnen müssen. Auch die vom Gericht verschuldete Unklarheit hinsichtlich der Zahlungsfrist hätte zu einer kurzen Nachfrist führen müssen mit einer unmissverständlichen Androhung der Rechtsfolge (Nichteintreten). Bei der Wiederherstellung einer richterlichen Frist sei das Ermessen überdies grosszügiger zu handhaben als bei gesetzlichen Fristen. Das Absehen von einer Nachfrist sei umso stossender, da es um die Behandlung eines ordentlichen und vollständigen Rechtsmittels gehe, das materiell unbehandelt bliebe. Der Beschwerdeführer habe den bestehenden Mangel umgehend behoben. Angesichts der tatsächlich sichergestellten Kosten erweise sich die Nichtbehandlung des Rechtsmittels ebenfalls als unhaltbar. Mittlerweile habe sich auf Bundesebene der Grundsatz etabliert, wonach für die Leistung eines Vorschusses oder einer Sicherheit nach unbenütztem Verstreichen der Frist eine weitere (Nach-)Frist anzusetzen sei. Dies sehe die eidgenössische Zivilprozessordnung explizit und zwingend vor (Art. 101 Abs. 3 nZPO) und sei auch auf Bundesebene in Art. 62 Abs. 2 [recte: Abs. 3] BGG unmissverständlich festgehalten.
3. Der Beschwerdeführer ficht nur das vorinstanzliche Urteil vom 25. Mai 2010 betreffend Abweisung seines Gesuchs um Wiederherstellung der Frist an. Ob die Rüge des überspitzten Formalismus nicht bereits mit Beschwerde gegen den Nichteintretensentscheid vom 25. Januar 2010 hätte erhoben werden müssen, kann angesichts des Ausgangs des Verfahrens offen bleiben.
3.1 Bis die eidgenössischen Zivilprozessordnung vom 19. Dezember 2008 (AS 2010 1739 ff.), die keine Vorwirkung zeitigt, am 1. Januar 2011 in Kraft tritt, ist die Ausgestaltung des kantonalen Verfahrens Sache der Kantone (Art. 122 BV). Insoweit sind diese frei, die Folgen der Nichtleistung eines Kostenvorschusses zu ordnen. In diesem Sinne bestimmt § 34b Abs. 1 der Zivilprozessordnung des Kantons Basel-Stadt vom 8. Februar 1875 (ZPO/BS; SG 221.100), dass eine Partei, die eine Frist versäumt hat, die Wiedereinsetzung in den vorigen Stand verlangen kann, sofern die Säumnis nicht auf grobe Nachlässigkeit zurückzuführen ist und sofern eine Wiedereinsetzung nicht offenbar für den Ausgang des Prozesses unerheblich wäre. Die ZPO/BS sieht nicht vor, dass bei unbenützter Frist zur Leistung eines Kostenvorschusses eine Nachfrist eingeräumt werden könnte oder gar müsste. Gemäss bundesgerichtlicher Rechtsprechung entspricht es keinem verfassungsmässigen Grundsatz, dass bei unbenutztem Ablauf einer Frist zur Zahlung eines Kostenvorschusses eine (kurze) Nachfrist einzuräumen ist. Vor Geltung des BGG war für das Verfahren vor Bundesgericht die Einräumung einer Nachfrist ebenfalls nicht vorgesehen (vgl. Art. 150 Abs. 4 OG). Gleichermassen bestimmen zahlreiche kantonale Verfahrensordnungen, dass bei Säumnis auf die Rechtsvorkehr nicht eingetreten wird. Überdies handelt es sich bei der Leistung des Kostenvorschusses nur um eine prozessuale Handlung neben anderen, für die im Allgemeinen ebenfalls keine Nachfristen vorgesehen sind (vgl. zum Ganzen Urteil 1C_330/2008 vom 21. Oktober 2008 E. 3.2). Mithin ist nicht zu beanstanden, dass keine Nachfrist angesetzt wurde. Dass gewisse Prozessordnungen - wie auch das BGG in Art. 62 Abs. 3 Satz 3, der für das kantonale Verfahren keine unmittelbare Wirkung zeitigt (vgl. Urteil 1C_330/2008 vom 21. Oktober 2008 E. 3.2) - die Einräumung einer Nachfrist vorsehen oder vorschreiben, ändert nichts daran.
3.2 Soweit der Beschwerdeführer unter Hinweis auf BGE 96 I 521 geltend macht, ihm hätte eine Nachfrist angesetzt werden müssen, weil die Rechtsfolgen nicht von vornherein klar und unmissverständlich angedroht worden seien, sind seine Vorbringen nicht stichhaltig. Im zitierten Fall wurden die Parteien lediglich in allgemeiner Form auf die Vorschusspflicht hingewiesen. Weder wurden die Höhe des Vorschusses angezeigt noch eine Zahlungsfrist gesetzt noch für den Fall der Nichtleistung irgendwelche prozessualen Folgen angedroht (BGE 96 I 521 E. 4 S. 523 f.). Demgegenüber wurde der Beschwerdeführer darauf hingewiesen, dass bei Säumnis auf die Appellation nicht eingetreten werden könnte. Der Beschwerdeführer wusste somit, welche Rechtsfolgen das Nichtleisten des Kostenvorschusses nach sich ziehen könnte und musste bei Säumnis mit deren Eintritt rechnen.
3.3 Vor diesem Hintergrund stellt es keinen überspitzten Formalismus dar, wenn die Vorinstanz ohne Ansetzung einer Nachfrist auf die Beschwerde nicht eingetreten ist und das Fristwiederherstellungsgesuch abgewiesen hat.
4. Nach dem Gesagten ist die Beschwerde abzuweisen. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 4. Oktober 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Klett Feldmann