Sachverhalt: A. A._ (Beschwerdeführer) war Verwaltungsratspräsident mit Kollektivunterschrift zu zweien der C._ SA mit Sitz in Rolle. Die Banque D._ und die C._ SA schlossen am 12. Oktober / 24. November 1993 einen Kreditvertrag in Form eines Kontokorrentes ab (Kreditkonto Nr. 111._), gemäss welchem sich die Bank zur Ausrichtung eines Darlehens mit der Kreditlimite von Fr. 585'000.-- an die Aktiengesellschaft verpflichtete. Das Kreditverhältnis wurde durch eine Sicherungsübereignung von zwei Inhaberschuldbriefen in der Höhe von Fr. 400'000.-- und Fr. 360'000.--, lastend auf dem Baurechtsgrundstück Rolle-Gbbl. Nr. 222._ im ersten bzw. zweiten Rang, gesichert. Daneben gingen der Beschwerdeführer und E._ zwecks Begründung einer Personalsicherheit für die Forderung der Bank eine Solidarbürgschaft gegenüber der Bank ein. Der Haftungsbetrag wurde auf je Fr. 702'000.-- festgesetzt. Zudem verzichteten der Beschwerdeführer und E._ in den notariell beurkundeten Bürgschaftsverträgen vom 24. November 1993 auf die gesetzliche Verringerung des Haftungsbetrags gemäss Art. 500 Abs. 1 OR. Am 3. Dezember 1993 wurde die Banque D._ von der Banque B._ (Beschwerdegegnerin) übernommen. Das Kreditverhältnis bzw. die Forderung aus dem Kreditvertrag ging mittels Globalzession auf die Beschwerdegegnerin als Gläubigerin über. Diese führte das Kreditkonto neu unter der Nr. 333._. In der Folge bildeten das Kreditkonto Nr. 333._ und dessen Konditionen mehrmals Thema der Korrespondenz zwischen den Parteien bzw. der Beschwerdegegnerin und der C._ SA. Unbestritten ist, dass die Beschwerdegegnerin das Kreditverhältnis jedenfalls mit Schreiben vom 13. August 1999 kündigte und den offenen Kreditsaldo von damals Fr. 431'084.35 mit Frist bis 25. Februar 2000 zur Rückzahlung fällig stellte. Am 23. Januar 2002 schied der Beschwerdeführer aus der C._ SA aus. Über diese wurde am 23. April 2002 der Konkurs eröffnet. Die Beschwerdegegnerin gab ihre Forderung aus dem Kreditverhältnis in der Höhe von Fr. 429'059.10 nebst Zinsen und Kosten ein. Die Konkursverwaltung Rolle hiess die Eingabe vollumfänglich bis zum Tag des Verkaufs des Grundstücks gut. Am 15. April 2003 wurde das durch die zwei Inhaberschuldbriefe belastete Grundstück Rolle-Gbbl. Nr. 222._ im Rahmen einer öffentlichen Versteigerung zu einem Preis von Fr. 460'000.-- verkauft. Der Beschwerdegegnerin wurde aus dem Erlös der Versteigerung ein Betrag von Fr. 444'556.60 zugesprochen. Dieser Betrag wurde der Beschwerdegegnerin durch das Konkursamt am 23. Juni 2004 überwiesen. Abzüglich des Verwertungserlöses von Fr. 444'556.60 belief sich die Forderung der Beschwerdegegnerin aus dem Kreditverhältnis per 23. Juni 2004 auf Fr. 72'628.15, per 1. Juli 2004 auf Fr. 85'986.80. Letzteren Betrag setzte die Beschwerdegegnerin mehrmals in Betreibung. Sie belangte den Beschwerdeführer aus der Bürgschaftsverpflichtung. Am 29. September 2005 leitete die Beschwerdegegnerin erneut Betreibung ein. Der Beschwerdeführer erhob Rechtsvorschlag. B. Am 8. Mai 2007 erhob die Beschwerdegegnerin beim Gerichtskreis VIII Bern-Laupen Klage und beantragte, den Beschwerdeführer zu verpflichten, ihr Fr. 85'986.80 nebst Zins zu 8 % seit dem 1. Juli 2004, abzüglich Fr. 3'587.50 per 16. Mai 2006, zu bezahlen. In der Betreibung Nr. 444._ des Betreibungsamtes Bern-Mittelland sei der Rechtsvorschlag vollumfänglich aufzuheben und die definitive Rechtsöffnung im entsprechenden Umfang zu erteilen. Im Folgenden bezifferte die Beschwerdegegnerin die Klageforderung auf Fr. 95'290.25 nebst Zins zu 8 % seit dem 16. Mai 2006. Mit Urteil vom 3. Juni 2008 verurteilte der Gerichtspräsident 1 des Gerichtskreises VIII Bern-Laupen den Beschwerdeführer, der Beschwerdegegnerin aus Bürgschaftsvertrag Fr. 95'290.25 zuzüglich Zins zu 8 % seit dem 16. Mai 2006 zu bezahlen. Im entsprechenden Umfang beseitigte er in der Betreibung Nr. 444._ des Betreibungsamtes Bern-Mittelland den Rechtsvorschlag und erteilte vollumfänglich die definitive Rechtsöffnung. Dagegen appellierte der Beschwerdeführer an das Obergericht des Kantons Bern und verlangte die vollumfängliche Abweisung der Klage. Er machte im Wesentlichen geltend, dass das ursprüngliche Kreditverhältnis zufolge Kündigung und Begründung eines neuen Kreditverhältnisses durch Novation und mit diesem nach dem Akzessorietätsprinzip auch die Bürgschaftsverpflichtung untergegangen seien. Selbst wenn dieser Ansicht nicht zu folgen wäre, sei die Haftung des Beschwerdeführers wegen Verletzung der Schadenminderungspflicht durch die Beschwerdegegnerin massiv zu reduzieren bzw. weggefallen. Der Appellationshof, 1. Zivilkammer, verwarf diese Einwände des Beschwerdeführers und verpflichtete ihn mit Urteil vom 19. Februar 2010, der Beschwerdegegnerin Fr. 95'290.25 zuzüglich Zins zu 8 % seit dem 16. Mai 2006 zu bezahlen. Ferner beseitigte er in der Betreibung Nr. 444._ des Betreibungsamtes Bern-Mittelland den Rechtsvorschlag. C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, das Urteil des Appellationshofes vom 19. Februar 2010 aufzuheben und die Klage vollumfänglich abzuweisen. Eventualiter sei das angefochtene Urteil aufzuheben und sei der Beschwerdeführer zu verurteilen, der Beschwerdegegnerin einen Betrag von Fr. 18'481.75 nebst Zins zu 5 % seit 16. Mai 2006, subeventualiter einen Betrag von maximal Fr. 37'000.-- nebst Zins zu 8 % seit 16. Mai 2006, zu bezahlen. Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei, und das angefochtene Urteil zu bestätigen. Die Vorinstanz verzichtete auf eine Vernehmlassung. D. Mit Präsidialverfügung vom 4. Juni 2010 wurde das Gesuch des Beschwerdeführers, der Beschwerde aufschiebende Wirkung zu erteilen, abgewiesen.