Sachverhalt:
A. A._ (Beschwerdeführerin) ist seit 1987 Mieterin einer 2 1/2-Zimmerwohnung in der Liegenschaft B._ in Zürich. Der Mietzins beträgt derzeit Fr. 1'518.-- brutto pro Monat. Am 1. August 2006 erwarb die X._ AG (Beschwerdegegnerin) die genannte Liegenschaft. Mit amtlichem Formular vom 12. Juni 2007 kündigte die Beschwerdegegnerin der Beschwerdeführerin den Mietvertrag auf den 30. September 2009 mit der Begründung "Totalsanierung der Liegenschaft".
B. Mit Eingabe vom 7. Juli 2007 focht die Beschwerdeführerin die Kündigung bei der Schlichtungsbehörde des Bezirkes Zürich an. Mit Beschluss vom 6. Dezember 2007 stellte die Schlichtungsbehörde die Gültigkeit der Kündigung fest.
Die Beschwerdeführerin gelangte daraufhin an das Mietgericht des Bezirkes Zürich mit den Anträgen, die Kündigung vom 12. Juni 2007 als ungültig zu erklären, eventualiter das Mietverhältnis erstmals um drei Monate zu erstrecken. Am 9. September 2008 zog die Beschwerdeführerin das Kündigungsanfechtungsbegehren zurück, am Erstreckungsbegehren hielt sie fest. Mit Beschluss vom 24. September 2008 nahm das Mietgericht vom Rückzug der Anfechtung der Kündigung Vormerk. Mit Urteil gleichen Datums erstreckte es das Mietverhältnis definitiv um drei Monate bis 31. Dezember 2009.
Dagegen erhob die Beschwerdeführerin Berufung an das Obergericht des Kantons Zürich und beantragte, das Mietverhältnis sei erstmalig um drei Monate bis 31. Dezember 2009 zu erstrecken. Mit Beschluss vom 27. Januar 2009 wies das Obergericht die Berufung ab und bestätigte das Urteil des Mietgerichts. Es erstreckte demgemäss das Mietverhältnis definitiv um drei Monate bis 31. Dezember 2009.
C. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, den Beschluss des Obergerichts vom 27. Januar 2009 aufzuheben und das Mietverhältnis erstmalig um drei Monate bis zum 31. Dezember 2009 zu erstrecken. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz verzichtete auf eine Vernehmlassung.

Erwägungen:
1. Mit dem Entscheid in der Hauptsache wird das Gesuch um Erteilung der aufschiebenden Wirkung gegenstandslos.
2. In mietrechtlichen Fällen beträgt der Streitwert für die Zulässigkeit der Beschwerde in Zivilsachen Fr. 15'000.-- (<ref-law>). Bezieht sich die Streitigkeit auf die Erstreckung des Mietverhältnisses, entspricht der Streitwert dem Bruttomietzins, der für die Dauer der strittigen Erstreckung geschuldet ist (Urteil 4A_318/2008 vom 11. November 2008 E. 1, nicht publiziert in <ref-ruling>; <ref-ruling> E. 1 S. 407 f.; <ref-ruling> E. 1).
Die von der Erstinstanz ausgesprochene Erstreckung von drei Monaten war im vorinstanzlichen Verfahren nach den gestellten Anträgen nicht umstritten. Die Beschwerdeführerin beantragte, anstelle der zugestandenen definitiven Erstreckung um drei Monate bis 31. Dezember 2009 eine bloss erstmalige Erstreckung bis zu diesem Datum zu gewähren. Diesem Antrag gab die Vorinstanz nicht statt. Damit nahm sie der Beschwerdeführerin die Möglichkeit, eine zweite Erstreckung zu verlangen. Diese könnte nach dem Gesetz zusammen mit der ersten im Maximum vier Jahre dauern (<ref-law>), mithin für weitere 45 Monate gewährt werden. Es rechtfertigt sich in diesem Fall, für die Bemessung des Streitwerts auch diese mögliche Dauer einer zweiten Erstreckung zu berücksichtigen (in diesem Sinn auch Urteil 4C.445/2006 vom 7. Juni 2007 E. 2.1.2). Beim vorliegenden monatlichen Bruttomietzins von Fr. 1'518.-- bedeutet dies, dass der Streitwert Fr. 68'310.-- beträgt und damit die Grenze von <ref-law> übersteigt.
Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
3. Streitig ist einzig, ob die Vorinstanz zu Recht eine definitive Erstreckung ausgesprochen hat und nicht eine erstmalige, wie dies die Beschwerdeführerin beantragt.
3.1 Nach <ref-law> kann der Mieter die Erstreckung des Mietverhältnisses verlangen, wenn die Beendigung der Miete für ihn oder seine Familie eine Härte zur Folge hätte, die durch die Interessen des Vermieters nicht zu rechtfertigen wäre. Bei der Interessenabwägung sind insbesondere die in Abs. 2 dieser Vorschrift erwähnten Umstände zu berücksichtigen. Die Dauer der Erstreckung beträgt gemäss <ref-law> für Wohnräume höchstens vier Jahre, wobei im Rahmen der Höchstdauer eine oder zwei Erstreckungen gewährt werden können. Diese Möglichkeit soll es dem Richter erleichtern, eine den besonderen Umständen des Einzelfalls angemessene Lösung zu treffen (Botschaft zur Revision des Miet- und Pachtrechts vom 27. März 1985, BBl 1985 I 1462 f.).
3.2 Ob eine erstmalige oder definitive Erstreckung zu gewähren ist, entscheidet sich - wie die Frage, ob überhaupt eine Erstreckung zu gewähren ist und gegebenenfalls für wie lange - aufgrund einer Abwägung der Interessen der Parteien (Urteil 4C.445/2008 vom 7. Juni 2007 E. 5.2.3, in: MRA 3/07 S. 90 ff.). Entgegen der Beschwerdeführerin und der von ihr angeführten Literatur (HIGI, Zürcher Kommentar, N. 36 und 43 zu <ref-law>; WEBER, Basler Kommentar, N. 2 zu <ref-law> in fine; SPIRIG IRENE, Grundsätze im Erstreckungsrecht, mp 2008, S. 199 ff., S. 214) geht die Gewährung einer erstmaligen Erstreckung der definitiven nicht als Regel vor (SVIT-Kommentar, 3. Aufl., 2008, N. 4 und 7 zu <ref-law>). Für eine solche Auffassung, dass die Anordnung einer erstmaligen Erstreckung die Regel und die Anordnung einer definitiven die Ausnahme bilde, bietet der Gesetzestext keine Handhabe. Vielmehr hat eine Interessensabwägung anhand der konkreten Umstände des Einzelfalles zu erfolgen. Welche Erstreckungsart gewählt wird, ist dabei eine ausgesprochene Ermessensfrage (Urteil 4C.445/2008 vom 7. Juni 2007 E. 5.2.3,in: MRA 3/07 S. 90 ff.; Urteil 4C.368/1991 vom 2. März 1992 E. 4).
Derartige Ermessensentscheide überprüft das Bundesgericht mit Zurückhaltung und greift nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgegangen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die hätten beachtet werden müssen. Es greift ausserdem in Ermessensentscheide ein, wenn sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (<ref-ruling> E. 2 S. 123 f. mit Hinweisen).
4. 4.1 Die Vorinstanz erwog in Bezug auf die Wahl der Erstreckungsart, dass die Bestätigung über die Anmeldung der Beschwerdeführerin für die Alterssiedlung C._ vom 4. Oktober 2007 datiert. Bereits damals habe die Beratungsstelle Wohnen im Alter der Stadt Zürich darauf hingewiesen, dass mit einer unbestimmten Wartezeit gerechnet werden müsse. Am 29. Oktober 2008 habe die Beratungsstelle bestätigt, dass die Beschwerdeführerin auf der Warteliste sei. Die Alterssiedlung C._ werde saniert und der Neubezug sei erst ab Sommer 2010 geplant. Die Beschwerdeführerin rangiere auf der Warteliste so weit unten, dass sie nicht mit einer freien Wohnung auf den neuen Bezugstermin Sommer 2010 rechnen könne. Mit Schreiben vom 3. November 2008 habe die Beratungsstelle sodann bestätigt, dass die Beschwerdeführerin auf der Warteliste für eine 1-Zimmerwohnung einer Alterssiedlung aufgenommen worden sei und so schnell wie möglich eine Wohnung angeboten werde. Die Beschwerdegegnerin ihrerseits habe die anderen Wohnungen in der betreffenden Liegenschaft, die zwischenzeitlich leer geworden seien, befristet zwischenvermietet, und zwar bis zum geplanten Baubeginn am 1. Oktober 2009. Die entsprechenden Mietverträge wiesen auf die Totalsanierung der Liegenschaft hin, so dass nach <ref-law> eine Erstreckung dieser Mietverhältnisse ausgeschlossen sei. Unter diesen Umständen könne der Beschwerdegegnerin eine Fortsetzung des Mietverhältnisses über den 31. Dezember 2009 hinaus nicht zugemutet werden, zumal die Wohnungen in der Liegenschaft B._ - abgesehen von der Wohnung der Beschwerdeführerin - ab 1. Oktober 2009 leer stehen würden. Eine Weitervermietung dieser Wohnungen nur für einige Monate sei kaum realistisch. Die ins Recht gelegten Mietverträge wiesen nämlich allesamt eine Laufzeit von ungefähr einem Jahr auf und endeten definitiv am 30. September 2009. Eine Verzögerung der Totalsanierung über den 31. Dezember 2009 hinaus könne der Beschwerdegegnerin unter den gegebenen Umständen nicht zugemutet werden. Ohnehin müsste eine zweite Erstreckung des Mietverhältnisses für die Zeit nach dem 31. Dezember 2009 wegen mangelhafter Suchbemühungen durch die Beschwerdeführerin höchst wahrscheinlich abgelehnt werden.
4.2 Die Beschwerdeführerin rügt, die Vorinstanz habe zu Unrecht einem Entscheid über eine allfällige Zweiterstreckung vorgegriffen und die Hürde an die Suchbemühungen wesentlich zu hoch angesetzt. Im Weiteren habe sie das Vermieterinteresse in stossender Weise überbewertet, indem sie ein Bauvorhaben ohne Vorliegen einer rechtskräftigen Baubewilligung als dringlich bezeichnet und quasi als Erstreckungsausschlussgrund im Sinne von Art. 271a (recte 272a) OR qualifiziert habe.
4.3 Die Vorinstanz hat ihren Entscheid über die Erstreckungsart nicht allein und auch nicht hauptsächlich damit begründet, dass die Beschwerdeführerin mit Blick auf ihre ungenügenden Suchbemühungen kaum eine zweite Erstreckung bekommen werde. Sie hat ihren diesbezüglichen Entscheid vielmehr aufgrund einer Abwägung der Interessen der Parteien getroffen und ist damit korrekt verfahren. Die geringe Wahrscheinlichkeit, eine zweite Erstreckung zu erhalten, hat sie lediglich hilfsweise, gewissermassen als Bekräftigung, dass die Anordnung einer definitiven Erstreckung am Platz ist, herangezogen. Als blosse Hilfserwägung, die für den Entscheid nicht ausschlaggebend war, ist diese Überlegung haltbar.
Weil jene Überlegung für den Entscheid über die Erstreckungsart nicht ausschlaggebend war, braucht nicht entschieden zu werden, ob die Suchbemühungen der Beschwerdeführerin effektiv als ungenügend zu bewerten sind. Es genügt festzuhalten, dass eine solche Beurteilung als durchaus möglich erscheint. Auch wenn das hohe Alter (Jahrgang 1923) und die schwere Erkrankung der Beschwerdeführerin berücksichtigt werden und es daher verständlich ist, dass sie den Platz in einer Alterssiedlung oder einem Altersheim dem Umzug in eine neue Wohnung vorzieht, ist doch fraglich, ob die Anmeldung in einer einzigen Alterssiedlung, die zudem im Umbau ist und daher in absehbarer Zeit keine Plätze neu besetzt, sowie die Anmeldung für eine Notwohnung genügen. Die Beschwerdeführerin hat sich seit Erhalt der Kündigung im Juni 2007 lediglich bei der Alterssiedlung C._ angemeldet. Bereits im Oktober 2007 hat die Beratungsstelle Wohnen im Alter der Stadt Zürich darauf hingewiesen, dass mit einer unbestimmten Wartezeit gerechnet werden müsse. Eine Anmeldung in einer anderen Alterssiedlung nahm die Beschwerdeführerin nicht vor, auch nicht, nachdem ihr am 29. Oktober 2008 mitgeteilt worden war, dass sie nicht damit rechnen könne, beim Neubezug ab Sommer 2010 einen Platz zu erhalten. Dass ihr unter diesen Umständen zugemutet werden könnte, sich noch bei einer anderen Alterssiedlung oder einem Altersheim anzumelden, ist nicht von der Hand zu weisen.
4.4 Bei der Abwägung der Interessen der Parteien hat die Vorinstanz durchaus berücksichtigt, dass auf Seiten der Beschwerdeführerin noch keine sichere Prognose gestellt werden kann, wann sie einen Platz in einer Alterssiedlung oder eine Notwohnung erhält. Immerhin bestätigte ihr die Beratungsstelle am 3. November 2008, dass ihr so schnell wie möglich eine 1-Zimmerwohnung in einer Alterssiedlung angeboten werde. Entgegen der Ansicht der Beschwerdeführerin musste allein die Unsicherheit über die Wohnsituation der Beschwerdeführerin nicht zwingend zur Gewährung einer erstmaligen Erstreckung führen, da eine solche - wie ausgeführt (Erwägung 3.2) - nicht als Regelfall Platz greift.
Die Vorinstanz durfte auf der anderen Seite auch das Vermieterinteresse an einem verlässlichen Endtermin des Mietverhältnisses berücksichtigen. Auch wenn noch unsicher ist, ob der Mieter innert Frist ein Ersatzobjekt finden wird, können gewichtige Vermieterinteressen eine definitive Erstreckung verlangen (HIGI, a.a.O., N. 42 zu <ref-law>; LACHAT, Le bail à loyer, 2008, S. 783; LACHAT/STOLL/BRUNNER, Das Mietrecht für die Praxis, 6. Aufl., 2005 S. 574; SVIT-Kommentar, a.a.O., N. 4 f. zu <ref-law>). So kann die Anordnung einer definitiven Erstreckung unter Umständen gerechtfertigt sein, wenn der Vermieter - wie im vorliegenden Fall - die Mietliegenschaft einer Totalsanierung, bei der den Mietern der Verbleib in der Liegenschaft nicht zugemutet werden kann, unterziehen will, weil er dabei für die Planung der Arbeiten auf einen verbindlichen Endtermin der Mietverhältnisse angewiesen ist (SPIRIG, a.a.O., S. 216). In solchen Fällen stehen für den Vermieter oftmals auch erhebliche finanzielle Interessen auf dem Spiel. Vorliegend stellte die Vorinstanz verbindlich (<ref-law>) fest, dass das Bauvorhaben mit beträchtlichen finanziellen Belastungen verbunden ist und dass die Wohnungen in der Liegenschaft B._ - abgesehen von der Wohnung der Beschwerdeführerin - ab 1. Oktober 2009 leer stehen werden. Das Vorbringen der Beschwerdeführerin, die Beschwerdegegnerin habe zwischenzeitlich den übrigen Mietparteien eine Verlängerung der Mietverhältnisse bis Ende März 2010 angeboten, stellt ein unzulässiges Novum dar und kann daher nicht gehört werden (<ref-law>). Wenn die Vorinstanz unter den festgestellten Umständen annahm, eine Verzögerung der Totalsanierung über den 31. Dezember 2009 hinaus könne der Beschwerdegegnerin nicht zugemutet werden, kann ihr entgegen der Ansicht der Beschwerdeführerin nicht eine stossende Überbewertung der Vermieterinteressen vorgeworfen werden.
Es trifft nicht zu, dass die Vorinstanz das Bauvorhaben ohne Vorliegen einer rechtskräftigen Baubewilligung als dringlich eingestuft und gewissermassen als Erstreckungsausschlussgrund qualifiziert hätte, wie die Beschwerdeführerin behauptet. Vielmehr hat die Vorinstanz durchaus gesehen, dass noch keine rechtskräftige Baubewilligung vorlag. Deshalb hat sie das Vermieterinteresse auch noch nicht als dringlich bezeichnet und daher jedwede Erstreckung gerade nicht ausgeschlossen. In der Literatur wird für die Gewährung einer erstmaligen Erstreckung eingetreten, wenn bei Bauvorhaben der Vermieter noch keine Baubewilligung erhalten hat und unklar ist, wann mit den Bauarbeiten begonnen werden kann (LACHAT, a.a.O., S. 783; LACHAT/STOLL/BRUNNER, a.a.O., S. 574). Vorliegend lag im Zeitpunkt des angefochtenen Urteils zwar noch keine rechtskräftige Baubewilligung vor. Die Vorinstanz stellte aber unangefochten und daher für das Bundesgericht verbindlich (Art. 97 Abs. 1 und <ref-law>) fest, dass der 1. Oktober 2009 als Baubeginn realistisch erscheint. Entsprechend wird die Mietliegenschaft ab diesem Datum - abgesehen von der Wohnung der Beschwerdeführerin - leer stehen. Bei diesen Gegebenheiten durfte die Vorinstanz trotz unsicherer Wohnsituation auf Seiten der Beschwerdeführerin das Interesse der Beschwerdegegnerin an einem feststehenden Endtermin des Mietverhältnisses durch die Gewährung einer definitiven Erstreckung berücksichtigen.
4.5 Nach dem Gesagten besteht für das Bundesgericht kein Grund, in die Ermessensbetätigung der Vorinstanz einzugreifen. Weder ist sie von anerkannten Grundsätzen abgegangen noch hat sie Tatsachen berücksichtigt, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder hat sie Umstände ausser Betracht gelassen, die hätten beachtet werden müssen. Auch kann nicht gesagt werden, der angefochtene Entscheid sei geradezu offensichtlich unbillig oder in stossender Weise ungerecht, auch wenn es für die Beschwerdeführerin angesichts ihrer persönlichen Verhältnisse (hohes Alter, schwere Krankheit) sicher nicht einfach sein würde, wenn sie vor dem Umzug in eine Alterssiedlung oder in ein Altersheim zwischenzeitlich eine Notwohnung beziehen müsste.
5. Aus diesen Gründen ist die Beschwerde abzuweisen. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Das vorliegende Urteil ist den Parteien und der Vorinstanz am 8. Juni 2009 im Dispositiv eröffnet worden. Infolge eines Versehens wurden dabei für die Gerichtskosten und die Parteientschädigung unrichtige Zahlen eingesetzt. In der vorliegenden vollständigen Ausfertigung des Urteils ist dieses Versehen berichtigt.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 3'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 5. Juni 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Widmer