Erwägungen:
1. 1.1 Der türkische Staatsangehörige X._ (geb. 1966) reiste im August 1990 in die Schweiz ein und stellte ein Asylgesuch. Rund einen Monat nach Zustellung des negativen Asylentscheids heiratete er im Dezember 1992 die Schweizer Bürgerin Y._ (geb. 1948), worauf er eine Aufenthaltsbewilligung erhielt und im April 1997 erleichtert eingebürgert wurde. Im Juni 1999 wurde die Ehe geschieden. Im Oktober desselben Jahres heiratete er zivilrechtlich eine türkische Landsfrau, mit welcher er bereits vor Ankunft in der Schweiz in einer sog. Imam-Ehe gelebt hatte. Aus dieser Beziehung sind vier Töchter hervorgegangen (geb. 1985, 1989, 1996 und 1999). Seine Gesuche um Nachzug seiner türkischen Ehefrau und Kinder blieben erfolglos. Ausserdem erklärte das zuständige Bundesamt im März 2002 die erleichterte Einbürgerung für nichtig. X._ habe verheimlicht, dass er während der Ehe mit der Schweizer Ehefrau eine Tochter (geb. 1996) mit der türkischen Partnerin gezeugt habe. Nachdem ihm die Behörden auch die Neuerteilung einer Aufenthaltsbewilligung verweigert hatten und die Rechtsmittel hiegegen sowie gegen die Nichtigerklärung der Einbürgerung erfolglos geblieben waren, liess sich X._ Anfang 2006 von seiner türkischen Ehefrau scheiden und heiratete im Mai 2006 Y._ ein zweites Mal. Daraufhin ersuchte er um Erteilung einer Aufenthaltsbewilligung zum Verbleib bei seiner Schweizer Ehefrau. Am 9. September 2006 lehnte die Sicherheitsdirektion des Kantons Zürich das Gesuch ab. Die dagegen erhobenen Rechtsmittel wiesen der Regierungsrat am 27. Mai 2009 und anschliessend das Verwaltungsgericht des Kantons Zürich am 21. Oktober 2009 ab.
1.2 Mit rechtzeitig eingereichter Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 27. November 2009 beantragen X._ und Y._ dem Bundesgericht, den Entscheid des Verwaltungsgerichts sowie die "vorausgegangenen Entscheide" aufzuheben und dem Ehemann den Verbleib in der Schweiz zu gestatten. Eventuell sei die Sache zu weiteren Abklärungen zurückzuweisen.
Das Bundesamt für Migration stellt den Antrag, die Beschwerde abzuweisen. Das Verwaltungsgericht hat auf eine Vernehmlassung verzichtet. Die Sicherheitsdirektion und der Regierungsrat haben sich nicht geäussert.
1.3 Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde am 2. Dezember 2009 hinsichtlich der mit dem angefochtenen Entscheid verbundenen Ausreiseverpflichtung die aufschiebende Wirkung zuerkannt.
2. 2.1 Nach Art. 7 Abs. 1 des hier noch anwendbaren Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; BS 1 121, in der Fassung vom 23. März 1990, AS 1991 1034 1043) hat der ausländische Ehegatte eines Schweizer Bürgers Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung (zum Übergangsrecht vgl. Art. 126 AuG, SR 142.20). Kein Anspruch besteht gemäss Art. 7 Abs. 2 ANAG, wenn die Ehe eingegangen worden ist, um die Vorschriften über Aufenthalt und Niederlassung von Ausländern und namentlich jene über die Begrenzung der Zahl der Ausländer zu umgehen. Die Vorinstanzen gehen gestützt auf die von ihnen zutreffend wiedergegebene bundesgerichtliche Praxis davon aus, dass die Beschwerdeführer miteinander jeweils Scheinehen geschlossen haben. Diese seien auch nicht nachträglich zu einer echten Ehe geworden. Daher stehe Art. 7 Abs. 2 ANAG der Bewilligung des Aufenthaltes an den Ehemann entgegen.
2.2 Die Beschwerdeführer wenden ein, die Vorinstanzen hätten nicht geprüft, dass die Ehe heute die in Art. 7 Abs. 1 ANAG geforderte Intensität einer wirklichen Gemeinschaft aufweise; es sei ausschliesslich auf die "Vorgeschichte" abgestellt worden. Selbst wenn die zweite Heirat anfänglich noch durch aufenthaltsrechtliche Spekulationen mitbestimmt gewesen wäre, sei keineswegs auszuschliessen, dass inzwischen eine stabile Lebensgemeinschaft geführt werde. Die Beschwerdeführer verweisen pauschal auf Belege, die sie bei den Vorinstanzen eingereicht hätten. Diese hätten die für eine echte Ehe angeführten Indizien nicht gewürdigt und damit ihren Anspruch auf rechtliches Gehör nach Art. 29 BV verletzt und gegen das Willkürverbot nach Art. 9 BV verstossen.
2.3 Fraglich ist bereits, ob die nicht weiter substantiierten Rügen den Anforderungen an eine Beschwerde nach Art. 42 Abs. 2, Art. 97 Abs. 1 und Art. 106 Abs. 2 BGG genügen (vgl. BGE 134 I 65 E. 1.3-1.5 S. 67 f.; 134 II 244 E. 2.1-2-3 S. 245 ff.; 134 V 53 E. 3.3 S. 60). Die Beschwerdeschrift muss selber eine hinreichende Begründung enthalten und sich mit den entscheidenden Erwägungen der Vorinstanzen argumentativ auseinandersetzen. Insbesondere genügen bloss pauschale Verweise auf vorinstanzliche Eingaben nicht. Aus den Ausführungen der Beschwerdeführer gegenüber dem Bundesgericht ergibt sich unter anderem nicht, worauf sich die bei den Vorinstanzen vorgelegten Bescheinigungen und Photographien genau beziehen sollen.
Im Übrigen befassten sich die Vorinstanzen sehr wohl mit Dokumenten, welche die Beschwerdeführer vorgelegt hatten. So ist dem Beschluss des Regierungsrates vom 27. Mai 2009, auf den sich das Verwaltungsgericht in zulässiger Weise bezieht, namentlich zu entnehmen, dass es sich bei den Photographien um gestellte Aufnahmen handle, die ein trautes eheliches Heim vorgaukeln würden. Photographien, die den Nachweis für gemeinsam gepflegte Sozialkontakte (Geburtstage, Feiern, sonstige Zusammenkünfte mit Freunden oder Verwandten) oder für andere gemeinsame Freizeitaktivitäten erbringen können, seien dagegen nicht präsentiert worden. Mit diesen Argumenten, die tatsächlich gegen eine echte Ehe und auch gegen die nachträgliche Entwicklung zu einer schützenswerten Gemeinschaft sprechen, setzen sich die Beschwerdeführer überhaupt nicht auseinander.
Zwar meinen diese, sie hätten mit der verwaltungsgerichtlichen Beschwerde weitere Beweise angeboten, wobei ihr Verfahrensbevollmächtigter in den drei der Beschwerdeerhebung vorangegangenen Wochen unter den Folgen eines unverschuldeten Sturzes gelitten habe, weswegen eine Nachfrist für die Einreichung weiterer Belege hätte erwartet werden dürfen. Es fehlen jedoch jegliche Angaben, was für zusätzliche Beweismittel vorgelegt werden sollten und ob die Vorinstanz vom Hinderungsgrund wusste. Auch leuchtet nicht ein, warum die angeblichen Belege nicht spontan in den Tagen und Wochen nach Beschwerdeerhebung nachgereicht wurden. Das Verwaltungsgericht ging zudem in nicht zu beanstandender Weise davon aus, dass in Aussicht gestellte Belege und Angaben zur Gesundheit der Beschwerdeführerin nichts am Vorliegen einer Scheinehe ändern würden. Damit befassen sich die Beschwerdeführer auch nicht.
2.4 Das blosse Zusammenwohnen genügt nicht für eine nachträgliche Wandlung einer Scheinehe zu einer echten Lebensgemeinschaft (vgl. zum "amor superveniens" BGE 121 II 1 E. 2d S. 4 f.; Urteil 2A.66/2006 vom 12. Juni 2007 E. 3.7). Es ist nach dem Dargelegten weder ersichtlich noch dargetan worden, dass der Schluss der Vorinstanzen, es bestehe eine Scheinehe, willkürlich oder unter Verletzung des Gehörsanspruchs (hiezu BGE 134 I 83 E. 4.1 S. 88) zustande gekommen ist. Insoweit ist unerheblich, ob die teilinvalide Beschwerdeführerin namentlich ein Interesse daran hat, dass der Beschwerdeführer ihre finanzielle Lage verbessert, und ob sie selber von einer echten Ehebeziehung ausgeht (vgl. Urteil des Bundesgerichts 2C_587/2008 vom 4. Dezember 2008 E. 4.1 mit Hinweisen). Gegen die Annahme der Scheinehe spricht damit ebenso wenig, dass sie infolge der Heirat von Biel nach Zürich gezogen ist. Wenn sie in Biel auf nachbarliche und familiäre Hilfe angewiesen war, so kann entgegen ihren Äusserungen auch nicht behauptet werden, sie habe dort wegen der Heirat auf eine "völlig unabhängige Existenz" verzichtet.
3. 3.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich demnach als offensichtlich unbegründet, soweit auf sie überhaupt einzutreten ist. Daher kann sie im vereinfachten Verfahren nach Art. 109 BGG mit summarischer Begründung und unter ergänzender Bezugnahme auf die Ausführungen in den Entscheiden des Regierungsrates vom 27. Mai 2009 und des Verwaltungsgerichts vom 21. Oktober 2009 erledigt werden. Auf die gleichzeitig erhobene subsidiäre Verfassungsbeschwerde ist von vornherein nicht einzutreten. Die Beschwerdeführer machen keine zulässigen zusätzlichen Rügen geltend, die nicht bereits im Rahmen der erstgenannten Beschwerde zu behandeln waren (vgl. Art. 113 und 117 in Verbindung mit Art. 106 Abs. 2 BGG; BGE 133 I 185, insbes. E. 6; 129 I 217 E. 1.4 S. 222; 118 Ia 232 E. 1a S. 235). Wegen des Devolutiveffektes ist auch auf den Antrag nicht einzutreten, die dem Urteil des Verwaltungsgerichts unmittelbar vorangegangenen Entscheide des Regierungsrates und der Sicherheitsdirektion aufzuheben (vgl. BGE 134 II 142 E. 1.4 S. 144).
3.2 Bei diesem Ausgang werden die Beschwerdeführer kostenpflichtig (Art. 65 f. BGG). Wohl haben die Beschwerdeführer um unentgeltliche Rechtspflege und Verbeiständung ersucht; ihr Antrag ist indes bereits wegen Aussichtslosigkeit ihres Begehrens abzuweisen (vgl. Art. 64 BGG). Parteientschädigungen sind nicht geschuldet (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern zu gleichen Teilen und unter solidarischer Haftung auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 20. April 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Merz