Erwägungen:
1. X._, 1982 geborene Türkin, heiratete am 7. Januar 2010 in ihrer Heimat den 1962 geborenen Schweizer Bürger Y._. Am 14. Juli 2010 wies das Migrationsamt des Kantons Zürich ihr Gesuch um Einreisebewilligung zum Verbleib beim Ehemann ab; den dagegen erhobenen Rekurs wies die Sicherheitsdirektion des Kantons Zürich mit nicht angefochtenem Entscheid vom 21. Februar 2011 ab.
Am 29. September 2011 liess sich X._ durch das französische Generalkonsulat in Istanbul ein Schengenvisum ausstellen, welches sie berechtigte, sich zwischen dem 1. Oktober und 15. November 2011 während maximal 30 Tagen in der Schweiz aufzuhalten. Zu einem - jedenfalls zunächst - nicht näher bekannten Zeitpunkt reiste sie in die Schweiz ein. Am 15. November 2011 stellte Ehemann Y._ beim Migrationsamt ein Gesuch um Aufenthaltsbewilligung (Familiennachzug) für sie.
Mit Verfügung vom 24. Januar 2012 wies das Migrationsamt des Kantons Zürich X._ aus der Schweiz weg; es ordnete die unverzügliche Ausreise an und sistierte die Prüfung des Bewilligungsgesuchs bis zum Nachweis der erfolgten Ausreise. Der gegen diese Verfügung erhobene Rekurs an die Sicherheitsdirektion des Kantons Zürich blieb erfolglos, und mit Urteil vom 21. März 2012 wies das Verwaltungsgericht des Kantons Zürich die gegen den Rekursentscheid vom 16. Februar 2012 erhobene Beschwerde ab.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 8. Mai 2012 (zur Post gegeben am 10. Mai 2012) beantragen X._ und Y._ dem Bundesgericht hauptsächlich, das Urteil des Verwaltungsgerichts sei aufzuheben und der Beschwerdeführerin sei die Aufenthaltsbewilligung zu erteilen; eventuell sei der Streitgegenstand an das Migrationsamt zurückzuweisen mit der Verpflichtung, den Sachverhalt rechtskonform abzuklären und anschliessend einen neuen Entscheid zu erlassen.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
2. 2.1 Streitgegenstand ist nicht die Erteilung bzw. Verweigerung der von der Beschwerdeführerin beanspruchten Aufenthaltsbewilligung, sondern allein die ihr auferlegte Verpflichtung, sofort auszureisen und den Ausgang des Bewilligungsverfahrens im Ausland abzuwarten (s. dazu nachfolgend E. 2.2). Die vorliegende Beschwerde ist daher von vornherein insofern unzulässig, als die Beschwerdeführer die Erteilung der Aufenthaltsbewilligung an die Beschwerdeführerin beantragen.
2.2 Ausgangspunkt des Verfahrens ist die Verfügung des Migrationsamtes vom 24. Januar 2012. Diese stützt sich namentlich (nebst auf Art. 64 AuG) auf Art. 17 AuG. Danach haben Ausländer oder Ausländerinnen, die für einen vorübergehenden Aufenthalt rechtmässig eingereist sind und die nachträglich eine Bewilligung für einen dauerhaften Aufenthalt beantragen, den Entscheid im Ausland abzuwarten (Abs. 1); werden die Zulassungsvoraussetzungen offensichtlich erfüllt, so kann die zuständige kantonale Behörde den Aufenthalt während des Verfahrens gestatten (Abs. 2).
Entscheide, die in Anwendung von Art. 17 AuG ergehen, stellen (erstinstanzliche) Zwischenentscheide im Bewilligungsverfahren dar (Urteile 2C_483/2009 vom 18. September 2009 E. 2.2 und 2D_98/2008 vom 12. Dezember 2008 E. 1.3). Sie sind nur unter den Voraussetzungen von Art. 92 oder 93 BGG beim Bundesgericht anfechtbar. Da sie provisorisch, für die beschränkte Dauer des Bewilligungsverfahrens, die Frage der Landesanwesenheit regeln, handelt es sich (nicht anders als bei Zwischenverfügungen von Rechtsmittelbehörden in ausländerrechtlichen Bewilligungsverfahren über die Gewährung oder Verweigerung der aufschiebenden Wirkung) um Entscheide über vorsorgliche Massnahmen. Mit der Beschwerde gegen Entscheide über vorsorgliche Massnahmen kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 98 BGG). Sodann gilt die Vorschrift über den Friststillstand gemäss Art. 46 Abs. 1 BGG nicht in Verfahren betreffend aufschiebende Wirkung und andere vorsorgliche Massnahmen (Art. 46 Abs. 2 BGG).
2.3 Wie die Beschwerdeführer selber feststellen, ist ihnen das am 23. März 2012 versandte Urteil des Verwaltungsgerichts am 26. März 2012 eröffnet worden. Die Beschwerdefrist von 30 Tagen (Art. 100 Abs. 1 BGG) lief mithin am 25. April 2012 ab; da in Anbetracht von Art. 46 Abs. 2 BGG der Friststillstand über Ostern (Art. 46 Abs. 1 lit. a BGG) nicht greift, ist die erst am 10. Mai 2012 bei der Post aufgegebene Beschwerde offensichtlich verspätet. Zudem lassen sich der Rechtsschrift keine in einer den Anforderungen von Art. 106 Abs. 2 BGG genügenden Weise erhobenen und begründeten Verfassungsrügen (Art. 98 BGG) entnehmen.
2.4 Auf die Beschwerde ist mit Entscheid des Einzelrichters im vereinfachten Verfahren nach Art. 108 BGG nicht einzutreten.
2.5 Dem auch für das bundesgerichtliche Verfahren gestellten Gesuch um unentgeltliche Rechtspflege und Verbeiständung kann schon wegen Aussichtslosigkeit der Beschwerde nicht entsprochen werden (Art. 64 BGG).
Damit sind die Gerichtskosten entsprechend dem Verfahrensausgang den Beschwerdeführern nach Massgabe von Art. 65 und Art. 66 Abs. 1 zweiter Satz und Abs. 5 BGG aufzuerlegen.
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 11. Mai 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller