Sachverhalt:
A. Der türkische Staatsangehörige X._ (geb. 1972) war in seiner Heimat mit einer Landsfrau verheiratet, mit welcher er drei Töchter hat (A._, geb. 1996, B._, geb. 1999, und C._, geb. 2004). Die Ehe wurde am 26. Dezember 2005 geschieden und das Sorgerecht über die Töchter dem Vater zugesprochen. Dieser reiste am 1. März 2006 zwecks Eheschliessung mit der Schweizer Bürgerin Y._ (geb. 1985) ohne die Kinder in die Schweiz ein. Die Heirat fand am 3. März 2006 statt, worauf X._ eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau erhielt. Am 4. Juli 2008 wurde um den Nachzug der Töchter ersucht.
Das Migrationsamt des Kantons Basel-Stadt wies das Gesuch am 23. Februar 2009 ab. Während des dagegen eingeleiteten Rekursverfahrens ersuchte das kantonale Migrationsamt um dessen Sistierung, weil aufgrund eines gegen X._ angehobenen Strafverfahrens und des Verdachts auf Scheinehe Abklärungen betreffend den Widerruf seiner Aufenthaltsbewilligung getroffen würden. X._ wurde am 17. September 2009 wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz zu einer bedingten Freiheitsstrafe von zwei Jahren, bei einer Probezeit von ebenfalls zwei Jahren, verurteilt. In der Folge wurde seine Aufenthaltsbewilligung jedoch weiterhin verlängert bzw. nicht widerrufen. Am 24. März 2010 lehnte das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt den Rekurs gegen die Verweigerung des Nachzugs der Töchter ab. Das Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht wies das dagegen erhobene Rechtsmittel mit Urteil vom 23. März 2011 ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 8. Mai 2011 beantragen die Eheleute X._ und Y._ dem Bundesgericht, das Urteil des Appellationsgerichts vom 23. März 2011 aufzuheben und den Nachzug der drei Töchter zu bewilligen.
Das kantonale Justiz- und Sicherheitsdepartement sowie das Bundesamt für Migration beantragen die Abweisung der Beschwerde. Das Appellationsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit auf sie einzutreten sei. Das kantonale Migrationsamt hat sich nicht vernehmen lassen.
C. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat das Gesuch um vorsorgliche Massnahmen, mit welchem die Eheleute X._ und Y._ die einstweilige oder besuchsweise Einreise der Kinder erreichen wollten, mit Verfügung vom 7. Juni 2011 abgewiesen.
D. Am 23. August 2011 hat die Verfahrensbevollmächtigte der Eheleute X._ und Y._ dem Bundesgericht ihre Honorarnote eingereicht.

Erwägungen:
1. Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts ausgeschlossen, wenn um eine Bewilligung ersucht wird, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Als Ausländer mit Aufenthaltsbewilligung, der mit einer Schweizerin verheiratet ist, kann der Beschwerdeführer einen Bewilligungsanspruch mindestens aus Art. 8 EMRK und <ref-law> ableiten, so dass auf seine fristgerecht eingereichte Beschwerde einzutreten ist. Wie es sich mit der Beschwerdeführerin verhält, die als Stiefmutter den Nachzug der Kinder begehrt, kann hier offen gelassen werden (vgl. BGE 2C_711/2010 vom 1. April 2011 E. 1; s. auch hienach E. 2.2 und 2.3).
2. 2.1 Die Vorinstanz hat den Nachzug gestützt auf Art. 44 AuG und Art. 8 EMRK sowie <ref-law> geprüft. Zwar hätten die Beschwerdeführer das Nachzugsgesuch innert der Fristen nach Art. 47 und 126 Abs. 3 AuG gestellt. Die Vorinstanz hat den Nachzug jedoch mit der Begründung abgelehnt, dass dieser dem Wohl der Kinder zuwiderlaufe. Im Übrigen hat sie offen gelassen, ob die Bewilligung des Nachzugs möglicherweise auch wegen der Gefahr von Sozialhilfeabhängigkeit oder wegen Rechtsmissbrauchs zu verweigern wäre (vgl. dazu Art. 51 AuG).
2.2 Die Beschwerdeführer machen geltend, das Wohl der Kinder stehe ihrem Nachzug nicht entgegen. Zudem sei eine Ungleichbehandlung der Schweizer Bürger gegenüber EU-Bürgern nicht gerechtfertigt. Mithin hätten sie nicht nur gemäss den erwähnten Bestimmungen, sondern auch nach Art. 42 AuG Anspruch auf den Nachzug der Kinder. Insbesondere könne sich die Beschwerdeführerin als Stiefmutter auf Art. 42 AuG berufen (vgl. zu EU-Bürgern: <ref-ruling> E. 3 und 4 S. 70 ff., 177 E. 3.2 S. 183 f.). Ausserdem habe der Beschwerdeführer angesichts der Dauer seiner Ehe in der Schweiz von über fünf Jahren nun auch selber einen Anspruch auf Erteilung der Niederlassungsbewilligung gemäss Art. 42 Abs. 3 AuG, weshalb er sich für den Nachzug der Kinder zusätzlich auf Art. 43 Abs. 1 AuG berufen könne.
2.3 Namentlich mit Blick auf Art. 3 der UNO-Kinderrechtskonvention vom 20. November 1989 (KRK; SR 0.107) ist das Wohl der Kinder bei jedem Gesuch um ihren Nachzug zu berücksichtigen. Soll der Nachzug in klarer Missachtung des Wohls sowie der familiären Bindungen des Kindes in seinem Herkunftsland erfolgen, ist das Nachzugsgesuch abzulehnen. Dabei spielt keine Rolle, auf welcher Grundlage bzw. Bestimmung das Nachzugsbegehren gestützt wird (vgl. zu Art. 42 und 43 AuG: <ref-ruling> E. 4.8 S. 87 f.; Urteile 2C_44/2010 vom 26. August 2010 E. 2.1.3 und 2C_526/2009 vom 14. Mai 2010 E. 9.1; zu Art. 44 AuG, Art. 8 EMRK und <ref-law>: erwähnter BGE 2C_711/2010 E. 2.3.1 und 2.7; zum Abkommen vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit [FZA; SR 0.142.112.681]: <ref-ruling> E. 5.2 S. 77). Zur Beurteilung, ob die Vorinstanz den Nachzug zu Recht mit der von ihr angegebenen Begründung verweigert hat, kann daher offen gelassen werden, auf welche Bestimmungen sich die Beschwerdeführer berufen können.
2.4 Im Zusammenhang mit der Frage, ob das Kindeswohl dem Nachzug entgegensteht, ist jedem Einzelfall angemessen Rechnung zu tragen. Insoweit ist regelmässig erforderlich, dass die Beziehung zum Kind intakt und bereits bisher sachgerecht gelebt worden ist (vgl. <ref-ruling> E. 4.3 S. 506 f., wo dieser Aspekt im Rahmen des Rechtsmissbrauchs genannt wird; erwähnter BGE 2C_711/2010 E. 2.3.1; erwähntes Urteil 2C_44/2010 E. 2.1.3; Urteil 2C_508/2009 vom 20. Mai 2010 E. 5.2). Auch wird grundsätzlich verlangt, dass die Betreuung des Kindes in der Schweiz als sichergestellt gelten kann. Die Migrationsämter haben im Weiteren aber nur beschränkte Eingriffsmöglichkeiten. Namentlich können sie sich nicht wie eine Vormundschaftsbehörde über den Willen der Eltern hinwegsetzen. Diesen ist es in erster Linie überlassen, über den Aufenthaltsort ihrer Kinder zu befinden. Dabei können wirtschaftliche Erwägungen mit eine Rolle spielen. Die Ausländerbehörden können den Nachzug von Kindern nur verweigern, wenn dieser offensichtlich und eindeutig gegen deren Interessen stattfinden soll (<ref-ruling> E. 4.8 S. 86 f. sowie die nicht publizierte E. 5; erwähnter BGE 2C_711/2010 vom 1. April 2011 E. 2.3.1 mit Hinweisen; erwähnte Urteile 2C_508/2009 E. 5.2 und 2C_526/2009 E. 9.1).
Wohl geht es nicht an, dass über den Vorbehalt des Kindeswohls die Praxis zum Nachzug durch einen Elternteil, die unter dem aufgehobenen Bundesgesetz vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; BS 1 121 und Änderungen gemäss Fussnote zur Ziff. I des Anhangs 2 zum AuG) bestand, unverändert fortgeführt wird (vgl. <ref-ruling> E. 4.1-4.7 S. 80 ff.). Unter dem damaligen Recht wurde insoweit verlangt, dass für die Bewilligung des Nachzugs besondere familiäre Gründe bzw. eine zwingend nötig gewordene Änderung der Betreuungsverhältnisse sprechen. Das war in der Regel nicht der Fall, wenn im Heimatland alternative Pflegemöglichkeiten gegeben waren, die dem Kindeswohl besser entsprachen. Dabei wurde namentlich berücksichtigt, ob und inwieweit die Kinder aus ihrer bisherigen Umgebung und dem ihnen vertrauten Beziehungsnetz gerissen wurden (vgl. <ref-ruling> E. 4.1 S. 80, 120 E. 2.1 S. 123 f.; <ref-ruling> E. 3.1, 5.3 und 5.5 S. 9 ff.; je mit Hinweisen). Wie ausgeführt, darf der rechtzeitig beantragte Nachzug von Kindern unter dem aktuellen Recht nur verweigert werden, wenn dieser offensichtlich und eindeutig gegen deren Interessen stattfinden soll. Das ist nicht schon dann der Fall, wenn in der Heimat Pflegemöglichkeiten bestehen, die dem Kindeswohl möglicherweise besser entsprechen, oder wenn die Übersiedlung zu einer Entwurzelung bzw. zu anfänglichen Integrationsschwierigkeiten führt. Solche Probleme werden vor allem bei Kindern, die bereits eingeschult wurden, regelmässig auftreten. Prinzipiell bestimmen die sorge- und obhutsberechtigten Eltern über den Aufenthaltsort ihrer Kinder, wenn sie eine intakte Beziehung zum Kind pflegen und sie sich auf einen Nachzugsanspruch berufen können.
2.5 Die Vorinstanz führt aus, die drei Kinder hätten nie zusammen mit ihrem Vater in der Schweiz gelebt und hätten ihn hier auch nie besucht. Daher seien sie mit der hiesigen Situation nicht vertraut. Zudem seien sie bereits vor der Scheidung der Eltern und im Wesentlichen seit ihrer Geburt im Dezember 1996 und 1999 sowie im Juli 2004 allein ihrer Mutter in der Türkei anvertraut worden. Der Beschwerdeführer sei seit August 1993 als Lastwagenchauffeur im Fernverkehr mit Arbeitsbewilligung für die Schweiz von 120 Tagen pro Jahr unterwegs gewesen. Kurz nach der Scheidung im Dezember 2005 habe er den Wohnsitz in die Schweiz verlegt. Zu diesem Zeitpunkt seien die Töchter neun, sechs und eineinhalb Jahre alt gewesen. In der Folge seien sie - obwohl die elterliche Sorge anlässlich der Scheidung dem Vater übertragen worden sei - unter der alleinigen Obhut der Mutter aufgewachsen, welche die ganze Kindheit hindurch ihre Hauptbezugsperson gewesen sei und noch immer sei. Die Mutter habe sich ununterbrochen um die Erziehung ihrer Töchter gekümmert. In der Türkei lebe auch die "ganze Verwandtschaft". Die Kinder seien demnach nur in der Türkei verwurzelt. Mit ihrem Vater hätten sie lediglich zeitweise und sporadischen Kontakt, auch wenn dieser seiner Behauptung zufolge regelmässig erfolge (Anrufe zwei- bis dreimal pro Woche und ein Besuch in jedem Quartal bzw. später nur noch zwei bis drei Mal im Jahr). Seit der Geburt der Kinder und zusätzlich seit der Einreise in die Schweiz im März 2006 sei er grossteils familienabwesend gewesen. Der Beschwerdeführer habe seine Töchter bis zu seiner Auswanderung "bestenfalls teilweise mitbetreut", was er jedoch nicht einmal substanziiert behauptet habe. Zudem würden diese bei einem Nachzug im Wesentlichen nicht von ihrem Vater, der voll erwerbstätig sei, sondern von ihrer Stiefmutter betreut werden, mit welcher eine Verständigung zunächst kaum möglich wäre. Die Beschwerdeführerin habe die Kinder lediglich anlässlich einzelner Besuche gesehen und könne sich mit ihnen sprachlich gar nicht verständigen. Sie habe keinen richtigen Bezug zu ihnen. Daher erscheine zweifelhaft, dass sie den ausschliesslich Türkisch sprechenden und aus einem fremden Kulturkreis stammenden Kindern eine substanzielle Hilfe bei der erforderlichen Integration bieten könne. Ausserdem bestünden keine Nachweise, dass das Wohl der Kinder von ihrer Mutter vernachlässigt worden sei. Ergänzend wird auf die weiteren Ausführungen der Vorinstanz verwiesen.
2.6 Den Beschwerdeführern zufolge dürfe das Scheidungsurteil, mit welchem dem Vater das alleinige Sorgerecht über die Töchter zugesprochen worden sei, nicht durch die einheimischen Behörden missachtet werden. Den Beschwerdeführern ist insoweit grundsätzlich Recht zu geben. Allerdings ist hier auch zu beachten, dass der Beschwerdeführer trotz Übertragung des alleinigen Sorgerechts auf ihn kurze Zeit später aus der Türkei ausreiste und die Kinder in der Heimat bei deren Mutter zurückliess, so dass diese weiterhin die hauptsächliche Erziehungsarbeit wahrzunehmen hatte. Damit hat er selber eine Situation geschaffen, die nicht dem Scheidungsurteil entsprach. Es dauerte noch über zweieinhalb Jahre nach der Scheidung, bis der Beschwerdeführer das Nachzugsgesuch stellte. Obwohl ihm also der Scheidungsrichter die Sorge über die Kinder anvertraute, war es faktisch die Mutter, welche sie noch längere Zeit weiter betreute. Dies beruhte auf dem freien Entschluss des Beschwerdeführers. Deshalb geht der Vorwurf der Verletzung von Bundeszivilrecht fehl.
Die Bedenken, welche die Vorinstanz in Bezug auf die Betreuung der Kinder in der Schweiz äussert, erscheinen plausibel. Es wurde seitens der Beschwerdeführer nicht geltend gemacht, die Stiefmutter habe sich persönlich bemüht, Vorkehrungen zu treffen, um sich mit den Kindern verständigen und für sie bestmöglich sorgen zu können (z.B. Erlernen ihrer Sprache). Dabei hat sie selber bemerkt, dass sie wegen der Verständigungsprobleme bisher keinen Bezug zu den Kindern hat. Auch hatte sie hinreichend Gelegenheit, sich entsprechend einzusetzen, zumal sie nicht erwerbstätig ist und angeblich mit dem Beschwerdeführer zusammenlebt. Ausserdem ist bei den Beschwerdeführern nicht von stabilen Verhältnissen auszugehen. Unter anderem musste die Beschwerdeführerin während der Ehe wiederholt - seit Januar 2007 fast monatlich - und bis Ende Februar 2010 für insgesamt über Fr. 55'000.-- betrieben werden (Stand März 2010). Insoweit belaufen sich die Verlustscheine auf knapp Fr. 39'000.-- (Stand August 2010). Auch der Beschwerdeführer musste einige Male für insgesamt etwas über Fr. 5'000.-- betrieben werden. Offenbar konnten oder wollten die Beschwerdeführer nicht dafür sorgen, dass weitere Betreibungen namentlich bei der Ehefrau unterbleiben (z.B. durch Bezahlung der Schulden und allenfalls zeitweise Aufnahme einer Erwerbstätigkeit durch die Ehefrau, um über die nötigen Finanzen zu verfügen). Bei einer Kontrolle der Polizei Anfang 2009 wurde zudem festgestellt, dass sich keine persönlichen Effekten der Beschwerdeführerin in der Wohnung befanden, in welcher der Beschwerdeführer lebte. Statt dessen hatte Letzterer einen Teil der Wohnung an einen Landsmann untervermietet. Hinzu kommt, dass der Beschwerdeführer am 17. September 2009 wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz zu zwei Jahren Freiheitsstrafe - bedingt - verurteilt wurde. Insoweit hätten die Behörden auch eine Beendigung des Aufenthalts des Beschwerdeführers in der Schweiz verfügen können (vgl. <ref-ruling>). Sie haben davon zunächst abgesehen, ihm aber am 6. April 2010 die Wegweisung angedroht, falls weitere Straftaten hinzukämen. Auch wenn die erwähnte Verurteilung nicht bereits zur Wegweisung des Beschwerdeführers geführt hat, spielt das deliktische Verhalten gleichwohl eine Rolle bei der Frage, ob es dem Wohl der Kinder entspricht, künftig mit dem Vater zu leben (Eignung zur Erziehung u.a. im Respekt der Rechtsordnung, prekärer Aufenthaltsstatus des Vaters und damit auch der Kinder).
2.7 Wie erwähnt, genügen anfängliche Integrationsschwierigkeiten und die Entwurzelung der Kinder grundsätzlich nicht, um einen fristgerecht beantragten Nachzug zu verweigern. Bei einer Gesamtschau sämtlicher Umstände ist jedoch nicht zu beanstanden, dass die Vorinstanz zum Ergebnis gelangt, das Wohl der Kinder stehe ihrem Nachzug entgegen. Je empfindlicher die Übersiedlung in die Schweiz die Kinder trifft, desto mehr ist zu verlangen, dass die Gesuchsteller den nachziehenden Kindern eine adäquate Betreuung in der Schweiz gewährleisten können und stabile Verhältnisse bestehen. Während die Kindsmutter von Anfang an und damit seit vielen Jahren die Betreuung ohne wesentliche Probleme wahrgenommen hat und sich die Kinder ihrem Alter entsprechend entwickeln konnten, erscheint nach dem Dargelegten die Ausgangslage in der Schweiz für die drei Töchter als besonders ungünstig. Daher durfte die Vorinstanz den Nachzug mit Blick auf das Wohl der Kinder verweigern (vgl. auch erwähntes Urteil 2C_508/2009). Zwar haben sich die beiden älteren Töchter in Schreiben dafür ausgesprochen, zu ihrem Vater ziehen zu dürfen. Es ist jedoch davon auszugehen, dass sie die erwähnten Verhältnisse bei den Beschwerdeführern nicht kennen bzw. nicht richtig beurteilen können. Im Übrigen ist nicht zu beanstanden, dass die allein erziehende Kindsmutter die älteren Töchter für einzelne Arbeiten im Haushalt heranzieht, auch wenn Letztere dies als lästig ansehen. Wozu die Kinder noch zusätzlich hätten angehört werden müssen, führen die Beschwerdeführer nicht aus, weshalb der insoweit erhobene Vorwurf der Verletzung von Art. 12 KRK fehlgeht.
2.8 Die Beschwerdeführer machen schliesslich eine Verletzung von <ref-law> geltend, weil das Verfahren bei den Vorinstanzen insgesamt fast drei Jahre gedauert habe. Sie legen jedoch nicht dar, sie hätten beim Appellationsgericht bereits eine entsprechende Rüge erhoben. Ausserdem führte namentlich ein gegen den Beschwerdeführer angehobenes Strafverfahren zu einer Verzögerung (s. lit. A hievor). Das kann den Migrationsbehörden nicht vorgeworfen werden. In Bezug auf das Verfahren beim Appellationsgericht ist zu bemerken, dass dieses die Begründung des Rechtsmittels der Beschwerdeführer und später deren Replik Ende Juni 2010 bzw. im November 2010 erhielt. Insoweit kann dem Appellationsgericht ebenfalls keine Rechtsverzögerung angelastet werden, nachdem es seinen Entscheid Anfang April 2011 eröffnet hat. Im Übrigen ergäbe sich aus einer Rechtsverzögerung kein absoluter Anspruch auf Bewilligung des beantragten Nachzugs (vgl. Urteile des Bundesgerichts 2A.414/2001 vom 5. Februar 2002 E. 5b/bb; 2C_757/2009 vom 6. Mai 2010 E. 6).
3. Demnach ist die Beschwerde unbegründet und abzuweisen, soweit auf sie einzutreten ist. Diesem Ausgang entsprechend haben die Beschwerdeführer die Gerichtskosten zu gleichen Teilen und unter solidarischer Haftung zu tragen (Art. 65 und 66 Abs. 1 und 5 BGG). Zwar haben die Beschwerdeführer um unentgeltliche Rechtspflege ersucht. Dieses Gesuch ist jedoch bereits wegen Aussichtslosigkeit der Beschwerde abzuweisen (vgl. <ref-law>; <ref-ruling> E. 2.3.1 S. 135 f.). Bedenken bestehen im Übrigen auch mit Blick auf die Bedürftigkeit. Parteientschädigungen werden nicht geschuldet (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit auf sie einzutreten ist.
2. Das Gesuch um unentgeltliche Prozessführung und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern zu gleichen Teilen und unter solidarischer Haftung auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 13. Dezember 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Merz