Faits:
A. Ressortissant turc né en 1968, X._ est entré en Suisse le 4 avril 2002 pour y déposer une demande d'asile, qui a été rejetée le 19 juin 2003 par l'Office fédéral des réfugiés, actuellement l'Office fédéral des migrations (ci-après: l'Office fédéral). La Commission suisse de recours en matière d'asile n'est pas entrée en matière sur son recours contre cette décision.
Le 13 février 2006, X._, qui est divorcé depuis le 22 novembre 2005 et père de trois enfants vivant en Turquie, a épousé la ressortissante suisse Y._, mère de trois enfants avec Z._ et divorcée de ce dernier depuis 2004. Il a de ce fait obtenu une autorisation de séjour le 24 avril 2006.
B. Sur réquisition du Service des migrations du canton de Neuchâtel (ci-après: le Service des migrations), la police cantonale a rendu un rapport d'enquête le 20 décembre 2006 dont il ressortait notamment que l'ex-époux de Y._ disait se rendre parfois directement le matin chez cette dernière pour garder leurs enfants; que X._ travaillait dans la restauration à A._ (BE) et, ne disposant pas d'un permis de conduire, dormait sur place pour ne rentrer au domicile conjugal de B._ (NE) que durant ses jours de congé; et qu'il cherchait un emploi à C._ (NE). L'intéressé a en outre démontré qu'il disposait d'un abonnement de train pour les trajets jusqu'à son lieu de travail et qu'il envoyait la somme mensuelle de 500 fr. à ses trois enfants demeurés en Turquie. Le 22 août 2007, le Service des migrations a délivré à l'intéressé une autorisation de séjour valable jusqu'au 13 février 2008.
Il ressort d'un second rapport d'enquête du 5 avril 2008 que Y._ a été hospitalisée en janvier 2008 pour une maladie affectant la mémoire; selon la mère de cette dernière, X._ ne lui rendait que rarement visite, contrairement à son ex-époux Z._. En outre, une voisine a déclaré ne plus avoir rencontré X._ au domicile conjugal depuis l'hospitalisation de son épouse. Le Conseil communal de B._ a de plus informé le Service des migrations de ce que l'ex-mari de Y._ avait séjourné régulièrement dans le même appartement que celle-ci entre 2005 et 2006, alors que X._ n'y avait jamais été vu. L'intéressé a quant à lui affirmé travailler dans le Vallon de D._ (NE) mais continuer à rechercher un emploi à C._, rentrer chez lui lorsque ses horaires de travail le lui permettaient et rendre régulièrement visite à son épouse hospitalisée, puis placée dans un foyer à partir du 1er septembre 2008. Le 18 janvier 2009 [recte: 2010], il a en outre produit une attestation du foyer hébergeant son épouse aux termes de laquelle il lui avait rendu visite, depuis le 2 juillet 2009 (date de son entrée à la résidence), les 18 novembre, 16 décembre 2009, 4, 7 et 11 janvier 2010.
Par décision du 12 janvier 2010, le Service des migrations a refusé à X._ la prolongation de son autorisation de séjour et lui a imparti un délai pour quitter la Suisse. Le recours formé contre cette décision a été rejeté par le Département de l'économie neuchâtelois (ci-après: le Département) en date du 23 juillet 2010. Par arrêt du 31 janvier 2011, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel (ci-après: le Tribunal cantonal) a rejeté le recours formé par X._ contre la décision du 23 juillet 2010.
C. Agissant par la voie du recours en matière de droit public, X._, indiquant être domicilié à E._ (NE), demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal cantonal du 31 janvier 2011 ainsi que la décision du 23 juillet 2010, et de prolonger l'autorisation de séjour en sa faveur.
Le Service des migrations et le Département se réfèrent aux motifs de l'arrêt du Tribunal cantonal et concluent, pour autant que celui-ci soit recevable, au rejet du recours. Le Tribunal cantonal propose son rejet.
La requête d'effet suspensif du recourant a été accordée par ordonnance présidentielle du 9 mars 2011.

Considérant en droit:
1. Comme la procédure de non-renouvellement de l'autorisation de séjour en faveur du recourant a été initiée en 2008 et que la décision de refus du Service des migrations date du 12 janvier 2010, la présente cause est soumise à la loi fédérale du 16 décembre 2005 sur les étrangers, qui est entrée en vigueur le 1er janvier 2008 (RS 142.20; LEtr; cf. art. 126 al. 1 LEtr).
2. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral ni le droit international ne donnent droit. Le recourant fait notamment valoir une violation des art. 8 CEDH, 42 al. 1 et 49 LEtr. Comme il est marié à une ressortissante suisse, ces dispositions sont susceptibles, même s'il ne fait pas ménage commun avec son épouse, de lui conférer un droit au regroupement familial et à la prolongation de son autorisation de séjour. En pareilles circonstances, il faut admettre un droit, sous l'angle de l'art. 83 let. c ch. 2 LTF, lui permettant de former un recours en matière de droit public, car la question de savoir si, concrètement, le recourant peut être mis au bénéfice d'une telle autorisation, notamment s'il remplit l'exception à l'exigence du ménage commun prévue à l'art. 49 LEtr, ressortit au fond et non à la recevabilité (arrêts 2C_871/2010 du 7 avril 2011 consid. 1.2.1; 2C_304/2009 du 9 décembre 2009 consid. 1.1, non publié aux <ref-ruling>).
Pour le surplus, l'arrêt attaqué est une décision finale (art. 90 LTF), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites (art. 42 LTF) par le destinataire de l'arrêt attaqué qui a qualité pour recourir au sens de l'art. 89 al. 1 LTF, le recours en matière de droit public est par conséquent recevable.
En revanche, dans la mesure où le recourant s'en prend à la décision du Département du 23 juillet 2010, son recours est irrecevable en raison de l'effet dévolutif complet du recours déposé auprès du Tribunal cantonal (<ref-ruling> consid. 1.2 p. 104).
Enfin, en tant qu'elle est tardive (cf. art. 102 al. 1 LTF), la détermination de l'Office fédéral ne pourra pas être prise en considération.
3. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'art. 106 al. 2 LTF. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant.
En outre, le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. art. 105 al. 1 LTF), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. art. 97 al. 1 LTF), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué. En particulier, la Cour de céans n'entrera pas en matière sur les critiques de type appellatoire du recourant portant sur l'état de fait ou sur l'appréciation des preuves et se fondera sur les faits ressortant de l'arrêt attaqué (<ref-ruling> consid. 5.2.2 p. 322).
4. L'arrêt querellé a nié l'existence d'une communauté familiale entre le recourant et son épouse (art. 42 al. 1 LEtr), au motif qu'après seulement un mois et demi de vie commune au cours de leur mariage, le recourant s'était constitué un domicile séparé et que les relations de couple n'avaient pas été maintenues (art. 49 LEtr), au contraire des rapports que Y._ entretenait avec son ex-mari et leurs enfants communs. Subsidiairement, au cas où l'on prêterait foi aux allégations du recourant selon lesquelles il se rendait régulièrement chez son épouse, l'arrêt retient l'existence d'un abus de droit dès lors que la communauté familiale serait alors de pure façade (art. 51 al. 1 let. a LEtr).
5. Le recourant se plaint d'une violation de son droit d'être entendu au motif que le Tribunal cantonal a refusé d'auditionner les témoins proposés, qui "pouvaient certifier de la réalité des sentiments du recourant envers son épouse", et n'a pas tenu compte de leurs "témoignages écrits". Ne mentionnant pas la condamnation pénale du recourant pour avoir habité illégalement, entre juin 2005 et février 2006, auprès de sa future épouse, l'arrêt attaqué serait par ailleurs insuffisamment motivé.
5.1 Eu égard à son caractère formel, il convient d'analyser en priorité ce grief (arrêt 2C_871/2010 du 7 avril 2011 consid. 2).
Garanti par l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 282; arrêt 2C_839/2010 du 25 février 2011 consid. 5.2). Ce droit ne concerne toutefois que les éléments qui sont pertinents pour décider de l'issue du litige et ne s'oppose pas à ce que l'autorité mette un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 2.1 p. 428; arrêt 2C_910/2010 du 5 mai 2011 consid. 3.1).
Le droit d'être entendu comprend aussi l'obligation pour l'autorité de motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle (<ref-ruling> consid. 2a/aa p. 17; arrêt 1C_308/2010 du 20 décembre 2010 consid. 3.1.2, non publié aux <ref-ruling>). Pour répondre à ces exigences, le juge doit mentionner, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision. Il n'a toutefois pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions qui, sans arbitraire, apparaissent décisives pour l'issue du litige. Il suffit que le justiciable puisse apprécier correctement la portée de la décision et l'attaquer à bon escient (<ref-ruling> consid. 5.2 p. 236; arrêt 2C_871/2010 du 7 avril 2011 consid. 2.1).
5.2 En l'espèce, le Tribunal cantonal n'a pas versé dans l'arbitraire en écartant, sur la base d'une appréciation anticipée des preuves, les demandes d'instruction formées par le recourant et en se dispensant de mentionner expressément les déclarations écrites des deux témoins V._ et W._, cousins du recourant, dont l'audition avait été refusée. En effet, la réalité des sentiments du recourant envers son épouse que les deux témoignages litigieux étaient censés étayer n'est pas décisive au regard de la motivation principale retenue par l'arrêt attaqué, qui nie l'existence d'une communauté conjugale effective et ne porte pas sur une communauté de pure façade. Au demeurant, le recourant a pu produire deux attestations rédigées par ses cousins, qui confirment vaguement que ce dernier rendait visite à son épouse hospitalisée, puis placée dans un établissement. Celles-ci n'apportent aucun élément pertinent additionnel par rapport au relevé du foyer sur lequel apparaissent les quelques dates auxquelles des visites ont été effectuées. Enfin, le ménage commun dont le recourant se prévaut et qu'il aurait formé avec son épouse avant leur mariage, n'entre pas en ligne de compte au titre des art. 42 al. 1 et 49 LEtr qui s'appliquent aux personnes déjà mariées ("conjoint"; "Ehegatten"; "coniugi"; cf. MARTINA CARONI, Bundesgesetz über die Ausländerinnen und Ausländer [Martina Caroni/Thomas Gächter/Daniela Thurnherr (éds)], Berne 2010, p. 396 N 33).
Le grief tiré de la violation du droit d'être entendu est ainsi mal fondé.
6. Le recourant critique ensuite, sous l'angle de l'arbitraire et de l'abus du pouvoir d'appréciation, les faits constatés et leur appréciation par le Tribunal cantonal. Il conteste en particulier qu'il y ait eu interruption de la communauté conjugale depuis qu'il s'est constitué un domicile séparé, qu'il n'aurait quasiment jamais rendu visite à son épouse, qu'il n'aurait pas de contacts étroits avec elle et que l'ex-époux de Y._ était présent au domicile de celle-ci durant plusieurs jours par semaine.
En l'occurrence, les éléments factuels dont se prévaut le recourant reviennent à substituer sa propre version des faits à celle retenue par les juges cantonaux. Ses arguments s'épuisent en de simples critiques appellatoires, qui sont irrecevables au regard des art. 97 al. 1 et 106 al. 2 LTF (cf. consid. 3 supra), d'autant qu'il mentionne "différentes preuves qui ont été administrées" sans indiquer leur nature ni en quoi elles démontreraient, "à l'évidence, qu'une communauté conjugale existait de fait" (recours, p. 4). Au surplus, le recourant n'indique pas dans quelle mesure les juges cantonaux auraient constaté (ou omis de constater) ou apprécié ces faits et preuves de façon insoutenable ni en quoi ceci aboutirait à un résultat choquant. De plus, il ressort de l'arrêt querellé, notamment des rapports d'enquêtes y cités, que le Tribunal cantonal n'a pas, comme le prétend le recourant, fondé l'entier de sa motivation sur les déclarations de l'ex-époux de Y._, mais aussi sur des indications, notamment, du conseil communal de B._ et du tuteur des enfants de l'épouse.
En tant qu'ils sont recevables, les griefs tirés de l'arbitraire dans la constatation des faits et l'appréciation des preuves, ainsi que de l'abus du pouvoir d'appréciation doivent dès lors être écartés. Le Tribunal fédéral se fondera donc exclusivement sur les faits établis par le Tribunal cantonal.
7. Le recourant se plaint d'une violation de l'art. 8 CEDH, ainsi que des art. 42 al. 1 et 49 LTF.
7.1 L'art. 8 CEDH consacre le droit au respect de la vie privée et familiale (par. 1), tout en admettant qu'il puisse y avoir une ingérence dans son exercice à certaines conditions (par. 2). Pour pouvoir invoquer la protection familiale découlant de l'art. 8 par. 1 CEDH, l'étranger doit entretenir une relation étroite et effective (<ref-ruling> consid. 5 p. 269; arrêt 2C_537/2009 du 31 mars 2010 consid. 2.2.3) avec une personne de sa famille ayant le droit de résider durablement en Suisse (cf. <ref-ruling> consid. 1.3.1 p. 145 s.).
En vertu de l'art. 42 al. 1 LEtr, le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. Si des époux ne souhaitent pas se voir régulièrement, notamment parce qu'ils auraient opté pour une union reposant sur le principe du "living apart together", il n'est pas nécessaire que le conjoint étranger demeure en Suisse (arrêt 2C_388/2009 du 9 décembre 2009 consid. 4). En outre, l'existence de contacts purement amicaux entre les époux, même s'ils étaient entretenus à raison de deux ou trois fois par semaine, ne suffit pas à fonder une communauté conjugale réellement vécue (arrêts 2C_575/2009 du 1er juin 2010 consid. 3.6; 2C_285/2009 du 4 février 2010 consid. 2.2).
L'exigence du ménage commun n'est toutefois pas applicable lorsque la communauté familiale est maintenue et que des raisons majeures justifiant l'existence de domiciles séparés peuvent être invoquées (art. 49 LEtr), ces conditions étant cumulatives (arrêt 2C_759/2010 du 28 janvier 2011 consid. 4.2). Selon l'art. 76 de l'ordonnance fédérale du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), une exception à l'exigence du ménage commun peut résulter de raisons majeures dues, notamment, à des obligations professionnelles ou à une séparation provisoire en raison de problèmes familiaux importants. Les motifs professionnels susceptibles de constituer une raison majeure au sens de l'art. 49 LEtr doivent dans tous les cas être objectifs et d'une certaine consistance. Ainsi, n'importe quel prétexte professionnel ne saurait justifier de faire exception à l'exigence d'un domicile commun. D'une façon générale, un motif apparaît d'autant plus sérieux et digne d'être pris en considération que les époux ne peuvent remédier à leur situation de vie séparée qu'au prix d'un préjudice important (arrêts 2C_871/2010 du 7 avril 2011 consid. 3.1; 2C_544/2010 du 23 décembre 2010 consid. 2.3.1). Si la recherche d'un travail peut, selon les circonstances, être considérée comme une raison majeure justifiant un domicile séparé des époux au sens de l'art. 49 LEtr, ceci ne vaut que pour une période temporaire correspondant au temps raisonnablement nécessaire à l'époux pour trouver un (nouvel) emploi (arrêt 2C_871/2010 précité, consid. 3.2).
Au demeurant, il appartient à l'étranger d'établir de sa propre initiative que la communauté conjugale perdure en dépit de domiciles séparés des époux de longue date, et qu'il existe des raisons majeures pour la vie séparée (arrêt 2C_575/2009 du 1er juin 2010 consid. 3.7). Cette obligation, qui se laisse déduire de l'art. 90 LEtr, s'explique par le fait que la vie séparée des époux emporte la présomption de la dissolution de la communauté conjugale et que les faits à prouver ressortissent au domaine personnel des époux, que ceux-ci connaissent davantage et sont donc mieux à même d'étayer que l'autorité de police des étrangers (arrêts 2C_50/2010 du 17 juin 2010 consid. 2.2; 2C_575/2009, précité, consid. 3.5 s.).
7.2 En l'occurrence, l'arrêt attaqué a constaté sans arbitraire (consid. 6) qu'après avoir fait ménage commun pendant un mois et demi au cours de leur mariage, le recourant et son épouse n'ont plus partagé le même domicile, ce que le recourant concède en insistant sur l'éloignement de son lieu de travail et les horaires irréguliers, qui l'empêchaient de revenir au domicile conjugal "durant certains jours de la semaine". En conséquence, l'une des conditions de l'art. 42 al. 1 LEtr justifiant le regroupement familial en faveur du recourant n'est, sous réserve de l'exception de l'art. 49 LEtr, plus remplie.
Si les obligations professionnelles invoquées par le recourant étaient susceptibles de tomber sous le coup des "raisons majeures" réservées à l'art. 49 LEtr, les juges cantonaux ont, de façon nullement insoutenable, retenu des éléments faisant douter du maintien de la communauté familiale. En particulier, l'arrêt fait état de l'absence de visites et de relations suivies - plus que les visites sporadiques constatées - entre le recourant et son épouse, tant avant qu'après la maladie de celle-ci, ainsi qu'avec les enfants de Y._; il mentionne en outre le temps important que passait l'ex-époux de Y._ auprès de cette dernière et des enfants. Sur la base des faits établis par le Tribunal cantonal, on peut ajouter que le recourant, qui dit - sans l'étayer - travailler dans une pizzeria de C._ depuis mars 2010, avait expliqué aux autorités cantonales, en 2006 puis à nouveau en 2008, qu'il recherchait un emploi dans cette ville, à proximité du domicile de son épouse; or, la durée alléguée de quatre années passées à rechercher un emploi dans la restauration à C._ afin de pouvoir remédier à la séparation d'avec son épouse ne saurait être considérée comme raisonnable au regard de l'art. 49 LEtr ni témoigner d'efforts sérieux pour y parvenir (cf. arrêt 2C_871/2010 précité, consid. 3.2).
De surcroît, il ne ressort pas de l'arrêt querellé et il n'est pas démontré par le recourant que ce dernier aurait - de son propre mouvement et comme il lui appartenait de le faire - étayé ses recherches d'emploi, la fréquence de ses visites auprès de son épouse et des trois enfants nés d'un premier mariage, voire son empêchement objectif de se rendre plus souvent à B._, de même que tout autre élément pertinent susceptible de renverser la présomption de fait selon laquelle la communauté familiale avait pris fin.
7.3 Il découle de ce qui précède que le recourant ne faisant plus ménage commun avec son épouse, il ne peut déduire un droit à une autorisation de séjour de l'art. 42 LEtr. La communauté familiale n'étant pas maintenue, il ne peut davantage se fonder sur l'art. 49 LEtr. Dès lors que, contrairement à ce qu'il prétend, le recourant n'a pas maintenu de contacts étroits et effectifs avec son épouse à la suite de la constitution d'un domicile distinct, il ne peut pas non plus s'opposer au refus de prolonger son autorisation de séjour sur la base de l'art. 8 CEDH. Etant donné que les conditions légales pour la prolongation d'une autorisation de séjour en Suisse ne sont plus remplies, on peut se dispenser d'examiner le motif subsidiaire que retient l'arrêt litigieux aux fins de refuser de prolonger l'autorisation de séjour du recourant, soit l'existence d'un mariage abusif selon l'art. 51 al. 1 let. a LEtr (<ref-ruling> consid. 3.2 p. 116).
8. Au surplus, aucun élément n'indique que le recourant aurait été victime de violences conjugales, qu'une réintégration sociale en Turquie, pays d'origine qu'il a quitté en 2002 pour entrer en Suisse, où vivent ses trois enfants issus d'un premier mariage, serait fortement compromise ou que d'autres motifs graves et exceptionnels commanderaient la poursuite de son séjour en Suisse au-delà de la fin de la communauté conjugale (cf. <ref-ruling> consid. 5.3 p. 4; arrêt 2C_781/2010 du 16 février 2011 consid. 2.2). Du reste, le recourant ne s'en prévaut pas, se contentant d'invoquer "une existence sans histoire" en Suisse. Par conséquent, l'application de l'art. 50 al. 1 let. b et al. 2 LEtr est exclue en l'espèce.
9. Les considérants qui précèdent conduisent au rejet du recours, dans la mesure où il est recevable. Succombant, le recourant doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service des migrations du canton de Neuchâtel, au Département de l'économie du canton de Neuchâtel, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des migrations.
Lausanne, le 13 juillet 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Chatton