Faits: A. Ressortissant turc né en 1968, X._ est entré en Suisse le 4 avril 2002 pour y déposer une demande d'asile, qui a été rejetée le 19 juin 2003 par l'Office fédéral des réfugiés, actuellement l'Office fédéral des migrations (ci-après: l'Office fédéral). La Commission suisse de recours en matière d'asile n'est pas entrée en matière sur son recours contre cette décision. Le 13 février 2006, X._, qui est divorcé depuis le 22 novembre 2005 et père de trois enfants vivant en Turquie, a épousé la ressortissante suisse Y._, mère de trois enfants avec Z._ et divorcée de ce dernier depuis 2004. Il a de ce fait obtenu une autorisation de séjour le 24 avril 2006. B. Sur réquisition du Service des migrations du canton de Neuchâtel (ci-après: le Service des migrations), la police cantonale a rendu un rapport d'enquête le 20 décembre 2006 dont il ressortait notamment que l'ex-époux de Y._ disait se rendre parfois directement le matin chez cette dernière pour garder leurs enfants; que X._ travaillait dans la restauration à A._ (BE) et, ne disposant pas d'un permis de conduire, dormait sur place pour ne rentrer au domicile conjugal de B._ (NE) que durant ses jours de congé; et qu'il cherchait un emploi à C._ (NE). L'intéressé a en outre démontré qu'il disposait d'un abonnement de train pour les trajets jusqu'à son lieu de travail et qu'il envoyait la somme mensuelle de 500 fr. à ses trois enfants demeurés en Turquie. Le 22 août 2007, le Service des migrations a délivré à l'intéressé une autorisation de séjour valable jusqu'au 13 février 2008. Il ressort d'un second rapport d'enquête du 5 avril 2008 que Y._ a été hospitalisée en janvier 2008 pour une maladie affectant la mémoire; selon la mère de cette dernière, X._ ne lui rendait que rarement visite, contrairement à son ex-époux Z._. En outre, une voisine a déclaré ne plus avoir rencontré X._ au domicile conjugal depuis l'hospitalisation de son épouse. Le Conseil communal de B._ a de plus informé le Service des migrations de ce que l'ex-mari de Y._ avait séjourné régulièrement dans le même appartement que celle-ci entre 2005 et 2006, alors que X._ n'y avait jamais été vu. L'intéressé a quant à lui affirmé travailler dans le Vallon de D._ (NE) mais continuer à rechercher un emploi à C._, rentrer chez lui lorsque ses horaires de travail le lui permettaient et rendre régulièrement visite à son épouse hospitalisée, puis placée dans un foyer à partir du 1er septembre 2008. Le 18 janvier 2009 [recte: 2010], il a en outre produit une attestation du foyer hébergeant son épouse aux termes de laquelle il lui avait rendu visite, depuis le 2 juillet 2009 (date de son entrée à la résidence), les 18 novembre, 16 décembre 2009, 4, 7 et 11 janvier 2010. Par décision du 12 janvier 2010, le Service des migrations a refusé à X._ la prolongation de son autorisation de séjour et lui a imparti un délai pour quitter la Suisse. Le recours formé contre cette décision a été rejeté par le Département de l'économie neuchâtelois (ci-après: le Département) en date du 23 juillet 2010. Par arrêt du 31 janvier 2011, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel (ci-après: le Tribunal cantonal) a rejeté le recours formé par X._ contre la décision du 23 juillet 2010. C. Agissant par la voie du recours en matière de droit public, X._, indiquant être domicilié à E._ (NE), demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal cantonal du 31 janvier 2011 ainsi que la décision du 23 juillet 2010, et de prolonger l'autorisation de séjour en sa faveur. Le Service des migrations et le Département se réfèrent aux motifs de l'arrêt du Tribunal cantonal et concluent, pour autant que celui-ci soit recevable, au rejet du recours. Le Tribunal cantonal propose son rejet. La requête d'effet suspensif du recourant a été accordée par ordonnance présidentielle du 9 mars 2011.