Faits:
A. X._, né en 1980, ressortissant libanais, est arrivé en Suisse le 16 avril 2003. La demande d'asile qu'il a déposée le 18 avril 2003 a été définitivement rejetée par décision de l'ancienne Commission de recours en matière d'asile du 5 février 2004. Celle-ci ordonnait également le renvoi de l'intéressé. Le 31 janvier 2005, cette même autorité a en outre confirmé le refus de l'instance inférieure d'entrer en matière sur une demande de réexamen de la requête d'asile.
Le 18 octobre 2005, l'intéressé s'est marié avec une ressortissante turque titulaire d'un permis d'établissement en Suisse. De ce fait, il a été mis au bénéfice d'une autorisation de séjour.
B. Les époux s'étant séparés dans le courant de l'année 2008, le Service de la population de la ville de Berne a refusé, le 13 juillet 2009, de prolonger le permis de séjour de X._ et lui a imparti un délai au 30 septembre 2009 pour quitter le territoire suisse.
L'intéressé a contesté cette décision auprès de la Direction de la police et des affaires militaires du canton de Berne (ci-après: la Direction), en concluant en substance à ce que cette instance procède à des mesures d'instruction, prolonge son permis de séjour jusqu'à l'issue de la procédure et suspende le renvoi jusqu'au prononcé d'une nouvelle décision. Le 13 juillet 2010, la Direction a rejeté le recours et imparti à X._ un nouveau délai au 27 août 2010 pour quitter le territoire suisse.
Le 10 août 2010, X._ a recouru contre cette décision auprès du Tribunal administratif du canton de Berne, en concluant à son annulation et à la prolongation de son autorisation de séjour, subsidiairement au renvoi du dossier à la Direction pour nouvelle instruction et à la mise en oeuvre de l'art. 13 let. f de l'ordonnance fédérale du 6 octobre 1986 limitant le nombre des étrangers (OLE; RO 1986 1791 et les modifications ultérieures).
Le 25 mai 2011, le Tribunal administratif a rejeté le recours. En substance, il a retenu que les conclusions nouvelles (en réforme) tendant à l'octroi d'une autorisation de séjour étaient irrecevables, car elles sortaient de l'objet du litige porté devant la Direction. Il s'est donc contenté de traiter la question de la violation du droit d'être entendu et celle de l'arbitraire dans l'établissement des faits. Il a rejeté le recours dans la mesure de sa recevabilité et fixé un nouveau délai de départ au 11 juillet 2011.
C. X._ forme un recours en matière de droit public et un recours constitutionnel subsidiaire auprès du Tribunal fédéral. Il conclut en substance à l'annulation de l'arrêt du 25 mai 2011 et au renouvellement de son autorisation de séjour, sous suite de frais et dépens. Il requiert en outre que son recours soit doté de l'effet suspensif, ce qui lui a été accordé par ordonnance présidentielle du 6 juillet 2011. La requête d'assistance judiciaire formée séparément a été rejetée par ordonnance de la IIème Cour de droit public de la même date.
L'Office fédéral des migrations, le Service de la population de la ville de Berne et la Direction proposent le rejet du recours, alors que l'autorité précédente renonce à se déterminer sur cette écriture en se référant à son jugement du 25 mai 2011.

Considérant en droit:
1. 1.1 L'objet du litige et les conclusions des parties ne peuvent porter que sur les questions examinées dans l'arrêt attaqué (cf. art. 99 al. 2 LTF).
En l'espèce, l'autorité précédente a déclaré irrecevables les conclusions (en réforme) portant sur le caractère injustifié du refus de la prolongation du permis de séjour et tendant au renouvellement de ce dernier. Elle est entrée en matière uniquement sur les conclusions (cassatoires) en annulation de la décision précédente pour violation du droit d'être entendu et établissement incorrect des faits. Or, le recours au Tribunal de céans ne contient aucune considération relative à une restriction indue de l'objet du litige par l'autorité précédente et tendant à contester le fait que cette instance a déclaré irrecevables les conclusions précitées. Les conclusions en renouvellement de l'autorisation de séjour prises devant le Tribunal fédéral sont, partant, irrecevables. Seules peuvent être examinées celles tendant à l'annulation de la décision entreprise, le recourant soulevant notamment les griefs de violation du droit d'être entendu et d'arbitraire dans l'établissement des faits.
1.2 Le Tribunal fédéral fonde son raisonnement juridique sur les faits constatés par l'autorité précédente (art. 105 al. 1 LTF), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 4.3 p. 62; arrêt 8C_220/2010 du 18 octobre 2010 consid. 3) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. art. 97 al. 1 LTF), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué. En particulier, le Tribunal fédéral n'entre pas en matière sur les critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 5.2.2 p. 322; arrêt 4A_615/2010 du 14 janvier 2011 consid. 2.1). Tel est précisément le cas en l'espèce, où la motivation à l'appui du grief d'arbitraire dans l'établissement des faits est purement appellatoire. Le grief en question est ainsi irrecevable faute de motivation pertinente.
1.3 Le Tribunal de céans se limitera ainsi à examiner les violations alléguées du droit d'être entendu du recourant. Point n'est besoin dans ces conditions de déterminer si le recours doit être traité comme recours en matière de droit public ou comme recours constitutionnel subsidiaire, le Tribunal fédéral se prononçant sur le grief en question avec le même pouvoir d'examen dans l'une et l'autre voie de droit. Au surplus, les autres conditions de recevabilité sont réunies; en particulier, le recours est dirigé contre une décision finale (cf. art. 90 et 117 LTF), rendue en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF et art. 113 LTF).
1.4 Aux termes de l'art. 99 al. 1 LTF, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. Cette exclusion vaut non seulement pour les faits postérieurs à la décision attaquée, mais également pour ceux que les parties ont omis d'alléguer dans la procédure cantonale. Ces dernières sont en effet tenues de présenter devant les instances précédentes tous les faits qui leur paraissent pertinents et d'offrir les moyens de preuve adéquats (<ref-ruling> consid. 2.2 p. 344).
Il s'ensuit que les pièces que le recourant a produites à l'appui de son recours au Tribunal fédéral (à savoir une lettre de son épouse et un certificat de travail établi par l'entreprise Y._ AG) sont irrecevables.
1.5 Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il ne se prononce toutefois sur la violation de droits fondamentaux que si les griefs en question sont motivés de façon détaillée (art. 106 al. 2 LTF).
2. Le recourant se plaint de violation de son droit d'être entendu, en relation avec le refus des autorités cantonales de mettre en ?uvre une confrontation entre lui et son épouse, mesure d'instruction jugée inutile à tous les stades de la procédure et en dernier lieu par l'autorité précédente.
2.1 Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst. - le recourant n'invoquant aucune norme cantonale qui aurait une portée plus large que cette disposition constitutionnelle - comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 282; <ref-ruling> consid. 5.1 p. 293). Le droit d'être entendu implique également pour l'autorité l'obligation de motiver sa décision; elle peut toutefois se limiter aux points essentiels pour la décision à rendre (<ref-ruling> consid. 3.3.1 p. 677). Enfin, le droit d'être entendu n'empêche pas l'autorité de mettre un terme à l'instruction lorsque, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude qu'elles ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 5.3 p. 236 et les arrêts cités).
2.2 En l'espèce, l'autorité précédente a tenu pour établi que le mariage avait duré moins de trois ans, de sorte que le recourant ne pouvait se prévaloir d'une autorisation fondée sur l'art. 50 al. 1 let. a de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20). Elle a abouti à cette conclusion en se fondant sur les propres déclarations du recourant qui, dans son mémoire de recours, admettait que la vie conjugale avait duré "presque" trois ans, ce qui aurait déjà permis de mettre un terme à l'instruction. La Cour cantonale a au surplus pris en considération les déclarations de l'épouse du recourant des 28 janvier et 20 mars 2009 et le fait, établi par pièces, que celle-ci avait pris un appartement pour vivre avec son nouvel ami dès le 1er octobre 2008. Ainsi, indépendamment de ce que la séparation datait alors déjà de plusieurs mois, il était certain qu'à cette date et donc avant l'échéance du délai de trois ans (art. 50 al. 1 let. a LEtr) qui serait arrivé à terme le 18 octobre 2008, l'union conjugale avait cessé d'exister. L'autorité précédente pouvait dès lors, sans arbitraire, refuser d'administrer d'autres preuves sur cette question. Le grief de violation du droit d'être entendu doit donc être rejeté.
3. Il s'ensuit que, dans les limites de sa recevabilité, le recours doit être rejeté.
Le recourant, qui succombe, doit supporter les frais de la présente procédure (cf. art. 66 al. 1 LTF) et n'a pas droit à des dépens.

Par ces motifs, le Tribunal fédéral prononce:
1. En tant que recevable, le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la mandataire du recourant, à la Commune municipale de Berne, à la Direction de la police et des affaires militaires et au Tribunal administratif du canton de Berne, Cour des affaires de langue française, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 20 janvier 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin