Faits :
A.
A._, ressortissant tunisien, né en 1976, est entré sur le territoire suisse le 15 décembre 2005 en vue de préparer son mariage avec une ressortissante suisse, qui a eu lieu le 16 février 2006. Il a obtenu une autorisation de séjour pour regroupement familial, qui a été prolongée, pour la dernière fois, jusqu'au 14 mai 2011. Aucun enfant n'est issu de cette union.
A._ a bénéficié de prestations de l'aide sociale entre 2006 et 2007. Le 2 juin 2007, A._ est rentré seul en Tunisie; il est revenu en Suisse le 15 mai 2008 afin de poursuivre la vie conjugale avec son épouse. Par jugement du 10 septembre 2010, le président 5 de l'arrondissement judiciaire II Bienne-Nidau a constaté que les époux vivaient séparés depuis le 15 juillet 2010, autorisé l'épouse à continuer à vivre de manière séparée pour une durée indéterminée et condamné l'intéressé à emporter ses effets personnels du domicile conjugal.
B.
Après avoir entendu A._, le Service des Migrations de l'Office de la population et des migrations du canton de Berne (ci-après: le Service cantonal) a décidé, le 6 janvier 2012, de ne pas prolonger l'autorisation de séjour de l'intéressé, au motif que ce dernier invoquait abusivement les liens du mariage et des tentatives de réconciliation avec son épouse pour pouvoir prolonger son séjour en Suisse et compte tenu du fait qu'il ne pouvait être considéré comme bien intégré en Suisse.
Le 23 août 2013, la Direction de la police et des affaires militaires du canton de Berne (ci-après: la Direction cantonale) a rejeté le recours de A._. Le recours de l'intéressé au Tribunal administratif du canton de Berne (ci-après: le Tribunal administratif) a été rejeté le 14 mars 2014. Le Tribunal administratif a retenu que A._ ne pouvait se prévaloir d'une intégration réussie au sens de l'art. 50 al. 1 let. a LEtr.
C.
A._ forme un recours en matière de droit public et un recours constitutionnel subsidiaire contre le jugement du 14 mars 2014 du Tribunal administratif. Outre l'effet suspensif, il conclut à l'annulation de la décision attaquée et au renouvellement de son permis de séjour.
Le Tribunal administratif a formulé des observations, se référant pour le surplus à l'arrêt entrepris. Le Service cantonal a renoncé à se déterminer sur le recours. L'Office fédéral des migrations conclut au rejet de celui-ci. A._ a présenté des déterminations volontaires.
Par ordonnance du 29 avril 2014, le Président de la IIe Cour de droit public a accordé l'effet suspensif au recours.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Le recourant invoque l'art. 50 al. 1 LEtr selon lequel, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité subsiste dans certains cas. Dès lors qu'il n'est pas d'emblée exclu que les conditions de cette disposition soient remplies, il convient d'admettre le droit de recourir sous l'angle de l'art. 83 let. c ch. 2 LTF, étant précisé que le point de savoir si le recourant peut effectivement se prévaloir d'un droit à séjourner en Suisse relève du fond et non de la recevabilité (cf. <ref-ruling> consid. 1.1 p. 179; arrêts 2C_14/2014 du 27 août 2014 consid. 1, non publié in <ref-ruling>). Le recours en matière de droit public étant recevable sous cet angle, il s'ensuit que le recours constitutionnel subsidiaire est irrecevable (art. 113 a contrario LTF).
1.2. Pour le surplus, le recours est dirigé contre une décision finale (<ref-law>), rendue par une autorité cantonale supérieure, ayant statué en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>) par le destinataire de l'arrêt entrepris qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le recours est recevable.
2.
Le recourant invoque une violation du droit d'être d'être entendu tel qu'il est garanti par l'art. 29 al. 2 Cst. Il soutient d'abord que son droit d'accès au dossier a été violé devant la Direction cantonale parce qu'il n'a pas pu consulter son dossier pendant le délai de recours. Il reproche ensuite au Tribunal administratif de ne pas avoir donné suite à sa requête de consultation du dossier et de complément de recours, ainsi qu'à ses offres de preuve.
2.1. Le droit d'être entendu comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, d'avoir accès au dossier, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 282; arrêt 5A_832/2012 du 25 janvier 2013 consid. 4.1). Le droit de faire administrer des preuves découlant du droit d'être entendu n'empêche pas l'autorité de mettre un terme à l'instruction, lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 4.3.2 p. 376).
Le droit d'accès au dossier ne comprend, en règle générale, que le droit de consulter les pièces au siège de l'autorité, de prendre des notes (<ref-ruling> consid. 2b p. 10 et les arrêts cités) et, pour autant que cela n'entraîne aucun inconvénient excessif pour l'administration, de faire des photocopies (<ref-ruling> consid. 28, 116 Ia 325 consid. 3d/aa; arrêt 5A_832/2012 du 25 juin 2013 consid. 4.2.2). En revanche, il ne confère pas le droit de se voir notifier les pièces du dossier (<ref-ruling> consid. 2b; arrêt 2C_341/2008 du 30 octobre 2008 consid. 5.1), mais d'être avisé si en cours de procédure une pièce nouvelle est versée au dossier (<ref-ruling> consid. 2.1 p. 485; arrêt 2C_472/2013 du 4 octobre 2013 consid. 3.3).
2.2. S'agissant de la consultation du dossier pendant le délai de recours, comme le reconnaît d'ailleurs le recourant, la Direction cantonale ne lui a pas refusé l'accès au dossier lorsqu'il s'est présenté spontanément le 20 septembre 2013, mais l'a seulement prié de revenir plus tard en raison de l'absence de la personne responsable (cf. observations du recourant du 20 décembre 2013, p. 3), ce que le recourant n'a en l'occurrence pas fait, ni plus tard, ni un autre jour. Or, comme le relève à juste titre le Tribunal administratif, l'on ne saurait reprocher à la Direction cantonale de soumettre la consultation des dossiers à certaines modalités d'organisation. Au demeurant, le recourant est mal venu de reprocher à la Direction cantonale de ne pas "permettre aux justiciables de consulter leurs dossiers notamment en cas d'urgence", dans la mesure où il s'est vu notifier la décision de la Direction cantonale en date du 26 août 2013, soit plus de trois semaines plus tôt, et avait tout loisir de contacter cette autorité pour consulter le dossier à partir de cette date.
En ce qui concerne sa requête de consultation du dossier et de complément de recours devant le Tribunal administratif, contrairement à ce que prétend le recourant, celle-ci a été satisfaite. En effet, il ressort du dossier que, par ordonnance du 19 novembre 2013, le Tribunal administratif a informé le recourant que le dossier complet se trouvait désormais au greffe du Tribunal administratif et invité celui-ci à présenter ses éventuelles observations dans un délai fixé au 10 décembre 2013. En outre, rien n'indique que l'autorité administrative aurait versé en cours de procédure de nouvelles pièces, ce que le recourant ne prétend pas. Après avoir requis et obtenu une prolongation de ce délai, le recourant a présenté ses observations en date du 20 décembre 2013. Il n'a cependant entrepris aucune démarche en vue de consulter le dossier; il ne peut pas faire valoir après coup une violation de son droit d'être entendu.
2.3. Le Tribunal administratif a conclu qu'une administration complémentaire des preuves n'était pas nécessaire en l'espèce, procédant ainsi à une appréciation anticipée des preuves. Dans la mesure où la première condition de l'art. 50 al. 1 let. a LEtr relative aux trois ans de vie commune avait été admise, il a retenu, à juste titre, que la requête du recourant visant à la production du passeport de l'épouse était dénuée de pertinence (cf. arrêt attaqué, p. 8). Il en va de même pour la production des relevés téléphoniques de son épouse des six derniers mois, dans la mesure où ceux-ci ne sont pas pertinents pour l'issue de la cause. Enfin, en ce qui concerne l'audition d'un témoin par rapport à la participation du recourant à l'arrestation d'un prétendu voleur, on voit mal en quoi celle-ci serait pertinente pour apprécier si l'intégration du recourant est réussie. Le Tribunal administratif pouvait dès lors, sans violer le droit d'être entendu du recourant et sur la base d'une appréciation des preuves dénuée d'arbitraire, renoncer à l'audition de ce témoin.
3.
Invoquant l'<ref-law>, le recourant se plaint de l'établissement des faits.
3.1. Selon l'<ref-law>, le recours peut critiquer les constatations de fait à la double condition que ceux-ci aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 7.1 p. 51; <ref-ruling> consid. 4.2 p. 560) - ou en violation du droit au sens de l'<ref-law> et que la correction du vice soit susceptible d'influer sur le sort de la cause, ce que la partie recourante doit rendre vraisemblable par une argumentation répondant aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 1.2 p. 511; arrêt 2C_433/2012 du 29 mai 2012 consid. 5.1). Sinon, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué (cf. <ref-law>). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 5.2.2 p. 322; arrêt 2C_167/2010 du 3 août 2010 consid. 3).
3.2. En l'espèce, le recourant reproche au Tribunal administratif de ne pas avoir tenu compte d'un certain nombre d'éléments qui, selon lui, démontreraient que son intégration est réussie. Il invoque notamment sa connaissance de la langue allemande, le fait qu'il rembourse l'aide sociale et sa contribution à l'arrestation d'un délinquant. Il reproche également au Tribunal administratif de n'avoir pas pris en considération "l'attitude du service de la population de la ville de Bienne" par rapport à ses requêtes de changement d'adresse et le fait qu'il est impossible de louer un appartement sans être muni d'une autorisation de séjour valable.
En réalité, le recourant reproche essentiellement au Tribunal administratif d'avoir retenu à tort que son intégration n'était pas réussie. Dans la mesure où les critiques du recourant se rapportent à l'appréciation juridique des faits pertinents effectuée par l'instance précédente, celles-ci seront examinées ci-après (cf. infra consid. 4). Pour le surplus, le recourant ne démontre pas en quoi les éléments susmentionnés seraient des faits pertinents susceptibles d'influer sur le sort du litige au sens de l'<ref-law>. Dans ces conditions, il n'est pas possible de s'écarter des faits qui ont été retenus par l'instance précédente.
4.
Le recourant invoque une violation de l'art. 50 al. 1 let. a LEtr. Il soutient que le Tribunal administratif a abusé de son pouvoir d'appréciation dans l'évaluation des éléments relatifs à son intégration.
4.1. Selon l'art. 50 al. 1 let. a LEtr, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste si l'union conjugale a duré au moins trois ans et que l'intégration est réussie. Il s'agit de deux conditions cumulatives (<ref-ruling> consid. 3.3.3 p. 119). En l'occurrence, les autorités précédentes ont admis que l'union conjugale avait duré plus de trois ans. Seule demeure donc litigieuse la question de l'intégration réussie.
4.2. Le principe de l'intégration doit permettre aux étrangers dont le séjour est légal et durable de participer à la vie économique, sociale et culturelle de la Suisse (art. 4 al. 2 LEtr; cf. <ref-ruling> consid. 4.1 p. 4 s.). D'après l'art. 77 al. 4 de l'ordonnance du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), un étranger s'est bien intégré, au sens de l'art. 50 al. 1 let. a LEtr, notamment lorsqu'il respecte l'ordre juridique suisse et les valeurs de la Constitution fédérale (let. a) et qu'il manifeste sa volonté de participer à la vie économique et d'apprendre la langue nationale parlée au lieu de domicile (let. b). Selon l'art. 4 de l'ordonnance du 24 octobre 2007 sur l'intégration des étrangers (OIE; RS 142.205), la contribution des étrangers à l'intégration se manifeste notamment par le respect de l'ordre juridique et des valeurs de la Constitution fédérale (let. a), par l'apprentissage de la langue nationale parlée sur le lieu de domicile (let. b), par la connaissance du mode de vie suisse (let. c) et par la volonté de participer à la vie économique et d'acquérir une formation (let. d). Le Tribunal fédéral a précisé que l'adverbe "notamment", qui est employé tant à l'art. 77 al. 4 OASA qu'à l'<ref-law>, illustre le caractère non exhaustif des critères d'intégration qui sont énumérés par ces dispositions et met aussi en exergue le fait que la notion "d'intégration réussie" doit s'examiner à l'aune d'une appréciation globale des circonstances (arrêt 2C_14/2014 du 27 août 2014 consid. 4.6.1, non publié in <ref-ruling>). Dans l'examen de ces critères d'intégration, les autorités compétentes disposent d'un large pouvoir d'appréciation que le Tribunal fédéral ne revoit qu'avec retenue (cf. art. 54 al. 2 et 96 al. 1 LEtr ainsi qu'<ref-law>; cf. arrêt 2C_14/2014 du 27 août 2014 consid. 4.6.1, non publié in <ref-ruling> et les arrêts cités).
Selon la jurisprudence, l'intégration réussie d'un étranger qui est intégré professionnellement en Suisse, dispose d'un emploi fixe, a toujours été financièrement indépendant, se comporte correctement et maîtrise la langue locale ne peut être niée qu'en la présence de circonstances particulièrement sérieuses (cf. arrêt 2C_14/2014 du 27 août 2014 consid. 4.6.1, non publié in <ref-ruling>). Il importe peu que l'indépendance financière résulte d'un emploi peu qualifié. L'intégration réussie au sens de l'art. 50 al. 1 let. a LEtr n'implique en effet pas nécessairement la réalisation d'une trajectoire professionnelle particulièrement brillante au travers d'une activité exercée sans discontinuité. L'essentiel en la matière est que l'étranger subvienne à ses besoins, n'émarge pas à l'aide sociale et ne s'endette pas (cf. arrêts 2C_749/2011 du 20 janvier 2012 consid. 3.3; 2C_430/2011 du 11 octobre 2011 consid. 4.2). Cependant, le fait pour une personne de ne pas avoir commis d'infractions pénales et de pourvoir à son revenu sans recourir à l'aide sociale ne permet pas à lui seul de retenir une intégration réussie (arrêt 2C_14/2014 du 27 août 2014 consid. 4.6.1, non publié in <ref-ruling>).
4.3. En l'occurrence, il n'est pas contesté que le recourant parle la langue nationale du lieu de domicile, connaît le mode de vie suisse, n'a jamais commis d'infractions pénales et n'a pas fait l'objet de poursuites. Les griefs invoqués par le recourant à cet égard (notamment sa connaissance de la langue allemande, son cours de formation, et la connaissance du mode de vie en Suisse) ne sont pas pertinents, dans la mesure où le Tribunal administratif n'a pas relevé que les conditions y relatives n'étaient pas remplies. En revanche, comme le soutient à juste titre le recourant, il y a lieu de retenir que ces éléments plaident en sa faveur. En outre, c'est avec raison que le recourant relève que la jurisprudence ne requiert pas d'un étranger qu'il ait en Suisse "un tissu social particulièrement dense et un réseau de relations étendu" (arrêt attaqué, consid. 4.3.3). En effet, l'absence de liens sociaux très étroits du recourant en Suisse ne permet pas à elle seule de conclure qu'il n'est pas intégré (cf. arrêt 2C_14/2014 du 27 août 2014 consid. 4.6.1, non publié in <ref-ruling>).
Il ressort cependant de l'état de fait retenu par le Tribunal administratif que le recourant a eu recours aux prestations de l'aide sociale dès son arrivée en Suisse et jusqu'à son départ pour la Tunisie une année et deux mois plus tard. Après avoir passé une année sans son épouse en Tunisie, le recourant est retourné en Suisse, mais n'a pas occupé d'emploi stable pendant toute la durée de la communauté conjugale. En effet, sur le plan professionnel, le Tribunal administratif a retenu que, depuis son arrivée en Suisse en 2005 et jusqu'en mars 2011, le recourant n'a exercé d'activité lucrative que durant de brèves périodes, à savoir trois missions temporaires en qualité d'ouvrier d'imprimerie (du 25 août au 14 novembre 2008, du 20 janvier au 28 juillet 2009, et du 20 au 22 octobre 2009) et un travail d'un mois en qualité de ferrailleur (du 1er au 31 août 2010). Pour le reste, le recourant a vécu de l'aide sociale, ainsi que des revenus et de la fortune de son épouse. Le recourant se prévaut de deux emplois de durée indéterminée qu'il occupe actuellement dans les secteurs du nettoyage et de la distribution de journaux. Or, l'autorité précédente a retenu à juste titre que ce n'est que depuis fin 2010, soit au moment de l'ouverture de la procédure de non-renouvellement de son autorisation de séjour, que le recourant a entrepris des efforts d'intégration professionnelle qui ont mené aux deux emplois susmentionnés.
Le Tribunal administratif reproche également au recourant son attitude envers son épouse "constamment caractérisée par du harcèlement et des pressions en vue de rétablir la vie commune" (cf. arrêt attaqué, consid. 4.3.3). A cet égard, le recourant invoque le principe de la présomption d'innocence et se prévaut de la jurisprudence selon laquelle il n'est pas possible de fonder un refus d'autorisation de séjour pour contravention à l'ordre juridique suisse sur de simples dénonciations ou sur des procès-verbaux unilatéraux et contestés, et encore moins lorsqu'une autorité pénale a mis la personne concernée au bénéfice d'un non-lieu (cf. arrêt 2C_749/2011 du 20 janvier 2012 consid. 3.3). Le recourant perd cependant de vue que cette jurisprudence se rapporte essentiellement à la prise en compte d'éventuelles infractions pénales. C'est d'ailleurs précisément pour cette raison que l'autorité précédente n'a pas retenu en sa défaveur les déclarations de son épouse, selon lesquelles celui-ci l'aurait battue à plusieurs reprises. En revanche, la jurisprudence précitée n'empêche pas l'autorité précédente de retenir en défaveur du recourant, non seulement l'attitude qu'il a eue envers son épouse suisse, telle qu'elle ressort du dossier cantonal, consistant notamment à utiliser des "procédés visant tantôt à intimider celle-ci, tantôt à l'apitoyer et à l'amadouer en vue de reprendre la vie commune", mais également l'utilisation abusive par le recourant de l'adresse de celle-ci comme étant la sienne, dans le but de donner l'impression d'une reprise de la communauté conjugale.
Enfin, il convient de relever, avec l'autorité précédente, que le recourant n'a pas de domicile fixe depuis septembre 2011. Le recourant ne saurait être suivi lorsqu'il reproche au Tribunal administratif de ne pas avoir retenu qu'il est impossible de trouver un logement sans autorisation de séjour (mémoire de recours, p. 9), dans la mesure où il ressort de l'arrêt attaqué qu'il disposait d'un appartement qu'il avait loué après la séparation avec son épouse, mais a lui-même décidé de résilier le bail en septembre 2011.
Au vu de l'ensemble de ces circonstances, en particulier le fait que le recourant n'a ni liens familiaux ou sociaux particuliers, ni domicile fixe en Suisse, qu'il a exercé des pressions et du harcèlement sur son épouse et utilisé abusivement son adresse pour tenter en vain de donner l'impression d'un rétablissement de la vie commune, et que, durant la plus grande partie de son séjour en Suisse, il n'a pas occupé d'emploi fixe, ayant notamment recours à l'aide sociale, le Tribunal administratif pouvait retenir, sans violer l'art. 50 al. 1 let. a LEtr, que l'intégration du recourant n'était pas réussie.
5.
Au surplus, il ne ressort pas du dossier qu'une réintégration sociale du recourant en Tunisie, pays où il a vécu la majeure partie de sa vie, dans lequel il est retourné vivre une année après son arrivée en Suisse et où il se rend régulièrement, serait fortement compromise ou que d'autres motifs graves et exceptionnels (cf. <ref-ruling> consid. 5.3 p. 4; arrêt 2C_300/2013 du 21 juin 2013 consid. 5) commanderaient la poursuite de son séjour en Suisse. Du reste, le recourant ne s'en prévaut pas. Par conséquent, l'application de l'art. 50 al. 1 let. b et al. 2 LEtr est exclue en l'espèce.
6.
Compte tenu de ce qui précède, le recours en matière de droit public est rejeté dans la mesure où il est recevable. Le recours constitutionnel subsidiaire est irrecevable.
Succombant, le recourant doit supporter les frais judiciaires (art. 65 et 66 LTF). Il n'y a pas lieu d'allouer de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2.
Le recours constitutionnel subsidiaire est irrecevable.
3.
Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au recourant, au Service des migrations, Office de la population et des migrations, à la Direction de la police et des affaires militaires du canton de Berne et au Tribunal administratif du canton de Berne, Cour des affaires de langue française, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 4 décembre 2014
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Zünd
La Greffière : Thalmann