Faits:
A.
A.a. L._, d'origine espagnole, travaille depuis 1989 en tant que grutier et manoeuvre pour le compte de l'entreprise X._ SA. En raison de douleurs dorsales, il s'est annoncé auprès de l'Office de l'assurance-invalidité du canton de Berne (ci-après: l'office AI) qui l'a mis au bénéfice d'un quart de rente d'invalidité à partir du 1er septembre 1996 compte tenu d'un degré d'invalidité de 40 %, puis d'une demi-rente pour cas pénible dès le 1er janvier 1998 (décisions des 16 août et 10 octobre 2000).
A compter du 1er janvier 2004, à la suite d'une procédure de révision, l'assuré s'est vu reconnaître le droit à un trois quarts de rente d'invalidité fondé sur un taux d'incapacité de gain de 60 % (décision du 7 février 2006).
A.b. A l'issue d'une nouvelle procédure de révision initiée dans le courant de l'année 2008, l'office AI a, par décision du 23 janvier 2009, supprimé la rente d'invalidité de l'assuré compte tenu d'un degré d'invalidité de 34 % avec effet à la fin du mois suivant la décision. L'assuré n'a pas recouru contre cette décision.
A réception des informations transmises par la Sécurité sociale espagnole à la Caisse de compensation du canton de Berne au sujet des périodes d'assurance accomplies par l'assuré dans son pays d'origine, l'office AI a rendu une décision en date du 17 novembre 2009 revoyant le montant de la rente d'invalidité à la hausse compte tenu des périodes de cotisation espagnoles. Il ressortait de cette décision que l'assuré avait droit sur la base d'un degré d'invalidité de 60 % à un trois quarts de rente d'un montant de 1'161 fr. pour la période du 1er octobre 2008 au 31 décembre 2008 et d'un montant de 1'198 fr. à compter du 1er janvier 2009. Un versement de 12'128 fr. devait être effectué pour les rentes déjà échues, soit jusqu'au mois de novembre 2009. Sur la base de cette décision, une rente d'invalidité d'un montant de 1'198 fr. a continué à être versée, chaque mois, au-delà de cette date.
A.c. Par décision du 3 octobre 2011, l'office AI a réclamé à l'assuré la restitution d'un montant de 37'327 fr. correspondant aux rentes versées à tort pendant la période du 1er mars 2009 au 30 septembre 2011. Il a indiqué que lors de la décision du 17 novembre 2009, il avait oublié de mettre un terme au versement de la rente d'invalidité à la fin du mois de février 2009 comme le prévoyait pourtant la décision de suppression de rente du 23 janvier 2009. Cette décision n'a pas été contestée par l'assuré. Celui-ci a, en revanche, déposé une demande de remise de l'obligation de restituer que l'office AI a rejetée par décision du 13 février 2012.
B.
L'assuré a recouru contre cette décision auprès du Tribunal administratif du canton de Berne, Cour des affaires de langue française, en concluant principalement à la remise complète de l'obligation de restituer le montant de 37'327 fr. Dans son mémoire de réponse, l'office AI a proposé l'admission partielle du recours et diminué le montant à restituer à 26'545 fr. Par jugement du 2 avril 2013, le Tribunal cantonal a débouté l'assuré.
C.
L._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Sous suite de frais et dépens, il conclut principalement à la remise complète de l'obligation de restituer la somme de 37'327 fr. A titre subsidiaire, il requiert le renvoi de la cause au Tribunal cantonal pour instruction complémentaire et nouvelle décision.

Considérant en droit:
1.
Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées sinon un état de fait divergent ne peut être pris en considération.
2.
2.1. La décision du 3 octobre 2011 non contestée et entrée en force a tranché définitivement la question de l'obligation de restituer la somme de 37'327 fr. au titre de prestations versées à tort durant la période du 1er mars 2009 au 30 septembre 2011. Le présent litige, tel que défini par la décision du 13 février 2012, porte donc uniquement sur les conditions d'une remise de l'obligation de restituer les prestations indues.
2.2. Le jugement entrepris expose correctement les conditions auxquelles la restitution de prestations indûment touchées ne peut pas être exigée de la personne concernée, en particulier l'exigence relative à la bonne foi. Il rappelle que l'ignorance, par le bénéficiaire des prestations, du fait qu'il n'avait pas droit aux prestations ne suffit pas pour admettre qu'il était de bonne foi. Il faut bien plutôt qu'il ne se soit rendu coupable, non seulement d'aucune intention malicieuse, mais aussi d'aucune négligence grave. Il s'ensuit que la bonne foi, en tant que condition de la remise, est exclue d'emblée lorsque les faits qui conduisent à l'obligation de restituer (violation du devoir d'annoncer ou de renseigner) sont imputables à un comportement dolosif ou à une négligence grave. En revanche, l'intéressé peut invoquer sa bonne foi lorsque l'acte ou l'omission fautifs ne constituent qu'une violation légère de l'obligation d'annoncer ou de renseigner (<ref-ruling> consid. 2c p. 103; <ref-ruling> consid. 3c p. 180). Il y a négligence grave quand un ayant droit ne se conforme pas à ce qui peut raisonnablement être exigé d'une personne capable de discernement dans une situation identique et dans les mêmes circonstances (ATF <ref-ruling> consid. 3d p. 181). On ajoutera que la bonne foi doit être niée quand l'enrichi pouvait, au moment du versement, s'attendre à son obligation de restituer, parce qu'il savait ou devait savoir, en faisant preuve de l'attention requise, que la prestation était indue (<ref-law>; <ref-ruling> consid. 4.3 p. 419 sv et les références).
2.3. L'examen de l'attention exigible d'un ayant droit qui invoque sa bonne foi relève du droit et le Tribunal fédéral revoit librement ce point (<ref-ruling> consid. 3 p. 223; <ref-ruling> consid. b p. 246).
3.
3.1. A titre préalable, la juridiction cantonale a rappelé que le recourant s'était vu supprimer son droit à un trois quarts de rente par décision du 23 janvier 2009. La comparaison des revenus déterminants établie en tenant compte du salaire effectif que le recourant réalisait en continuant à travailler, à plein temps mais avec un rendement réduit, auprès de son employeur en qualité de grutier et manoeuvre, avait abouti à un degré d'invalidité inférieur à 40 %. Il ressortait également de cette décision que le salaire de l'assuré avait déjà considérablement augmenté à partir du milieu de l'année 2005 et que la révision de 2006 octroyant le droit à un trois quarts de rente était manifestement erronée, dans la mesure où elle ne prenait pas en compte l'augmentation salariale dans l'évaluation de l'invalidité. Les premiers juges ont précisé que l'office AI avait néanmoins jugé qu'une reconsidération de la décision erronée du 7 février 2006 n'était plus possible. Ils ont également relevé qu'une fois en possession de toutes les explications utiles, le recourant avait renoncé à recourir contre la décision du 23 janvier 2009. Le versement de la rente d'invalidité avait donc cessé à compter de la fin du mois de février 2009. La juridiction cantonale a également constaté qu'au moment où l'assuré avait reçu la décision du 17 novembre 2009, lui octroyant des prestations rétroactives antérieures à la fin du mois de février 2009, mais également pour la période à partir du mois de mars 2009 et pour le futur, compte tenu des périodes de cotisation espagnoles, sa situation se trouvait inchangée.
3.2. En tenant compte de ces circonstances, les premiers juges sont parvenus à la conclusion que même si le recourant ne disposait pas des connaissances linguistiques et techniques nécessaires à une pleine compréhension de la matière complexe qu'étaient les assurances sociales, celui-ci aurait dû néanmoins se rendre compte, en faisant preuve de l'attention requise, que la décision du 17 novembre 2009 entrait en contradiction avec celle du 23 janvier 2009. La décision du 17 novembre 2009 faisait, en effet, état d'un taux d'invalidité de 60 % et du droit à un trois quarts de rente d'invalidité non seulement pour la période du 1er octobre 2008 à la fin du mois de février 2009, mais également pour la période postérieure à cette date. La décision du 23 janvier 2009 avait pourtant fait ressortir au terme d'une longue procédure de révision portant sur la question du droit à la rente en fonction de l'état de santé de l'assuré un taux d'invalidité de 34 %. Le recourant aurait donc dû déduire des circonstances que la décision du 17 novembre 2009 résultait d'une demande introduite auprès de la Sécurité sociale espagnole au printemps 2008 et que cette décision de coordination avec les données espagnoles ne prenait pas en considération la suppression de la rente intervenue dans l'intervalle. A tout le moins, aurait-on pu attendre de sa part qu'il s'interroge sur la différence flagrante entre les deux décisions portant sur un point essentiel, à savoir le degré d'invalidité, et qu'il se renseigne auprès de l'intimé quant à la légitimité de la décision litigieuse. En n'agissant pas ainsi, le recourant avait commis une négligence grave et sa bonne foi ne pouvait être admise.
4.
Le recourant conteste l'appréciation des premiers juges dans la mesure où elle ne tiendrait pas compte de plusieurs éléments importants. Il invoque un traitement chaotique de son dossier par l'intimé qui a donné lieu à plusieurs procédures de révision. En outre, il soutient que le fait de toucher à nouveau des rentes partielles d'invalidité alors qu'il exerçait une activité lucrative à plein temps ne lui a pas semblé contradictoire, dès lors que par le passé il avait déjà touché de telles prestations tout en continuant à travailler. En ce qui concerne la décision du 17 novembre 2009, il allègue l'avoir comprise comme une décision lui reconnaissant le droit à un trois quarts de rente d'invalidité à compter du 1er octobre 2008, notamment sur la base des accords passés entre la Suisse et l'Espagne. Enfin, il relève que ni la Caisse de compensation du canton de Berne, ni Axa Winterthur en sa qualité d'assureur pour la prévoyance professionnelle, pas plus que son employeur, ne se sont rendus compte de l'erreur de l'intimé.
5.
En l'occurrence, il n'y a pas lieu de s'écarter de l'appréciation des premiers juges. Il est vrai que le droit du recourant à une rente d'invalidité a connu plusieurs modifications depuis le moment où il a commencé à percevoir une rente d'invalidité, soit le 1er septembre 1996. Il ressort toutefois des constatations de la juridiction cantonale, desquelles il n'y a pas lieu de s'écarter (cf. art. 105 al. 1 et 2 LTF), que la situation du recourant était claire à compter de la décision du 23 janvier 2009: celui-ci n'avait plus droit au trois quarts de rente accordé jusqu'ici, la comparaison des revenus avec et sans invalidité faisant apparaître un taux d'invalidité de 34 % insuffisant pour ouvrir le droit à une rente d'invalidité. Ainsi, à la suite des premiers juges, on constate qu'en recevant la décision du 17 novembre 2009, le recourant aurait dû, en faisant preuve d'un minimum d'attention, s'apercevoir qu'elle était en contradiction avec celle du 23 janvier 2009. Il importe peu de savoir si la décision de suppression de rente se trouvait encore en sa possession, dès lors qu'il en subissait les effets, ne touchant plus aucune prestation d'invalidité depuis le mois de mars 2009. Le recourant ne pouvait pas partir de l'idée que la décision du 17 novembre 2009 lui accordait un nouveau droit à une rente d'invalidité (sans limitation dans le temps) sur la base des accords bilatéraux entre l'Union Européenne et la Suisse, alors que sa situation médicale et économique n'avait pas changé depuis la décision de suppression de rente. Contrairement à ce qu'il soutient, il n'a pu ignorer les conséquences liées à la reprise de son ancienne activité à plein temps même avec un rendement réduit, sa rente d'invalidité ayant été supprimée pour ce motif en janvier 2009. Par ailleurs, on ne voit pas en quoi le fait qu'il ne s'était écoulé que quelques mois entre les deux décisions ne permettait pas au recourant de reconnaître leur caractère contradictoire. Ce qui frappe particulièrement dans le cas d'espèce, c'est que le recourant a continué de percevoir, sans réagir, pendant plusieurs années un trois quarts de rente d'invalidité alors que ce droit lui avait été supprimé par décision du 23 janvier 2009, décision contre laquelle il avait renoncé à recourir. Compte tenu des circonstances, l'absence de réaction du recourant ne peut être considérée comme une simple négligence. Le fait que l'administration ne se soit pas rendue compte de son erreur ne permet pas de rétablir le recourant dans sa bonne foi, dans la mesure où le vice juridique était facilement reconnaissable, en faisant preuve de l'attention requise, même pour une personne non initiée au droit des assurances sociales (cf. <ref-ruling> consid. 2b p. 219 cité par l'arrêt C 437/99 du 11 septembre 2000 consid. 3).
6.
Enfin, contrairement à ce que soutient le recourant, la juridiction cantonale n'a pas procédé à une reformatio in peiusen reconnaissant son obligation de restituer l'entier des prestations indues, à savoir la somme de 37'327 fr. En effet, dans la mesure où il n'a fait que confirmer la décision du 13 février 2012, le jugement attaqué n'a pas placé le recourant dans une situation plus défavorable que celle dans laquelle il se trouvait avant de recourir ( reformatio in peius ). Le motif tiré de la violation du droit d'être entendu en relation avec l'art. 61 let. d LPGA doit, dès lors, être rejeté.
7.
Compte tenu de ce qui précède, le recours se révèle mal fondé.
8.
Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (<ref-law>). Il ne peut prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal administratif du canton de Berne, Cour des affaires de langue française, et à l'Office fédéral des assurances sociales.
Lucerne, le 27 octobre 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
La Greffière: Reichen