Faits :
A.
A.a. A._, né en 1981, a été mis au bénéfice d'une rente entière de l'assurance-invalidité à partir du 1er septembre 2001 (décision de l'Office AI Canton de Berne [ci-après: l'office AI] du 28 octobre 2002), ainsi que de prestations complémentaires à compter du 1er décembre 2006 (décision de la Caisse de compensation du canton de Berne [ci-après: la caisse de compensation] du 25 janvier 2007).
A.b. Par décision du 25 juillet 2014, l'office AI a suspendu le versement de la rente de A._ dès le 1er septembre 2013, en raison d'une incarcération intervenue le 15 mai 2013. L'administration a ensuite exigé la restitution d'un montant de 18'720 fr. correspondant aux rentes versées à tort entre le 1er septembre 2013 et le 31 août 2014 (décision du 21 octobre 2014). A la suite de la demande formée pour son compte par son curateur, l'assuré s'est vu accorder la remise de l'obligation de restituer, excepté pour la période allant du 1er au 30 septembre 2013 où sa bonne foi a été niée (décision du 15 avril 2015). La caisse de compensation a aussi exigé la restitution des prestations complémentaires versées indûment dès le 1er septembre 2013, avant d'accorder la remise partielle de ce paiement (décisions des 21 octobre 2014 et 14 avril 2015).
A.c. A compter du 25 août 2015, A._ a une nouvelle fois été incarcéré. A la suite de l'annonce de cet événement par un courrier de son curateur daté du 31 août 2015, l'office AI a suspendu le versement de la rente à compter du 1er septembre 2015 (décision du 18 mars 2016) et a demandé la restitution des prestations allouées à tort dès cette date et jusqu'au 31 mars 2016, pour un montant de 10'969 fr. (décision du 31 mars 2016). Il a rejeté la demande de remise, au motif que la condition de la bonne foi n'était pas remplie (décision du 14 décembre 2016). La caisse de compensation a également suspendu le versement des prestations complémentaires, exigé la restitution des prestations versées à tort (décision du 31 mars 2016) et refusé d'accorder la remise de l'obligation de restituer (décision du 15 décembre 2016).
B.
Statuant le 19 juillet 2017 sur le recours formé contre la décision de l'office AI du 14 décembre 2016 par A._, qui contestait avoir été de mauvaise foi et concluait implicitement à la remise de l'obligation de restituer la somme de 10'969 fr. réclamée par l'administration, le Tribunal administratif du canton de Berne, Cour des affaires de langue française, l'a admis, a annulé la décision litigieuse et a renvoyé la cause à l'administration pour nouvelle décision au sens des considérants.
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut principalement à la confirmation de sa décision du 14 décembre 2016 et à ce qu'il soit constaté que l'assuré n'était pas de bonne foi durant la totalité de son incarcération à partir du 25 août 2015. A titre subsidiaire, il demande à ce que la bonne foi de ce dernier ne soit reconnue que pour les trois premiers mois de ladite détention. L'administration sollicite également l'octroi de l'effet suspensif au recours.
L'intimé conclut principalement à l'irrecevabilité du recours, subsidiairement à son rejet. Il sollicite en outre le bénéfice de l'assistance judiciaire. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
1.
1.1. Saisi d'un recours en matière de droit public (<ref-law>), le Tribunal fédéral exerce un pouvoir d'examen limité. Il applique le droit d'office (<ref-law>) et statue sur la base des faits retenus par l'autorité précédente (<ref-law>). Il peut néanmoins rectifier ou compléter d'office l'état de fait du jugement entrepris si des lacunes ou des erreurs manifestes lui apparaissent aussitôt (<ref-law>). Il examine en principe seulement les griefs motivés (<ref-law>) et ne peut pas aller au-delà des conclusions des parties (<ref-law>). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées, sinon un état de fait divergent ne peut être pris en considération (<ref-law>).
1.2. La décision de renvoi attaquée constitue une décision incidente au sens de l'<ref-law>. Dans la mesure où elle contient des instructions liant l'administration sur la manière dont celle-ci doit examiner les conditions de la remise de l'obligation de restituer, elle est susceptible de causer un préjudice irréparable à l'office recourant (<ref-ruling> consid. 4.2 p. 481 et consid. 5.2.2 p. 483; arrêt 8C_243/2016 du 7 juillet 2016 consid. 2.2). De ce chef, le recours est recevable.
1.3. Dès lors que l'intimé conclut à l'irrecevabilité du recours, en soutenant que le recourant fait valoir uniquement des critiques de nature appellatoire, il allègue implicitement que les exigences de l'<ref-law> ne seraient pas réalisées. Une telle conclusion ne peut cependant pas être déduite de la lecture du mémoire de recours qui comprend une argumentation suffisante au regard en particulier de la question de droit soumise au Tribunal fédéral (infra consid. 5.2.2). Le recours est également recevable sous l'angle de l'<ref-law>.
2.
Le litige a trait à la remise de l'obligation de restituer une somme de 10'969 fr., correspondant aux rentes d'invalidité versées par l'office recourant du 1er septembre 2015 au 31 mars 2016, période durant laquelle l'intimé était incarcéré. Il porte plus particulièrement sur la condition légale de la bonne foi nécessaire pour l'obtention d'une remise.
Le jugement attaqué expose de manière complète les dispositions légales et les principes jurisprudentiels relatifs aux conditions auxquelles l'assureur social peut suspendre le paiement des prestations pour perte de gain lorsque l'assuré subit une mesure ou une peine privative de liberté (<ref-law>) et exiger la restitution des prestations allouées à tort, ainsi qu'aux conditions de la remise qui peut être demandée par l'assuré (<ref-law>; <ref-ruling> consid. 4 p. 220 et la référence), de telle sorte qu'il suffit d'y renvoyer.
3.
Les premiers juges ont d'abord constaté que faute d'avoir fait l'objet d'une contestation de l'assuré, la décision portant sur la restitution de la rente à compter du 1er septembre 2015 (décision du 31 mars 2016) était entrée en force, si bien qu'il n'y avait pas lieu de revenir sur son bien-fondé. Ils ont ensuite examiné si la condition afférente à la bonne foi de l'assuré nécessaire à l'obtention d'une remise de l'obligation de restituer (<ref-law>) était réalisée en l'espèce. Ils sont parvenus à la conclusion que tel était le cas, considérant que l'intimé, par le biais de son curateur, avait fait preuve de toute l'attention que sa situation personnelle permettait raisonnablement d'exiger de lui et qu'il ne s'était dès lors rendu coupable d'aucune négligence. L'instance cantonale a donc admis le recours de l'assuré, annulé la décision du 14 décembre 2016 et, dans la mesure où cette dernière ne portait pas sur la seconde condition cumulative posée par l'<ref-law> (soit, sur le critère de la situation difficile), renvoyé la cause à l'administration pour instruction complémentaire sur ce point et nouvelle décision.
4.
L'office recourant reproche aux premiers juges d'avoir admis la bonne foi de l'assuré. Selon lui, en substance, au vu du précédent que constituait l'incarcération survenue en 2013/2014 et de la décision du 21 octobre 2014 ordonnant la restitution des prestations perçues à tort pendant cette période, l'intimé ne pouvait ignorer qu'il serait à nouveau amené à restituer les rentes versées s'il venait à être incarcéré une nouvelle fois.
5.
5.1. On rappellera qu'à teneur de l'<ref-law>, la restitution de prestations indûment touchées ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile. Selon la jurisprudence relative à la disposition légale précitée, l'ignorance, par le bénéficiaire des prestations, du fait qu'il n'avait pas droit aux prestations ne suffit pas pour admettre qu'il était de bonne foi. Il faut bien plutôt qu'il ne se soit rendu coupable, non seulement d'aucune intention malicieuse, mais aussi d'aucune négligence grave. (<ref-ruling> consid. 4 p. 220 et 112 V 97 consid. 2c p. 103; arrêt 9C_496/2014 du 22 octobre 2014 consid. 3.1). Il y a négligence grave quand un ayant droit ne se conforme pas à ce qui peut raisonnablement être exigé d'une personne capable de discernement dans une situation identique et dans les mêmes circonstances (<ref-ruling> consid. 3d p. 181). Le comportement et le degré de connaissance du curateur est opposable à l'intimé (<ref-ruling> consid. 3b p. 104; arrêt 9C_496/2014 du 22 octobre 2014 consid. 3.1).
La jurisprudence distingue entre la bonne foi en tant que manque de conscience, de la part de l'intéressé, d'agir contrairement au droit et la question de savoir s'il peut invoquer la bonne foi dans les circonstances données ou s'il aurait dû, en faisant preuve de l'attention que l'on pouvait exiger de lui, reconnaître l'irrégularité juridique qui s'est produite. Alors que la présence ou le défaut de conscience d'agir contrairement au droit relève d'une question de fait, qui ne peut être examinée par le Tribunal fédéral que sous l'angle de l'<ref-law> (consid. 1.1 supra), l'examen de l'attention exigible constitue une question de droit qui peut être revue librement, dans la mesure où il s'agit d'examiner si l'intéressé peut invoquer sa bonne foi au vu des circonstances de fait données (<ref-ruling> consid. 3 p. 223; voir aussi arrêt 9C_496/2014 du 22 octobre 2014 consid. 3.2).
5.2.
5.2.1. En l'espèce, la juridiction cantonale a constaté que même si la situation qui se présentait au curateur à la suite de l'incarcération de son pupille le 25 août 2015 ne lui était pas véritablement nouvelle, il ne pouvait pas avoir conscience du caractère indu de la continuation du versement de la rente de l'assurance-invalidité en dépit de l'annonce de la nouvelle détention. Cette constatation du manque de conscience de la part du curateur d'agir contrairement au droit n'est pas remise en question par l'office recourant qui indique ne pas contester les faits relatifs au premier aspect de la bonne foi - même s'il se réfère sans autre précision à la "conscience de l'illicéité" -, de sorte qu'elle lie le Tribunal fédéral (supra consid. 1.1 et 5.1).
5.2.2. Seule reste donc litigieuse la question de savoir si un défaut de diligence peut être reproché à l'intimé. A cet égard, conformément à ce qu'ont relevé les premiers juges, le curateur a informé l'administration de la détention préventive de son pupille le 31 août 2015, soit le jour même où il a lui-même eu connaissance de ce fait; il l'a, au demeurant, renseignée par la suite, spontanément et à plusieurs reprises, au sujet de l'évolution de la situation (courriel du 19 novembre 2015 et courrier du 26 janvier 2016 notamment). Bien que dûment informée de l'incarcération et de la situation de l'intimé par l'intermédiaire de son curateur, l'administration avait cependant continué à verser la rente jusqu'au 31 mars 2016, sans aucune réserve.
Contrairement à ce que soutient l'office recourant, le fait que l'intimé avait été incarcéré une première fois en 2013 ne suffit pas pour admettre qu'il aurait dû se rendre compte que la continuation du paiement des prestations était indue. En effet, d'une part, dans la mesure où la précédente décision de restitution (décision du 21 octobre 2014) ne portait pas sur les trois premiers mois de l'incarcération, l'assuré était fondé à en déduire qu'il en irait de même s'il venait à être à nouveau incarcéré; cela vaut d'autant plus que ladite décision ne comportait aucune motivation sur l'obligation de restitution ni aucune référence à une base légale, de sorte qu'il n'en ressortait pas pourquoi la restitution n'était due que pour une partie de la période de détention. Au demeurant, lors de la première procédure, le curateur avait apparemment en vain sollicité des informations sur le sort de la rente de son pupille sans que l'office AI ne l'informe sur ce point (cf. courrier du 18 novembre 2013 à la caisse de compensation).
En outre dans la mesure où la bonne foi avait été admise dans le cadre de l'incarcération qui avait débuté le 15 mai 2013, et qu'une remise partielle avait été accordée à la suite de l'annonce de cet événement faite par le biais du curateur au mois d'octobre 2013 (soit, un mois après la nomination du curateur, le 1er septembre 2013), ce dernier pouvait de bonne foi partir de l'idée qu'en informant l'administration de la nouvelle incarcération de son pupille (survenue le 25 août 2015) le jour où il avait lui-même eu connaissance de ce fait (soit, le 31 août 2015), il satisfaisait à son obligation d'annoncer et ne s'exposait pas à une éventuelle restitution; en 2013, en effet, sa bonne foi n'avait été niée que pour le mois de septembre 2013 et admise pour toute la période de versement postérieure. Par ailleurs, le fait que la caisse de compensation avait rendu une décision reconnaissant le droit de l'assuré à des prestations complémentaires pour la période du 1er août au 31 octobre 2015, le 18 décembre 2015, soit à une date où elle était avisée de l'incarcération de ce dernier, ne pouvait également que renforcer l'intimé dans son idée que le versement n'était pas indu.
Au vu de ce qui précède, c'est à bon droit que les premiers juges ont considéré que le curateur avait fait tout ce qui était en son pouvoir pour annoncer en temps utile les faits susceptibles d'entraîner une suspension du droit à la rente, comme l'exigent les <ref-law> et 77 RAI et donc, qu'il avait fait preuve de la diligence requise. L'argumentation du recourant qui se limite à indiquer que "l'assuré ne pouvait ni objectivement ni subjectivement ignorer qu'il sera de nouveau amené à restituer les rentes touchées pendant la durée de la nouvelle détention préventive au moins à partir du quatrième mois de la détention préventive", ne met en évidence aucune violation du droit de la juridiction cantonale quant à l'absence de négligence grave de la part du curateur ou de l'assuré.
5.3. A l'inverse de ce que prétend finalement le recourant, ce résultat n'a pas pour conséquence "qu'aucune restitution de la rente perçue pendant la durée de la détention préventive ne pouvait intervenir si l'assuré en informe l'office AI". La bonne foi de l'assuré résulte en effet de l'ensemble des circonstances du cas d'espèce que la juridiction cantonale a apprécié à satisfaction de droit, en particulier au regard de l'absence, qu'elle a constatée, de toute information donnée par l'office recourant au curateur quant aux conséquences d'une détention sur une éventuelle restitution des prestations, et des différentes interventions du curateur pour renseigner l'administration sur l'évolution de la procédure pénale.
Quant à la référence que fait l'office recourant au chiffre 6007 de la Circulaire sur l'invalidité et l'impotence dans l'assurance-invalidité (CIIAI), à teneur duquel la rente peut aussi être suspendue rétroactivement, même à défaut d'une violation de l'obligation de renseigner, elle ne lui est d'aucun secours. La question de la rétroactivité de la restitution, qui a fait l'objet de la décision non contestée du 18 mars 2016, ne concerne pas la décision de remise et donc le présent litige.
6.
Vu le présent arrêt, la requête d'attribution de l'effet suspensif au recours n'a plus d'objet.
7.
Compte tenu de l'issue du litige, l'office recourant, qui succombe, doit supporter les frais judiciaires (<ref-law>), ainsi que les dépens que peut prétendre l'intimé (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 1'100 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'avocat de l'intimé la somme de 2'400 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties, au Tribunal administratif du canton de Berne, Cour des affaires de langue française, et à l'Office fédéral des assurances sociales.
Lucerne, le 19 janvier 2018
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Pfiffner
La Greffière : Perrenoud