Faits :
A.
A.a. Depuis 1991, A.X._ occupe et exploite un domaine agricole,..., sur la commune de U._, à savoir les art. 26, 32, 38, 46, 51, 89, 106, 110, 339, 494, 497, 499, 501, 502, 506, 507 et 514 du registre foncier (RF) de la commune, domaine qui appartenait à son père X._. Il a été admis en procédure qu'un contrat de bail à ferme avait été valablement conclu entre lui et son père.
X._ est décédé le 28 mars 2006, laissant pour héritiers son épouse et ses trois fils, C.X._, A.X._ et B.X._.
La part successorale de A.X._ dans la succession de son père a été saisie par l'Office des poursuites du district du Lac le 9 juin 2010. La Chambre de poursuites et faillites du Tribunal cantonal a ordonné la dissolution de la communauté héréditaire et la liquidation du patrimoine commun.
A.b. L'Office des poursuites a demandé à la Justice de paix d'intervenir au partage en lieu et place de A.X._, conformément à l'<ref-law> (<ref-ruling>) et de lui transmettre le montant de la succession revenant à celui-ci.
La Justice de paix de l'arrondissement du Lac a ouvert une procédure de partage et elle a désigné M._ comme représentant de A.X._ pour participer au partage et procéder à la signature en son nom du contrat de partage (<ref-law>).
Le 3 juin 2013, ledit représentant et les autres héritiers ont signé un contrat de partage, aux termes duquel le domaine agricole était attribué au frère de A.X._, B.X._, pour le prix de 435'000 fr. Ce dernier a été inscrit comme propriétaire au registre foncier.
Le contrat de partage prévoyait la fin du contrat de bail de A.X._ avec effet immédiat au 3 juin 2013.
Par courrier du 24 juillet 2013, le demandeur a informé son frère fermier du contenu de l'acte de partage et il lui a volontairement accordé un délai jusqu'au 31 décembre 2013 pour quitter le domaine.
Le 11 décembre 2013, A.X._ a déclaré invalider le contrat de partage.
B.
Le 26 juin 2014, B.X._ a déposé une requête d'expulsion de A.X._ du domaine agricole et de son logement devant le Président du Tribunal civil de l'arrondissement du Lac.
Par décision du 10 août 2016, la Présidente du tribunal a prononcé d'une part l'expulsion de A.X._ du domaine agricole loué, ordre lui étant donné de le quitter au plus tard le 31 décembre 2016, sous la menace de la peine de l'amende prévue à l'<ref-law>, et d'autre part, son expulsion de son logement; le demandeur était autorisé, à défaut d'exécution volontaire, à avoir recours à la force publique, à qui ordre était d'ores et déjà donné de procéder à l'exécution de cette décision.
Statuant sur l' "appel " du défendeur le 11 mai 2017, la IIe Cour d'appel civil du Tribunal cantonal du canton de Fribourg l'a déclaré irrecevable, pour défaut de motivation du recours, tout en se prononçant au demeurant sur le fond.
C.
Contre cet arrêt, le défendeur a interjeté un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral le 14 juin 2017, concluant, principalement, à son annulation et au renvoi de la cause à l'autorité précédente et, subsidiairement, à sa réforme en ce sens que la nullité du contrat de partage soit prononcée et que la demande d'expulsion soit rejetée. Il invoque la violation de son droit d'être entendu sous son aspect de droit à une décision motivée, un déni de justice formel et la violation de l'<ref-law>, subsidiairement son application arbitraire, puisqu'il a soutenu que le contrat de partage était absolument nul au vu des manquements de son représentant (<ref-law>).
Le demandeur intimé conclut à l'irrecevabilité du recours constitutionnel, subsidiairement à son rejet dans la mesure de sa recevabilité et au rejet du recours en matière civile dans la mesure de sa recevabilité.
L'effet suspensif a été attribué aux recours par ordonnance présidentielle du 7 août 2017.
Les parties n'ont pas déposé d'observations complémentaires.

Considérant en droit :
1.
1.1. Contrairement à ce que croit la cour cantonale, le litige ne porte pas seulement sur l'exécution de l'expulsion du fermier, qui aurait déjà été ordonnée, et dont la valeur correspondrait au montant des loyers dus pendant la durée de la procédure d'exécution estimée à huit mois, mais bien un procès au fond qui exige de statuer sur la validité de la résiliation du bail, respectivement sur sa prolongation, et donc sur l'obligation du fermier de restituer la chose louée (art. 23 al. 1 de la Loi fédérale sur le bail à ferme agricole [LBFA; RS 221.213.2]), avant d'ordonner, comme mesure d'exécution, l'exécution sous la menace de la peine de l'<ref-law>, respectivement l'expulsion par la force publique. La cour cantonale ayant admis un fermage de 15'000 fr. par an, la valeur litigieuse ouvrant le recours en matière civile est atteinte (<ref-law>).
Interjeté en temps utile (<ref-law>), par le défendeur qui a succombé dans ses conclusions (<ref-law>), contre une décision prise sur appel par le tribunal supérieur du canton (<ref-law>) dans une affaire de contrat de bail à ferme agricole (<ref-law>), le recours en matière civile est recevable.
Il s'ensuit que le recours constitutionnel interjeté à titre subsidiaire est irrecevable.
1.2. L'arrêt attaqué ne contient pas d'état de fait digne de ce nom (<ref-law>). Il a été complété d'office à l'aide du jugement de première instance (<ref-law>).
2.
Sous réserve des droits constitutionnels (<ref-law>), le Tribunal fédéral applique le droit d'office (<ref-law>). Toutefois, compte tenu de l'obligation de motiver qui incombe au recourant en vertu de l'<ref-law>, il n'examine pas, comme le ferait un juge de première instance, toutes les questions juridiques qui pourraient se poser, mais uniquement celles qui sont soulevées devant lui, à moins que la violation du droit ne soit manifeste (<ref-ruling> consid. 2 p. 116; arrêts 5A_621/2013 du 20 novembre 2014 consid. 2.2, non publié aux <ref-ruling>; 4A_399/2008 du 12 novembre 2011 consid. 2.1, non publié aux <ref-ruling>). Il n'est lié ni par les motifs invoqués par les parties, ni par l'argumentation juridique retenue par l'autorité cantonale; il peut donc admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 1.4 et l'arrêt cité).
3.
3.1. Il ressort des faits constatés et non contestés que le défendeur avait conclu avec son père un contrat de bail à ferme agricole valable et que le contrat de partage a été conclu, au nom du défendeur, par le représentant désigné par la justice de paix conformément à l'<ref-law> et par les autres héritiers.
Il est patent que, avec le premier juge, la cour cantonale a considéré que le contrat de partage, passé entre ce représentant et les autres héritiers, avait entre autres choses mis fin au contrat de bail à ferme agricole le jour même, soit au 3 juin 2013 (art. 3 al. 2 du contrat de partage), et qu'il avait été prolongé à bien plaire par le nouveau propriétaire jusqu'au 31 décembre 2013.
3.2. Ce faisant, elle a méconnu que le représentant nommé par la Justice de paix en application de l'<ref-law> n'avait de pouvoirs qu'en ce qui concerne la part successorale de cet héritier (qui avait été saisie), c'est-à-dire en ce qui concerne le montant en argent qui devait revenir à celui-ci et qui devait être transmis à l'Office des poursuites aux fins de désintéresser ses créanciers. Si la saisie de la part successorale et la désignation d'un représentant font perdre à l'héritier tout pouvoir de disposer de sa part et si, à la suite du contrat de partage, le montant revenant à l'héritier est versé à l'Office des poursuites, cette procédure d'exécution forcée n'exerce aucun effet sur le bail conclu avec le fermier. Il ne faut pas confondre la qualité d'héritier, dont la part a été saisie, et la qualité de fermier, qui est partie au contrat de bail. Il ne faut pas confondre non plus l'attribution du domaine à un héritier et le sort du bail du fermier qui exploite le domaine, fût-il lui-même cohéritier. Ces deux qualités - héritier et fermier - sont basées sur deux relations juridiques différentes, soumises à des règles propres.
Le contrat de partage signé par un représentant au sens de l'<ref-law> ne peut donc pas valoir acceptation de la résiliation du bail par le fermier. C'est dès lors à tort que la cour cantonale a déclaré l'appel irrecevable pour défaut de motivation; le fait que le défendeur se soit basé à tort sur la nullité totale du contrat de partage pour se plaindre de la régularité de la fin de son bail ne lie ni la cour cantonale, ni le Tribunal fédéral, lesquels appliquent d'office le droit. En tant que l'intimé soutient que le recourant aurait dû se plaindre de l'excès de pouvoirs du représentant à l'autorité de surveillance, il méconnaît qu'il ne s'agit pas ici d'excès, mais d'absence totale de pouvoirs en ce qui concerne le bail, de sorte que le contrat de partage est nul sur ce point.
En revanche, il n'appartient pas au juge de l'expulsion de se prononcer sur les autres points du contrat de partage.
3.3. Enfin, on ne peut rien déduire du silence du défendeur à réception du courrier du demandeur du 24 juillet 2013 qui l'informait du contenu de l'acte de partage et qui lui accordait un délai pour quitter le domaine. On ne saurait en particulier pas, comme l'a fait le premier juge, en inférer que les parties se seraient mises d'accord sur la résiliation du bail et sur le terme du contrat fixé au 31 décembre 2013.
En effet, le silence (ou l'absence de réaction) ne peut valoir acceptation que si l'offre est entièrement avantageuse pour son destinataire et ne comporte pour lui aucune charge ni obligation, étant encore précisé que le cas des " commerçants en relation d'affaires " n'entre ici pas en ligne de compte (cf. <ref-law>; arrêt 4A_231/2010 du 10 août 2010 consid. 2.4.1). En matière de bail à loyer, le silence doit être interprété comme une acceptation lorsque le bailleur et le locataire conviennent de manière informelle de libérer le second de tout ou partie du loyer (arrêt 4A_129/2009 du 2 juin 2009 consid. 2.2 et l'arrêt cité).
En l'espèce, il est patent que l'" offre " du demandeur n'était pas entièrement avantageuse pour le défendeur; partant, son silence ne peut valoir acceptation.
Le recours en matière civile doit donc être admis pour violation des règles sur la résiliation du bail à ferme agricole, le fermier n'ayant jamais consenti à la résiliation de son bail, et, partant, l'arrêt attaqué doit être réformé en ce sens que la requête d'expulsion déposée le 26 juin 2014 est rejetée.
4.
Les frais judiciaires et les dépens doivent être mis à la charge de l'intimé (art. 66 al. 1 et 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel est irrecevable.
2.
Le recours en matière civile est admis et l'arrêt attaqué est réformé en ce sens que la requête d'expulsion déposée par B.X._ le 26 juin 2014 contre le fermier A.X._ est rejetée.
3.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de l'intimé.
4.
L'intimé versera au recourant une indemnité de 2'500 fr. à titre de dépens.
5. La cause est renvoyée à la cour cantonale pour nouvelle décision sur les frais et dépens des instances cantonales.
6.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal de l'Etat de Fribourg, IIe Cour d'appel civil.
Lausanne, le 9 octobre 2017
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
Le Greffier : Piaget