Faits :
A.
A.a. Depuis 1991, A.X._ (ci-après: le défendeur) occupe et exploite un domaine agricole,..., sur la commune de U._, à savoir les art. 26, 32, 38, 46, 51, 89, 106, 110, 339, 494, 497, 499, 501, 502, 506, 507 et 514 du registre foncier de la commune, domaine qui appartenait à son père X._. Il a été admis en procédure qu'un contrat de bail à ferme avait été valablement conclu entre lui et son père.
X._ est décédé le 28 mars 2006, laissant pour héritiers son épouse et ses trois fils, C.X._, A.X._ et B.X._ (ci-après: le demandeur).
La part successorale de A.X._ dans la succession de son père a été saisie par l'Office des poursuites du district du Lac le 9 juin 2010. La Chambre de poursuites et faillites du Tribunal cantonal a ordonné la dissolution de la communauté héréditaire et la liquidation du patrimoine commun.
A.b. L'Office des poursuites a demandé à la Justice de paix d'intervenir au partage en lieu et place de A.X._, conformément à l'art. 609 CC (ATF 110 III 46) et de lui transmettre le montant de la succession revenant à celui-ci.
La Justice de paix de l'arrondissement du Lac a ouvert une procédure de partage et elle a désigné L._ comme représentant de A.X._ pour participer au partage et procéder à la signature en son nom du contrat de partage (art. 609 CC).
Le 3 juin 2013, ledit représentant et les autres héritiers ont signé un contrat de partage, aux termes duquel le domaine agricole était attribué au frère de A.X._, B.X._, pour le prix de 435'000 fr. Ce dernier a été inscrit comme propriétaire au registre foncier.
Le contrat de partage prévoyait la fin du contrat de bail de A.X._ avec effet immédiat au 3 juin 2013.
Par courrier du 24 juillet 2013, B.X._ a informé son frère fermier du contenu de l'acte de partage et il lui a volontairement accordé un délai jusqu'au 31 décembre 2013 pour quitter le domaine.
Le 11 décembre 2013, A.X._ a déclaré invalider le contrat de partage.
B.
Le 26 juin 2014, B.X._ a déposé une requête d'expulsion de A.X._ du domaine agricole et de son logement devant le Président du Tribunal civil de l'arrondissement du Lac.
Par décision du 10 août 2016, la Présidente du tribunal a prononcé d'une part l'expulsion de A.X._ du domaine agricole loué, ordre lui étant donné de le quitter au plus tard le 31 décembre 2016, sous la menace de la peine de l'amende prévue à l'art. 292 CP, et d'autre part, son expulsion de son logement; le demandeur était autorisé, à défaut d'exécution volontaire, à avoir recours à la force publique, à qui ordre était d'ores et déjà donné de procéder à l'exécution de cette décision. Elle a considéré que le contrat de partage, passé entre le représentant désigné par la Justice de paix et les autres héritiers, avait entre autres choses mis fin au contrat de bail à ferme agricole le jour même, soit le 3 juin 2013 (art. 3 al. 2 du contrat de partage), et qu'il avait été prolongé à bien plaire par le nouveau propriétaire jusqu'au 31 décembre 2013. Elle a mis les frais judiciaires, par 2'000 fr., et les dépens (fixés globalement), par 12'000 fr., à la charge du défendeur (art. 105 al. 2 LTF).
Statuant sur l'" appel " du défendeur le 11 mai 2017, la IIe Cour d'appel civil du Tribunal cantonal du canton de Fribourg l'a déclaré irrecevable, pour défaut de motivation du recours, et, au demeurant, a confirmé la décision du premier juge sur le fond par adoption de ses motifs. S'agissant des dépens de première instance, elle a relevé que le défendeur se contentait d'affirmer que leur montant de 12'000 fr. était trop élevé au vu des opérations effectuées, mais qu'il n'avait pas pris la peine de chiffrer l'indemnité qu'il estimait justifiée, de sorte qu'elle a déclaré son grief irrecevable; elle a relevé au demeurant que le mandataire du défendeur (Me M._) a produit une liste de frais, dont le montant s'élève à 14'000 fr., sans tenir compte de la valeur litigieuse (art. 105 al. 2 LTF).
Par arrêt du 9 octobre 2017, le Tribunal fédéral a admis le recours en matière civile du défendeur et réformé l'arrêt attaqué en ce sens que la requête d'expulsion déposée par le demandeur contre le fermier défendeur est rejetée. Il a renvoyé la cause à la cour cantonale pour nouvelle décision sur les frais et dépens des instances cantonales.
Le 18 octobre 2017, le défendeur a adressé au Tribunal cantonal la liste de frais de son précédent mandataire, laquelle mentionnait " partage ", de 18'843 fr. 15 pour la première instance et la liste de frais de celui-ci de 4'370 fr. 50 pour la seconde instance (art. 105 al. 2 LTF).
Dans sa détermination du 9 novembre 2017, le demandeur a indiqué que le montant de 18'843 fr. était nettement supérieur à celui de 12'000 fr. fixé par la décision du 10 août 2016 et que ce dernier montant avait été critiqué par le défendeur comme étant manifestement trop élevé au regard des opérations effectuées; il a requis qu'il soit tenu compte de cette opinion du défendeur (art. 105 al. 2 LTF).
Statuant à nouveau sur les frais et dépens de la première instance et de l'instance d'appel cantonales, la cour cantonale les a mis à la charge du demandeur et a alloué, en particulier, au défendeur le montant de 4'000 fr. (+ TVA de 320 fr.) pour la procédure de première instance.
C.
Contre cet arrêt, le défendeur a interjeté un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral le 12 février 2018, concluant, principalement, à sa réforme en ce sens qu'un montant de 12'000 fr. (+ TVA de 960 fr.) lui soit alloué à titre de dépens pour la procédure de première instance et, subsidiairement, à l'annulation de l'arrêt attaqué sur ce point et au renvoi de la cause à la cour cantonale pour nouvelle fixation des dépens de première instance.
Le demandeur intimé conclut au rejet du recours en matière civile dans la mesure où il est recevable et à l'irrecevabilité du recours constitutionnel subsidiaire; subsidiairement, il conclut au rejet des deux recours dans la mesure de leur recevabilité.
La cour cantonale a indiqué n'avoir pas d'observations à formuler.
Considérant en droit :
1.
1.1. L'arrêt attaqué ne porte que sur les frais et dépens des instances cantonales à la suite de l'arrêt de réforme et renvoi du Tribunal fédéral, qui a rejeté la requête d'expulsion du fermier et renvoyé la cause à la cour cantonale pour nouvelle décision sur les frais et dépens des instances cantonales. Il s'agit d'une décision additionnelle et rectificative par rapport à la décision précédente de la cour cantonale, qui a donné lieu à l'arrêt de réforme du Tribunal fédéral. La décision additionnelle partage donc la nature de cette précédente décision. Il faut donc considérer qu'il s'agit d'une décision finale (l'art. 90 LTF), rendue sur appel par un tribunal cantonal supérieur (art. 75 LTF), et que la valeur litigieuse, qui est déterminée par la valeur de la cause au fond restée litigieuse alors devant la cour cantonale (art. 51 al. 1 let. a LTF), de 30'000 fr. (art. 74 al. 1 let. b LTF; ATF 136 III 196 consid. 1.1 p. 197; arrêt 4A_389/2017 du 26 septembre 2017 consid. 5), est atteinte (arrêt 4A_200/2011 du 29 juin 2011 consid. 1.1; 5A_619/2015 du 21 décembre 2015 consid. 1, non publié à l'ATF 142 III 110).
Interjeté en temps utile (art. 100 al. 1 et 45 al. 1 LTF) par la partie dont les dépens de première instance ont été fixés à un montant inférieur à celui qu'elle réclamait (art. 76 al. 1 LTF), le recours en matière civile est recevable.
Il s'ensuit que le recours constitutionnel est irrecevable (art. 113 LTF).
1.2. Le litige concerne la validité de la résiliation du bail et l'obligation du fermier de restituer la chose louée (arrêt 4A_322/2017 du 9 octobre 2017 consid. 1). Le fait que le demandeur ait cru pouvoir se baser sur la saisie de la part de l'héritier défendeur et sur la signature de l'acte de partage par le représentant désigné par la Justice de paix (art. 609 CC) pour justifier la fin du bail ne change rien à la nature du litige, de sorte que, contrairement à ce que croit le recourant, le litige relève de la compétence de la Ie Cour de droit civil.
1.3. L'état de fait de l'arrêt attaqué étant très sommaire, il a été complété à l'aide des actes de la procédure (art. 105 al. 2 LTF).
2.
Seuls les dépens dus au fermier défendeur pour la procédure d'expulsion de première instance sont litigieux. La cour cantonale les a fixés au montant de 4'000 fr. (+ TVA).
Elle a considéré qu'il y avait lieu de fixer une indemnité globale en application de l'art. 64 al. 1 let. a du Règlement du 30 novembre 2010 sur la justice (RJ). Cet article prévoit une indemnité maximale de 6'000 fr. en première instance pour les affaires contentieuses de la compétence du juge unique, indemnité qui peut être augmentée jusqu'au double si des circonstances particulières le justifient (art. 64 al. 2 RJ). Même en cas de fixation globale, l'avocat peut présenter une liste détaillée (art. 69 al. 2 RJ).
Vu la liste détaillée déposée, la cour cantonale a estimé devoir tenir compte de la prise de connaissance de la demande d'expulsion, de la rédaction de la réponse avec l'envoi d'un bordereau de pièces, de la production d'autres pièces ultérieurement, d'une audience qui a duré 1h15, d'une détermination ainsi que de l'examen de la décision du 10 août 2016. Elle a considéré que, compte tenu de la nature de la cause, qui n'a pas présenté de difficultés particulières et n'a pas connu une ampleur qui sort de l'ordinaire, il se justifiait de fixer une indemnité globale de 4'000 fr. (+ TVA).
3.
Le recourant conclut à ce qu'un montant de 12'000 fr. (+ TVA) lui soit accordé.
3.1. Il se plaint tout d'abord de violation du principe de l'égalité de traitement (art. 8 Cst.).
3.1.1. A l'appui de son grief, le recourant fait valoir que lorsque la présidente du tribunal de première instance a fixé globalement les dépens, qui, selon sa décision, étaient dus au demandeur, elle a considéré que l'affaire était suffisamment complexe pour doubler le montant maximum de 6'000 fr. à 12'000 fr. et que, après renvoi, lorsqu'elle a fixé les dépens pour la même procédure en faveur du défendeur, la cour cantonale les a arrêtés au montant de seulement 4'000 fr., soit le tiers de ce qui avait été alloué au demandeur. Selon lui, un tel traitement diamétralement opposé dans une situation similaire est insoutenable.
3.1.2. Ainsi que cela résulte de l'arrêt de réforme du Tribunal fédéral, le demandeur a cru pouvoir se fonder sur un contrat de partage du 3 juin 2013 passé par le représentant de l'héritier dont la part avait été saisie (art. 609 CC) avec les autres héritiers pour justifier l'expulsion du fermier, mélangeant les qualités d'héritier et de fermier alors que ces deux qualités sont basées sur des relations juridiques différentes. Un contrat de partage signé par un tel représentant ne peut pas valoir acceptation de la résiliation du bail par le fermier; un tel représentant n'a aucuns pouvoirs en ce qui concerne le bail et la clause de l'acte de partage prévoyant la fin du bail est donc nulle (arrêt 4A_322/2017 consid. 3.2).
Il s'ensuit que la réponse du défendeur à l'expulsion était en soi simple et ne nécessitait pas d'actes en relation avec la procédure de partage (qu'indique pourtant l'intitulé de la liste de frais de l'avocat). On ne saurait donc reprocher à la cour cantonale d'avoir considéré, pour fixer l'indemnité globale due au défendeur, les actes de la liste de frais à prendre en considération et, vu le travail effectué pour ceux-ci, la nature de la cause et son absence de difficultés particulières, d'avoir fixé le montant à 4'000 fr.
Le fait que le premier juge ait rendu une décision erronée en fixant les dépens à 12'000 fr. et que, suivant l'analyse juridique du premier juge, la cour cantonale ait maintenu les dépens à 12'000 fr., ne donne aucun droit au justiciable à l'égalité dans l'illégalité, étant par ailleurs précisé que l'inégalité de traitement est en réalité une forme particulière d'arbitraire, consistant à traiter de manière inégale ce qui devrait l'être de manière semblable ou inversement (art. 9 Cst.; arrêt 5A_696/2012 du 23 janvier 2013 consid. 5.2). Ainsi, ce n'est pas parce que la cour cantonale s'est trompée dans son précédent arrêt qu'elle devrait être obligée d'allouer au défendeur un montant de 12'000 fr. D'ailleurs, par une telle prétention, le défendeur recourant adopte une attitude contradictoire (venire contra proprium factum; art. 2 al. 2 CC) puisqu'il soutenait précédemment dans son appel que l'indemnité allouée était manifestement trop élevée au regard des opérations effectuées et s'étonnait qu'aucune liste de frais n'ait été déposée; son attitude ne mérite aucune protection.
3.2. Le recourant invoque ensuite la violation de l'interdiction de l'arbitraire dans l'application des art. 105 al. 2 CPC et des art. 63-64 du RJ (art. 9 Cst.) et une violation de son droit d'être entendu parce que la cour n'a pas indiqué, ni motivé pourquoi les autres frais n'ont pas été retenus.
3.2.1. Selon la jurisprudence, une décision est arbitraire, au sens de l' art. 9 Cst., lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et reconnu, ou encore heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas que sa motivation soit insoutenable; encore faut-il que la décision apparaisse arbitraire dans son résultat. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue que dans la mesure où celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif et en violation d'un droit certain. Il n'y a pas arbitraire du fait qu'une autre solution pourrait entrer en considération ou serait même préférable (ATF 140 III 16 consid.2.1 p. 18s.; 138 III 378 consid. 6.1 p. 379s.).
Le recourant estime que la cour cantonale est tombée dans l'arbitraire en décidant de fixer une indemnité de manière globale et en se référant simultanément à la liste de frais produite par son mandataire.
Or, comme on l'a vu, la cour cantonale a considéré qu'il y avait lieu de procéder à une fixation globale, puisque l'affaire était de la compétence d'un juge unique (art. 64 al. 1 let. a RJ), et que, même en cas de fixation globale, une liste détaillée peut être présentée par l'avocat (art. 69 al. 2 RJ). La critique du recourant se limite donc à promouvoir une autre solution que celle qui découle expressément du texte légal et ne saurait donc suffire pour démontrer l'arbitraire. On ne voit d'ailleurs pas en quoi il serait arbitraire d'écarter toutes les autres opérations que celles expressément admises et nécessaires à la défense du fermier défendeur dans la procédure d'expulsion dirigée contre lui et qui ont fait l'objet de l'indemnisation globale de 4'000 fr.
3.2.2. En tant que le recourant fait valoir qu'il y aurait violation de son droit d'être entendu, sous l'aspect de son droit à une décision motivée (art. 29 al. 2 Cst.), il méconnaît que toutes les autres opérations que celles expressément mentionnées ont été écartées parce qu'elles n'étaient pas nécessaires à sa défense dans la procédure d'expulsion.
4.
Au vu de ce qui précède, le recours constitutionnel subsidiaire doit être déclaré irrecevable et le recours en matière civile rejeté dans la mesure où il est recevable. Les frais et dépens de la procédure sont mis à la charge du recourant (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel est irrecevable.
2.
Le recours en matière civile est rejeté dans la mesure où il est recevable.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4.
Le recourant versera à l'intimé une indemnité de 1'000 fr. à titre de dépens.
5.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal de l'État de Fribourg, IIe Cour d'appel civil.
Lausanne, le 28 septembre 2018
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
La Greffière : Schmidt