Faits:
A. A.a La communauté héréditaire A.X._ est composée des héritiers suivants: B.X._ (part de 8/18), l'hoirie C.Y._, composée de D.Y._ et de E.Y._ (part de 8/18), G.Y._ (part de 1/18) et F.Y._ (part de 1/18).
A.b Le 19 avril 2005, D.Y._, E.Y._ et H.Y._, décédée depuis lors, ont ouvert une action en partage à l'encontre des trois autres cohéritiers devant le Tribunal civil de l'arrondissement de la Sarine.
A.c Par décision du 27 novembre 2008, la Justice de paix du cercle de la Sarine, intervenant à la requête de l'Office des poursuites de la Sarine en raison de la saisie de la part de B.X._ dans la communauté héréditaire A.X._, a, en application de l'art. 609 al. 1 CC, mandaté I._, avocat et expert fiscal diplômé, pour intervenir dans le partage de cette hoirie en lieu et place de B.X._. Cette mesure a été levée le 25 février 2010, le débiteur s'étant acquitté des montants en poursuite.
A.d Le 23 novembre 2009, D.Y._, E.Y._, G.Y._, F.Y._ et, au nom de B.X._, I._ ont signé une convention de partage successoral.
B. B.a Par courrier du 24 novembre 2009, D.Y._ et E.Y._ ont requis le Tribunal civil de la Sarine d'homologuer la convention ainsi que de statuer sur les frais et dépens. Lors de l'audience du Tribunal du 25 novembre 2009, elles ont en outre expressément requis que la cause soit rayée du rôle et que les dépens soient mis à la charge de B.X._.
B.b Par jugement incident du 10 décembre 2009, le Tribunal civil de la Sarine a notamment rejeté les requêtes des demanderesses tendant à la radiation de la cause du rôle ainsi qu'à l'homologation de la convention du 23 novembre 2009.
B.c Au cours de la procédure d'appel intentée contre ce jugement auprès du Tribunal cantonal de l'État de Fribourg par D.Y._, E.Y._, G.Y._ et F.Y._, B.X._ est rentré dans ses droits en payant les montants en poursuite. Le 23 novembre 2010, il a introduit une action en invalidation de la convention de partage par le dépôt d'une requête aux fins de conciliation devant la Justice de paix du cercle de la Sarine.
Par arrêt du 2 décembre 2010, le Tribunal cantonal a réformé le jugement du 23 novembre 2009 en ce sens qu'il a pris acte que l'action en partage était devenue sans objet et rayé la cause du rôle. Il a en outre renvoyé le dossier au Président du Tribunal civil de la Sarine pour attribution et fixation des dépens de première instance.
C. Le 17 février 2011, B.X._ exerce un recours en matière civile au Tribunal fédéral contre cet arrêt concluant à ce qu'il soit réformé en ce sens que le jugement du Tribunal civil de la Sarine du 10 décembre 2009 est confirmé. À l'appui de ses conclusions, il invoque une violation des art. 609 al. 1 CC, 32 et 33 CO. Il se plaint en outre d'une violation du principe de l'autonomie des parties à disposer de leurs procès, alléguant une violation de l'art. 9 Cst. Il requiert préalablement l'octroi de l'effet suspensif.
Suite à la détermination des intimés, qui ont conclu au rejet de la requête d'effet suspensif, la Présidente de la Cour de céans a attribué l'effet suspensif au recours par ordonnance du 11 mars 2011.
Aucune observation n'a été requise sur le fond.
Considérant en droit:
1. 1.1 Interjeté en temps utile (art. 100 al. 1 LTF) ainsi que dans les formes légales (art. 42 al. 1 et 2 LTF), par une partie qui a succombé en dernière instance cantonale (art. 76 al. 1 LTF et art. 75 al. 1 LTF), dans une affaire de partage successoral (art. 72 al. 1 LTF) dont la valeur litigieuse est supérieure à 30'000 fr. (art. 74 al. 1 let. b LTF), le recours en matière civile est en principe recevable.
1.2 Même si elle renvoie la cause en première instance pour nouvelle décision s'agissant de l'attribution des dépens, la décision entreprise n'en est pas moins finale (art. 90 LTF) dès lors qu'elle met fin au litige d'un point de vue matériel; un tel renvoi limite en effet à la seule question des dépens l'examen de l'autorité cantonale inférieure qui doit s'abstenir de statuer à nouveau sur le fond de la cause.
2. 2.1 Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il ne connaît cependant de la violation des droits fondamentaux ou du droit cantonal que si ce grief a été soulevé et motivé (art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2 ; 133 II 249 consid. 1.4.2). Si le recourant se plaint de la violation de tels droits, il doit ainsi satisfaire au principe d'allégation (Rügeprinzip, principio dell'allegazione), en indiquant précisément quelle disposition constitutionnelle ou légale a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation (ATF 133 IV 286 consid. 1.4 ; 133 II 249 consid. 1.4.2).
2.2 Le Tribunal fédéral ne peut s'écarter des faits établis par l'autorité précédente que si ceux-ci ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF) et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire que les constatations de fait sont arbitraires au sens de l'art. 9 Cst. (ATF 133 II 249 consid. 1.2.2), doit satisfaire au principe d'allégation susmentionné (consid. 2.1). Lorsque le recourant entend faire compléter les faits, il doit les désigner avec précision en se référant aux pièces du dossier; le complètement suppose en effet que les allégations de fait correspondantes aient été introduites régulièrement et en temps utile dans la procédure cantonale, qu'elles aient été considérées à tort comme dépourvues de pertinence ou aient été simplement ignorées; si ces exigences ne sont pas respectées, les faits invoqués sont réputés nouveaux (art. 99 al. 1 LTF), partant irrecevables (arrêt 5A_338/2010 du 4 octobre 2010 consid. 3 publié in SJ 2011 I p. 185 ; cf. à propos de l'art. 55 al. 1 let. c OJ : ATF 115 II 484 consid. 2a et la jurisprudence citée).
3. En substance, la cour cantonale a considéré qu'à la suite de l'intervention de l'autorité au partage, selon la décision de la Justice de paix du cercle de la Sarine du 27 novembre 2008, B.X._ avait perdu la qualité pour défendre à la procédure de sorte qu'il n'avait pas à se déterminer sur le contenu de la convention de partage signée, à sa place, par I._. À cet égard, elle indique, d'une part, qu'un projet de convention, correspondant plus ou moins à celui approuvé, a été adressé à B.X._ sans que celui-ci ne daigne répondre à l'invitation qui lui était faite de se déterminer et, d'autre part, que, même si l'intervenant avait omis de prendre son avis, cela n'aurait pas pour autant invalidé la convention. De plus, elle a jugé que l'intervenant I._ était pleinement habilité, en lieu et place de B.X._, à conclure avec les autres hoirs une convention de partage. La juridiction en a déduit que la convention du 23 novembre 2009 avait été conclue entre toutes les parties au partage. En outre, elle a estimé que l'autorité judiciaire n'avait pas à examiner plus avant son contenu dès lors qu'il n'avait pas été allégué ni retenu qu'elle était obscure, incomplète ou manifestement lésionnaire, précisant que B.X._ la qualifiait simplement de lourdement imparfaite et que l'invalidation pour cause d'erreur requise par celui-ci n'avait, en l'état, pas été prononcée.
4. Dans un premier grief, le recourant s'en prend - sans se plaindre expressément d'une application arbitraire du droit cantonal de procédure - à l'examen restreint de la convention de partage auquel a procédé la cour cantonale. Il estime que celle-ci se devait de constater que ce contrat était entaché de vices puis faire en sorte de l'améliorer, voire d'obtenir l'accord de l'héritier rénitent et, dans le même temps, de modifier les conditions économiques liées au partage.
4.1 L'arrêt de la cour cantonale ayant été rendu et expédié aux parties en 2010, il n'est pas soumis au code de procédure civile du 19 décembre 2008 (CPC, RS 272), entré en vigueur le 1er janvier 2011 (ATF 137 III 127 consid. 2, 130 consid. 2). L'ancien droit cantonal de procédure est ainsi applicable en l'espèce, plus précisément l'aCPC/FR.
4.1.1 La transaction judiciaire est un acte consensuel, destiné à mettre fin à un litige moyennant des concessions réciproques. Elle est non seulement une institution du droit de la procédure, mais aussi un contrat de droit privé, susceptible d'être entaché d'un vice du consentement (ATF 110 II 44 consid. 4).
4.1.2 Les effets de la transaction judiciaire sont déterminés par le droit cantonal. En vertu des art. 288 et 290 aCPC/FR, la transaction passée entre les parties devant le juge ou remise au juge pour être consignée au procès-verbal met fin au procès (art. 288 al. 1 aCPC/FR); elle est assimilée à un jugement (art. 288 al. 3 aCPC/FR) et le président du tribunal raie l'affaire du rôle (art. 290 al. 1 aCPC/FR). Sont réservés les cas réglés expressément par le droit fédéral (cf. art. 111 CC ainsi que 140 al. 1 et 141 al. 1 aCC).
La transaction judiciaire du droit fribourgeois met donc fin ipso jure au procès sans jugement, selon le titre même du chapitre III de l'aCPC/FR et cela même si, formellement, le juge en prend acte en rendant une ordonnance de radiation de l'affaire du rôle. Elle ne peut être déclarée nulle ou annulée que pour les motifs et par les voies et moyens du droit civil, chacune des parties ayant donc la faculté d'intenter action pour faire constater que la transaction ne la lie pas, notamment l'action en constatation de la nullité ou l'action en annulation pour vices du consentement. Les vices dont elle pourrait être entachés ne peuvent en revanche pas être invoqués par la voie du recours ou de la révision (cf. Revue fribourgeoise de jurisprudence [RFJ] 2008, p. 270 consid. 2b ; HOHL, Procédure civile, Tome I, n. 1365 s.). L'assimilation à un jugement ne vaut en effet que pour la force exécutoire, la transaction judiciaire étant alors exécutée comme un jugement (RFJ 2008, p. 270 consid. 2a; lorsque la transaction porte sur une somme d'argent, l'assimilation à un jugement découle de l'art. 80 al. 2 ch. 1 LP).
Le juge auquel une transaction judiciaire est remise se borne ainsi à prendre acte de la transaction par une ordonnance de radiation du rôle (cf. art. 290 al. 1 aCPC/FR). Selon la jurisprudence fédérale et la doctrine, il doit seulement en prendre connaissance et constater la fin du procès, sans avoir à vérifier si les termes de celle-ci sont équitables. Ce n'est que lorsque la transaction est manifestement contraire au droit, par exemple en cas de lésion d'une partie, que le juge doit refuser d'en prendre acte et obliger les parties à poursuivre la procédure sur l'objet du litige ou à transiger selon d'autres termes. Il peut toutefois toujours contrôler que la transaction est claire et complète (ATF 124 II 8 consid. 3b et les références doctrinales citées). En effet, seule une transaction dont les termes liquident les conclusions de l'action pendante peut mettre fin au litige (cf. à ce sujet LEUCH/MARBACH/KELLERHALS/STERCHI, Die Zivilprozessordnung für den Kanton Bern, 2000, n. 2c ad art. 207 ZPO/BE). En droit fribourgeois, cet examen s'apparente donc en quelque sorte au contrôle par le juge des conclusions prises par les parties (art. 167 al. 3 aCPC/FR).
4.2 Le recourant fait valoir trois irrégularités de la convention de partage du 23 novembre 2009 qui s'opposeraient, selon lui, à la radiation de la cause du rôle.
4.2.1 Tout d'abord, il se plaint de ce que la convention de partage serait lacunaire en tant que l'estimation de la parcelle n° 227 du registre foncier de la commune de J._ ne serait pas soutenable, une surface de 22'736 m2 ayant été restituée à l'agriculture.
En l'espèce, les faits allégués ne ressortent pas de l'état de fait établi par l'autorité cantonale. De plus, le recourant ne démontre pas qu'ils auraient été introduits régulièrement et en temps utile dans la procédure cantonale ni qu'ils auraient été considérés à tort comme dépourvus de pertinence ou simplement ignorés par la cour cantonale; il n'indique pas non plus quelle disposition de droit cantonal celle-ci aurait violée en n'en tenant pas compte. Au contraire, il se contente d'invoquer que ces faits ont été discutés par les intimés dans leurs écritures complémentaires. Il s'ensuit que, faute de satisfaire aux exigences de motivation, ces faits sont réputés nouveaux et, partant, irrecevables (cf. consid. 2.2 supra).
En conséquence, à la lumière des faits établis par la cour précédente, sur la base desquels le Tribunal fédéral doit statuer (art. 105 al. 1 LTF), la convention de partage du 23 novembre 2009 n'apparaît nullement lacunaire au point qu'il faille poursuivre le procès.
4.2.2 Le recourant invoque ensuite une violation des art. 609 al. 1 CC, 32 et 33 al. 1 CO en tant que le contrat de partage aurait été conclu en violation des pouvoirs de représentation conférés à I._, celui-ci s'étant substitué aux sociétés B.X._ SA et K._ SA en renonçant à leurs créances contre la communauté héréditaire A.X._.
4.2.2.1 La mission de l'autorité conformément à l'art. 609 al. 1 CC s'épuise dans la participation au partage, partage qu'elle ne peut ni effectuer ni diriger elle-même. Elle, ou le représentant qu'elle a désigné, prend la place de l'héritier-débiteur dans le partage en tant qu'administrateur officiel de sa part. C'est elle qui agit, à l'exclusion de l'héritier qu'elle remplace, dans l'action en partage (ATF 129 III 316 consid. 3; TUOR/PICENONI, Berner Kommentar, n. 11 et 13 ad art. 609 CC; PIOTET, TDP IV, p. 77; SCHAUFELBERGER/KELLER, Basler Kommentar, n. 12 et 16 ad art. 609 CC) ou lors de l'adoption du contrat de partage (art. 634 CC; cf. ESCHER, Zürcher Kommentar, n. 13 ad art. 609 CC; GÜBELI, Gläubigerschutz im Erbrecht, 1999, p. 145; SEEBERGER, Die richterliche Erbteilung, 1992, p. 32). L'autorité intervenant au partage, est indépendante, dans ses décisions, de la volonté de l'héritier-débiteur, lequel n'est pas habilité à prendre part aux négociations de partage; elle tient cependant compte des désirs de celui-ci, tant que faire se peut (TUOR/PICENONI, op. cit., n. 12-13 ad art. 609 CC; ESCHER, op. cit., n. 12 ad art. 609 CC; SCHAUFELBERGER/KELLER, op. cit., n. 16 ad art. 609 CC; SEEBERGER, op. cit., p. 32). L'héritier-débiteur, qui estime que l'intervenant au partage n'a pas exécuté correctement ses fonctions, peut s'en plaindre auprès de l'autorité de surveillance (arrêt 5A_496/2007 du 30 octobre 2007 consid. 1; SCHAUFELBERGER/KELLER, op. cit., n. 15 ad art. 609 CC; SEEBERGER, op. cit., p. 32; GÜBELI, op. cit., p. 145 s.).
4.2.2.2 La cour cantonale a constaté que la convention du 23 novembre 2009 avait été conclue entre toutes les parties au partage puisque I._, représentant désigné par l'autorité intervenant en vertu de l'art. 609 CC, pouvait valablement agir en lieu et place du recourant. Celui-ci ne le conteste pas. En revanche, il invoque que le représentant intervenant au partage aurait outrepassé ses pouvoirs. Or, un tel grief, lequel ne se rapporte qu'à un seul article de la convention qui en comprend dix-sept et qui, pour le reste, ne remet pas en cause le droit du représentant de conclure un partage au nom du recourant, ne permet pas, à lui seul, de faire apparaître la convention du 23 novembre 2009 comme manifestement illicite. En effet, les questions soulevées par le recourant nécessitent un examen plus approfondi, voire même une interprétation de la volonté des parties. Il s'ensuit que de telles objections ne sont pas recevables dans le cadre d'un recours contre une radiation de la cause du rôle prenant acte de l'accord intervenu entre les parties; elles doivent être invoquées soit dans le cadre de l'action en invalidation de la convention (cf. supra consid. 4.1.2), soit, éventuellement, par la voie du recours auprès de l'autorité de surveillance (cf. supra consid. 4.2.2.1). C'est dès lors à juste titre que la cour cantonale n'a pas examiné plus avant la question des pouvoirs de représentation de l'intervenant en relation avec le renoncement à des créances des sociétés B.X._ SA et K._ SA. Le grief est ainsi mal fondé.
4.3 Le recourant se plaint encore de ce que la convention de partage du 23 novembre 2009 aurait des conséquences arbitraires pour lui. Il ne prétend cependant pas que dite convention serait lésionnaire ni ne démontre en quoi le fait que la cour cantonale en ait pris acte et, partant, rayé la cause du rôle - le renvoyant à l'action en invalidation qu'il a d'ores et déjà intentée - serait insoutenable. Aussi, faute de satisfaire aux exigences de motivation de l'art. 106 al. 2 LTF (cf. consid. 2.1), cette critique se révèle irrecevable.
5. Enfin, le recourant invoque une violation du principe de l'autonomie des parties à disposer de leurs procès - notamment la possibilité élémentaire de participer aux opérations de partage - en tant que l'intervenant désigné en application de l'art. 609 al. 1 CC ne l'aurait pas suffisamment informé du contenu de la convention finalement conclue, en son nom, avec les autres hoirs. Il précise notamment que le projet qui lui a été remis le 17 juin 2009 a subi de nombreuses modifications pour aboutir à la convention du 23 novembre 2009.
La cour cantonale a relevé que l'intervenant avait transmis au recourant pour détermination un projet de partage correspondant plus ou moins à la solution retenue, mais que celui-ci n'avait pas répondu à son invitation. Elle a en outre précisé que, même si l'intervenant avait omis de prendre l'avis de l'héritier-débiteur, il pouvait tout au plus en répondre dans le cadre d'une plainte à l'autorité de surveillance, sans que la convention soit pour autant invalide. En tant que le recourant prétend que le projet transmis diffère de beaucoup de l'acte conclu en fin de compte, il ne fait qu'opposer sa propre appréciation des faits à celle retenue par la juridiction cantonale sans démontrer en quoi cette dernière serait arbitraire; une telle critique se révèle donc irrecevable (cf. supra consid. 2.2). Au demeurant, l'art. 609 al. 1 CC constitue une restriction légale à la liberté de partager des héritiers (ATF 114 II 418 consid. 2a). Aussi, comme exposé ci-dessus (cf. supra consid. 4.2.2.1), le recourant ne saurait se prévaloir d'un quelconque droit élémentaire à prendre part aux opérations de partage; en raison de l'intervention de l'autorité en application de l'art. 609 al. 1 CC, seule celle-ci, ou le représentant désigné par elle, est habilitée à participer aux négociations en vue du partage. Enfin, il y a lieu d'admettre, avec la cour cantonale, que, dans l'hypothèse où l'intervenant aurait effectivement exécuté les tâches confiées en violation de ses devoirs, notamment en informant insuffisamment l'héritier-débiteur, il convenait alors de s'en plaindre auprès de l'autorité de surveillance ou, éventuellement, d'invalider l'acte. En conséquence, le recours est également mal fondé sur ce point.
6. Sur le vu de ce qui précède, le recours doit être rejeté, dans la mesure de sa recevabilité. Les frais judiciaires, arrêtés à 7'000 fr., sont mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il n'y a lieu d'allouer de dépens aux intimés, ni pour leur détermination sur la requête d'effet suspensif dès lors qu'ils ont succombé sur ce point, ni quant au fond puisqu'ils n'ont pas été invités à répondre (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 7'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Ie Cour d'appel civil du Tribunal cantonal de l'État de Fribourg et au Tribunal civil de l'arrondissement de la Sarine.
Lausanne, le 21 juillet 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
Le Greffier: Richard