Faits :
A.
A.a. A._, domicilié à U._, est le titulaire de la raison individuelle C._, dont le siège est à V._.
A.b. Le 12 décembre 2014, l'Office des poursuites de la Gruyère a notifié à A._, à l'instance de B._ SA, le commandement de payer n° xxxx, portant sur des montants de xxxx fr. plus intérêt et de xxx fr. Le 26 janvier 2015, cet office a notifié au débiteur la commination de faillite établie le 23 janvier 2015 dans la poursuite précitée.
A.c. Après avoir entendu le poursuivi à son audience du 2 novembre 2015, personne ne s'étant présenté au nom de la créancière, la Présidente du Tribunal civil de la Gruyère (ci-après: la Présidente) a prononcé la faillite de A._ par décision du même jour.
B.
B.a. Son attention ayant été attirée par l'Office cantonal des faillites sur le fait que le failli était domicilié dans le district de la Sarine, la Présidente s'est adressée, par courrier du 20 novembre 2015, à la Chambre des poursuites et faillites du Tribunal cantonal de l'Etat de Fribourg (ci-après: la Chambre des poursuites et faillites), en tant qu'autorité de surveillance des offices des poursuites et des faillites, afin que soit examinée l'éventuelle nullité de la commination de faillite.
B.b. Invités à se déterminer, A._ a indiqué le 2 décembre 2015, attestation du contrôle des habitants à l'appui, qu'il est effectivement domicilié à U._, tandis que B._ SA ne s'est pas manifestée.
B.c. Par arrêt du 23 décembre 2015, la Chambre des poursuites et faillites a constaté que la commination de faillite n° xxxx, établie le 23 janvier 2015 par l'Office des poursuites de la Gruyère à l'encontre de A._, est nulle, mais a en revanche refusé de constater la nullité de la décision de faillite de A._ prononcée le 2 novembre 2015 par la Présidente du Tribunal civil de la Gruyère.
C.
Par acte posté le 8 janvier 2016, A._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 23 décembre 2015. Il conclut à son annulation et à sa réforme en ce sens que la nullité de la décision de faillite du 2 novembre 2015 est constatée. Il invoque une violation des art. 22, 46 al. 1, 166, 172 ch. 1 et 173 ch. 2 LP, ainsi que de l'art. 8 Cst.
Invité à se déterminer, l'Office cantonal des faillites a indiqué se rallier à l'avis du recourant et a conclu à ce que le commandement de payer, la commination de faillite et la décision de faillite soient déclarés nuls au sens de l'<ref-law> et à ce qu'ordre lui soit donné de lever, respectivement d'annuler, toutes les mesures prises dans l'intervalle. A l'appui de ses observations, l'office a notamment contesté l'allégation du recourant selon laquelle il n'avait pas commencé à exécuter le jugement de faillite. Conformément à l'<ref-law>, il avait en effet procédé rapidement à l'interrogatoire du failli, à l'inventaire de ses actifs et au blocage de ses comptes bancaires. En revanche, suite à l'ordonnance du Tribunal fédéral du 16 janvier 2016, son matériel d'exploitation a été laissé à sa disposition et le bail n'a pas été résilié.
L'intimée ne s'est pas déterminée dans le délai imparti à cet effet et l'autorité cantonale a indiqué renoncer à déposer une réponse.
D.
Par ordonnance présidentielle du 28 janvier 2016, l'effet suspensif a été attribué au recours en ce sens que le prononcé de la faillite reste en force mais qu'aucun acte d'exécution de la décision attaquée ne doit être entrepris, les éventuelles mesures conservatoires déjà prises par l'Office des faillites (art. 162 ss, 170, 174 al. 3 et 221 ss LP) demeurant toutefois en vigueur.

Considérant en droit :
1.
Le recours a été déposé en temps utile (art. 100 al. 2 let. a et 46 al. 1 let. c LTF) à l'encontre d'une décision finale (<ref-law>) rendue en matière de poursuite pour dettes (<ref-law>) par une autorité de surveillance statuant en dernière (unique) instance cantonale (<ref-law>); il est recevable sans égard à la valeur litigieuse (art. 74 al. 2 let. c LTF). Le recourant dispose d'un intérêt digne de protection au sens de l'<ref-law> à obtenir l'annulation de l'arrêt attaqué qui refuse de constater la nullité du prononcé de sa faillite. Le présent recours en matière civile est donc en principe recevable au regard des dispositions qui précèdent.
2.
2.1. Le recours en matière civile peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office, sans être lié ni par les moyens des parties ni par les motifs de l'autorité cantonale (<ref-ruling> consid. 1.3 p. 335 s.; <ref-ruling> consid. 1.4 p. 317 s.). Il peut donc admettre un recours pour un autre motif que ceux invoqués par le justiciable ou rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente. Compte tenu de l'exigence de motivation, sous peine d'irrecevabilité (art. 42 et art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine toutefois que les griefs invoqués, le cas d'une violation manifeste du droit demeurant réservé (<ref-ruling> consid. 2 p. 116; <ref-ruling> consid. 1.4 p. 400).
2.2. Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>).
3.
3.1. En vertu de l'<ref-law>, l'autorité de surveillance peut, dans le délai de plainte (<ref-law>) ou même hors délai, déclarer nulle une mesure de l'office si celle-ci est contraire à des dispositions édictées dans l'intérêt public ou dans l'intérêt de personnes qui ne sont pas partie à la procédure. Cette compétence repose sur son pouvoir de surveillance selon l'<ref-law> (arrêt 5A_647/2013 du 27 février 2014 consid. 4.2.1, publié in BlSchK 2015 p. 68).
Les règles sur le for de la poursuite (<ref-law>) sont de droit public et de droit impératif (GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, Remarques introductives ad art. 46-55 LP n° 30). Leur violation entraînera la nullité des actes de poursuite. Il s'agit d'actes d'intervention, soit des actes qui modifient la situation du débiteur, notamment en le dépossédant de ses biens. Tel est le cas de la saisie et du prononcé de faillite, mais aussi de l'avis de saisie et de la commination de faillite qui ouvrent définitivement la voie à la mesure de contrainte (STOFFEL/CHABLOZ, Voies d'exécution, 3ème éd., 2016, p. 89).
Le moyen pris de la nullité de la commination de faillite en raison de l'incompétence ratione loci de l'office dont elle émane doit en principe être soulevé par la voie de la plainte ou du recours selon les art. 17 à 19 LP, sans égard au délai prévu par ces dispositions (<ref-ruling> consid. 2 p. 6; 51 III 157 consid. 2 p. 159). Il peut néanmoins être soulevé devant le juge de la faillite et celui-ci est tenu d'en saisir l'autorité de surveillance et de suspendre son jugement jusqu'à droit connu sur la valeur du moyen (ATF 73 I 353 consid. 2 p. 355 ss). Il en va également ainsi si le juge de la faillite constate lui-même la violation des règles sur le for de la poursuite ou s'il conçoit des doutes sur sa compétence: il ajournera sa décision et soumettra la cause à l'autorité de surveillance (<ref-law> par analogie; <ref-ruling> consid. 2 p. 6; <ref-ruling> consid. 2 p. 34).
3.2. En l'espèce, le déroulement de la procédure ayant conduit à la décision querellée, plus particulièrement la question de la saisine a posteriori de l'autorité de surveillance par le juge de la faillite, n'est pas discuté. Il n'y a dès lors pas lieu d'examiner plus avant cette question.
Il est par ailleurs constant que la commination de faillite est nulle. Comme l'a correctement rappelé l'autorité précédente, il résulte en effet de la jurisprudence qu'une commination de faillite notifiée à un for irrégulier est radicalement nulle (<ref-ruling> consid. 2 p. 6; 51 III 157 consid. 2 p. 159). Or le for de la poursuite du titulaire d'une raison individuelle est à son domicile personnel (<ref-law>), non au lieu d'exploitation de son commerce ou au lieu de son inscription au registre du commerce (ATF 51 III 157consid. 1 p. 158; arrêt B.168/1994 du 26 juillet 1994 consid. 2). L'Office des poursuites de la Gruyère, qui n'est pas celui du domicile du débiteur, était donc incompétent ratione loci, ce que l'autorité de surveillance a à juste titre constaté.
4.
Le recourant reproche en substance à la cour cantonale de ne pas avoir constaté la nullité du jugement de faillite, alors même qu'elle avait déclaré nulle la commination de faillite en raison de l'incompétence ratione loci de l'office dont elle émane. Plus particulièrement, invoquant une violation de l'<ref-law>, il considère que l'incompétence de l'Office des poursuites de la Gruyère frappe de nullité absolue l'ensemble de la procédure de poursuite et entraîne en conséquence la nullité du jugement de faillite (<ref-law>), ce d'autant qu'une commination de faillite valable est un élément absolument indispensable pour prononcer la faillite (art. 166, 172 ch. 1 et 173 ch. 2 LP). La nullité du jugement de faillite ne saurait au demeurant porter atteinte à la sécurité du droit, dès lors que l'office n'avait même pas encore commencé à l'exécuter. Le fait que le jugement de faillite soit en force ne saurait non plus faire obstacle au constat de sa nullité, lequel peut intervenir en tout temps.
4.1.
4.1.1. L'autorité de surveillance ne peut pas déclarer nulle, sur la base de l'<ref-law>, une décision judiciaire, les autorités judiciaires n'appartenant pas au cercle des entités soumises à sa surveillance. Toutefois, comme toute autorité chargée d'appliquer le droit, l'autorité de surveillance peut, selon la jurisprudence, constater d'office et en tout temps la nullité d'une décision judiciaire, de même que l'office peut refuser d'exécuter une décision entachée d'un tel vice (arrêt 5A_647/2013 précité consid. 4.2.1).
4.1.2. Selon la jurisprudence, une décision judiciaire est nulle si le vice dont elle est entachée est particulièrement grave, manifeste ou du moins facilement décelable et si, en outre, la constatation de la nullité ne met pas sérieusement en danger la sécurité du droit. Hormis les cas expressément prévus par la loi, la nullité ne doit être admise qu'exceptionnellement, lorsque les circonstances sont telles que le système d'annulabilité n'offre manifestement pas la protection nécessaire; entrent principalement en considération comme motifs de nullité de graves vices de procédure ainsi que l'incompétence qualifiée de l'autorité qui a rendu la décision, de sorte qu'il serait choquant de maintenir sa décision. L'illégalité d'une décision ne constitue pas par principe un motif de nullité (arrêt 5A_647/2013 précité consid. 4.2.1 et les références citées).
4.1.3.
4.1.3.1. Le constat de la nullité d'une décision judiciaire suppose que l'on soit en présence d'un cas d'incompétence qualifiée de l'autorité qui l'a rendue (cf. supra consid. 4.1.2), soit en principe d'une incompétence fonctionnelleet matérielle (cf. arrêt 5A_785/2010 du 30 juin 2011 consid. 1.2), voire, s'agissant en particulier du jugement de faillite, d'une incompétence ratione locien raison d'une poursuite diligentée à un for irrégulier (arrêt 5A_647/2013 précité consid. 4.2.2 [faillite prononcée à Genève d'un débiteur incontestablement domicilié en France]).
Même en cas d'incompétence qualifiée de l'autorité dont émane la décision, l'admission de la nullité ne doit pas léser gravement la sécurité du droit ou des relations juridiques (cf. supra consid. 4.1.2; cf. ég. <ref-ruling> consid. 3g p. 47 s.; <ref-ruling> consid. 8a p. 220 s.). Il faut procéder à une pondération entre l'intérêt à la sécurité juridique et l'intérêt à une correcte application du droit, à la lumière des circonstances du cas d'espèce. En d'autres termes, la sanction de la nullité n'entre en considération que lorsque la violation en cause pèse plus lourd que l'atteinte à la sécurité juridique et aux intérêts économiques publics résultant de l'anéantissement de la décision viciée (JAAC 67.66 consid. 6/cc et les références; cf. ég. supra consid. 4.1.2). En matière de faillite, il ne saurait y avoir, selon la jurisprudence, atteinte à la sécurité du droit lorsque l'office n'a pas même commencé à exécuter le jugement de faillite (arrêt 5A_647/2013 précité consid. 4.2.2; cf. ég. <ref-ruling> consid. 2 p. 22 ss).
4.1.3.2. L'autorité cantonale a considéré qu'en l'espèce, l'on n'était " à première vue " pas en présence d'un cas d'incompétence qualifiée, dès lors que la faillite avait été prononcée par une autorité du canton de domicile du poursuivi. La présente affaire ne pouvait dès lors être assimilée à celle ayant donné lieu à l'arrêt 5A_647/2013 dans laquelle le débiteur était domicilié en France.
La portée restrictive donnée par l'autorité cantonale à l'arrêt précité apparaît discutable dans la mesure où, dans cette affaire, le motif ayant conduit au constat de la nullité du jugement de faillite était fondé sur la violation de la règle impérative de l'<ref-law>, dont on ne voit a priori pas pourquoi elle ne pourrait pas aussi être réalisée lorsque, comme en l'espèce, le débiteur poursuivi est domicilié dans un autre arrondissement de poursuite que celui de l'office diligentant - à tort - la poursuite considérée. Cette question peut toutefois demeurer indécise. En effet, même s'il fallait admettre la nullité du jugement de faillite en raison de l'incompétence qualifiée du juge l'ayant prononcé, un autre motif s'oppose à ce que cette nullité soit constatée par l'autorité de surveillance.
Contrairement à l'affaire 5A_647/2013 où l'office avait refusé d'exécuter le jugement de faillite, l'Office cantonal des faillites a, en l'espèce, exécuté le jugement litigieux en procédant à l'interrogatoire du débiteur ainsi qu'à l'inventaire de ses actifs et en bloquant ses comptes. Or, à teneur de la jurisprudence, de tels actes d'exécution font obstacle au constat de la nullité du jugement de faillite: à ce stade de la procédure, l'autorité de surveillance ne peut en effet plus examiner la légalité de la déclaration de faillite (<ref-ruling> consid. 2 p. 22 ss; cf. ég. supra consid. 4.1.3.1), quand bien même la commination de faillite aurait été déclarée nulle postérieurement au jugement de faillite.
Au vu de ce qui précède, force est de constater que la décision querellée n'est pas contraire au droit fédéral. Le moyen, infondé, doit donc être rejeté.
5.
Le recourant fait également grief à l'autorité cantonale d'avoir violé le principe de l'égalité de traitement (art. 8 Cst.). Il soutient à cet égard que la décision querellée crée une inégalité de traitement entre les débiteurs, en ce sens que tous les débiteurs soumis à la voie de la faillite ont droit à être poursuivis au for de leur domicile et ont droit à une procédure exempte de vices formels ou à tout le moins à ce que les actes viciés soient déclarés nuls. La décision querellée crée à son avis une exception à ce principe, en tolérant qu'il soit traité de manière différente par rapport à la règle ordinaire valant pour tous les débiteurs.
5.1. Le Tribunal fédéral n'examine la violation des droits constitutionnels que si un tel grief a été dûment invoqué et motivé par la partie recourante (<ref-ruling> consid. 3.3 p. 310; <ref-ruling> consid. 1.4.2 p. 254). Le recourant qui se plaint de la violation de droits fondamentaux doit satisfaire au principe d'allégation, en indiquant précisément quelle disposition constitutionnelle a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation (<ref-law>; <ref-ruling> consid. 1.4 p. 287; <ref-ruling> consid. 1.4.2 p. 254). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 3.1 p. 399, 133 III 589 consid. 2 p. 592).
5.2. L'inégalité de traitement (art. 8 al. 1 Cst.) apparaît comme une forme particulière d'arbitraire, consistant à traiter de manière inégale ce qui devrait l'être de manière semblable ou inversement (<ref-ruling> consid. 3.5 p. 175; <ref-ruling> consid. 6 p. 357). En ce sens, tel qu'invoqué, le grief relatif à l'égalité de traitement n'a pas de portée propre par rapport à celui de l'interdiction de l'arbitraire de l'art. 9 Cst.
Une décision est arbitraire (art. 9 Cst.) lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit censurée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 2.2.2 p. 318 s.; <ref-ruling> consid. 3.1 p. 153).
5.3. En l'espèce, au vu du sort réservé au grief portant sur la nullité du jugement de faillite, la décision querellée ne saurait être considérée comme arbitraire dans son résultat. Le grief doit donc être rejeté.
6.
En définitive, le recours est rejeté, aux frais de son auteur (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée qui n'a pas répondu (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à l'Office cantonal des faillites et à la Chambre des poursuites et faillites du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 26 avril 2016
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière: Hildbrand