Sachverhalt:
A.
A.a. Am 3. Oktober 2013 wurde über B.A._, Inhaber der Einzelfirma Dr. B.A._, der Konkurs eröffnet. Mit der Durch-führung des Konkurses wurde das Konkursamt Küsnacht beauftragt. Es gelangt das summarische Verfahren zur Anwendung.
A.b. A.A._ als Ehefrau des Gemeinschuldners machte in diesem Verfahren für sich und für die C._ GmbH in vier Kapitalteile aufgegliederte Forderungen von insgesamt Fr. 2'547'267.06 geltend. Mit Verfügung vom 30. Juli 2015 kollozierte das Konkursamt die Forderung von A.A._ im Umfang von Fr. 7'567.60 und die Forderung der C._ GmbH im Umfang von Fr. 26'351.35 jeweils in der dritten Klasse. Im Mehrumfang wurde die Forderung in Bestand, Höhe und Rang abgewiesen. Mit Eingabe vom 13. August 2015 meldete A.A._ beim Konkursamt eine nachträgliche Forderung von Fr. 829'400.55 an.
A.c. Mit Klage vom 20. August 2015 beantragte A.A._ beim Bezirksgericht Meilen die zusätzliche Kollokation ihrer Forderung von Fr. 22'506.-- in der ersten Klasse, eventuell in der dritten Klasse, sowie die Forderung über Fr. 150'000.-- in der dritten Klasse. Das Bezirksgericht wies die Klage am 1. Dezember 2015 ab, soweit es darauf eintrat.
B.
Gegen den Entscheid des Bezirksgerichts gelangte A.A._ mit Berufung an das Obergericht des Kantons Zürich. Sie beantragte in der Sache die Kollokation der bereits zugelassenen Forderungen von insgesamt Fr. 33'918.95 in der ersten statt der dritten Klasse. Zusätzlich verlangte sie die Kollokation der Forderung von Fr. 22'506.-- sowie von Fr. 90'000.-- in der ersten, eventuell in der dritten Klasse, und schliesslich die Kollokation der Forderung über Fr. 150'000.-- in der dritten Klasse. Mit Urteil vom 15. September 2016 wies das Obergericht die Berufung ab, soweit darauf einzutreten war.
C.
A.A._ und B.A._ sind mit einer als Beschwerde in Zivilsachen sowie subsidiärer Verfassungsbeschwerde bezeichneten Eingabe vom 13. Oktober 2016 an das Bundesgericht gelangt. Die Beschwerdeführer beantragen die vollumfängliche Aufhebung des obergerichtlichen Urteils und die Kollokation der von der Beschwerdeführerin angemeldeten Forderung von Fr. 2'547'267.06 in der ersten Klasse sowie die Kollokation der bereits gutgeheissenen Forderung von Fr. 33'918.95 in der ersten statt in der dritten Klasse sowie der Forderung von Fr. 22'506.-- in der ersten Klasse.
Einzig die Beschwerdeführerin stellt ein Gesuch um unentgeltliche Prozessführung.
Es sind die kantonalen Akten, indes Vernehmlassungen eingeholt worden.

Erwägungen:
1.
1.1. Das angefochtene Urteil stammt von einer kantonalen Rechtsmittelinstanz und betrifft ein Kollokationsurteil, in welchem der Bestand von Forderungen aus Bundeszivilrecht und deren Rang umstritten ist, weshalb der Entscheid der Beschwerde in Zivilsachen unterliegt (Art. 72 Abs. 1, Abs. 2 lit. a BGG).
1.2. Kollokationsstreitigkeiten sind vermögensrechtlicher Natur, womit die Beschwerde in Zivilsachen nur gegeben ist, sofern die gesetzliche Streitwertgrenze erreicht wird (<ref-law>). Der Streitwert bei Kollokationsklagen entspricht weder dem mutmasslichen Verwertungserlös der Aktiven (wie behauptet: Fr. 30'000.--) noch der Höhe der strittigen Forderungen, wie in der Beschwerde ausgeführt wird. Auszugehen ist von der Konkursdividende, die voraussichtlich auf den strittigen Anspruch (Forderung, Rang, Pfandrecht etc.) entfallen wird, also vom möglichen Prozessgewinn des Gläubigers; der Streitwert ergibt sich aus der Differenz zwischen der Dividende der angefochtenen und der beanspruchten Kollokation (<ref-ruling> E. 1.2 S. 128). Die Berechnung der mutmasslichen Konkursdividende erfolgt ausschliesslich durch das Konkursamt, welches hiefür die Aktiven gemäss Inventar den Passiven gemäss Kollokationsplan gegenüberstellt und das zu erwartenden Ergebnis in den Kollokationsplan aufnimmt. Massgebend sind die konkursamtlichen Angaben, welche im Zeitpunkt der Einreichung der Kollokationsklage vorliegen (<ref-ruling> S. 95; <ref-ruling> E. 3.1, E. 3.2 S. 676 f.).
1.3. Im konkreten Fall geht das Konkursamt davon aus, dass einzig eine Dividende von 5 % für die Gläubiger der dritten Klasse möglich sein wird. In Bezug gesetzt zu den Anträgen in der Kollokationsklage (Fr. 22'506.-- und Fr. 150'000.--) wird der erforderliche Streitwert für die Beschwerde in Zivilsachen nicht erreicht. Es besteht sodann kein Anhaltspunkt, dass für die vor der Vorinstanz (Lit. B) strittig gebliebene (<ref-law>), beanspruchte Kollokation der Forderung in der ersten statt dritten Klasse eine mutmassliche Dividende möglich ist, welche mit Bezug zur angefochtenen Kollokation zu einer Differenz führt, die Fr. 30'000.-- erreicht. Eine Rechtsfrage von grundsätzlicher Bedeutung ist nicht ersichtlich. Weshalb die Vorinstanz aus dieser Sicht die Beschwerdeführerin auf ihre ungenügenden Anträge aufmerksam hätte machen und ihr allenfalls eine Nachfrist zur Verbesserung ansetzen müssen, wird zwar behauptet, indes ungenügend begründet. Die Eingabe der Beschwerdeführer wird daher als subsidiäre Verfassungsbeschwerde entgegen genommen (<ref-law>).
1.4. Geprüft werden kann somit einzig die Verletzung verfassungsmässiger Rechte (<ref-law>). Soweit die Verletzung des Willkürverbotes (<ref-law>) gerügt wird, gelten erhöhte Begründungsanforderungen. Insbesondere ist darzutun, weshalb der angefochtene Entscheid nicht nur in der Begründung, sondern auch im Ergebnis unhaltbar ist (<ref-ruling> E. 2.3 S. 266; <ref-ruling> E. 4.1 S. 133; <ref-ruling> E. 3.2 S. 88).
1.5. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>). Das Bundesgericht nimmt keine Beweise ab, womit dem Antrag auf Einvernahme des Gemeinschuldners als Zeuge nicht stattgegeben werden kann.
1.6. Die Beschwerdeführerin, die am vorinstanzlichen Verfahren teilgenommen hat und mit ihren Anträgen unterlegen ist, steht ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Urteils zu (Art. 115 lit. a und b BGG). Hingegen ist nicht ersichtlich und wird auch nicht begründet, inwiefern der Beschwerdeführer als Gemeinschuldner zum Gang an das Bundesgericht berechtigt sein sollte. Soweit die Beschwerde auch in seinem Namen erhoben wird, ist darauf nicht einzutreten.
2.
2.1. Die Vorinstanz hat die Berufungsanträge ausgelegt und ist zum Schluss gekommen, dass im Rechtsmittelverfahren die Kollokation sämtlicher Forderungen gemäss der am 12. September 2014 erfolgten Anmeldung an das Konkursamt strittig sei, soweit diese nicht zugelassen worden sind. Gegenstand des erstinstanzlichen Verfahrens sei aber nicht die Gesamtforderung von Fr. 2'547'267.06 gemäss dieser Forderungseingabe gewesen, weshalb nach Ansicht der Vorinstanz eine Klageänderung vorliege. Eine solche sei nur unter bestimmten Voraussetzungen zulässig, die jedoch von der Beschwerdeführerin nicht dargetan würden. Zudem sei die Darlehensforderung von Fr. 150'000.-- nicht in der Forderungseingabe vom 12. September 2014 enthalten gewesen, sondern erst nachträglich am 13. August 2015 beim Konkursamt angemeldet worden, und werde daher von der Kollokationsverfügung vom 30. Juli 2015 nicht erfasst. Schliesslich trat die Vorinstanz auf den Antrag, die Sammelforderung von Fr. 22'506.-- in der ersten, eventuell der dritten Klasse zu kollozieren, mangels Begründung nicht ein.
2.2. Die Beschwerdeführerin wirft der Vorinstanz vor, ihre Forderungseingabe willkürlich ausgelegt und daher in unzulässiger Weise eine Klageänderung angenommen zu haben. Zudem sei hinsichtlich der Berufungsanträge auf den Umstand, dass sie nicht anwaltlich vertreten gewesen war, nicht Rücksicht genommen worden. Die Beschwerdeführerin macht die Verletzung verfassungsmässiger Rechte (Art. 9, Art. 29 Abs. 1 und 2 BV bzw. Verbot der Willkür und des überspitzten Formalismus, Anspruch auf rechtliches Gehör) und des Anspruchs auf ein faires Verfahren (Art. 6 EMRK) geltend.
3.
Anlass der Beschwerde bildet der Kollokationsplan im Konkurs und der Gegenstand der Kollokationsklage.
3.1. Der Gläubiger kann gegenüber der Konkursmasse neben der Hauptforderung die Zinsen bis zur Eröffnung des Konkurses und die Betreibungskosten geltend machen (<ref-law>). Nach Ablauf der Eingabefrist nimmt die Konkursverwaltung eine summarische Prüfung der eingegebenen Forderungen vor und macht die zu ihrer Erwahrung nötigen Erhebungen. Sie holt über jede Konkurseingabe die Erklärung des Gemeinschuldners ein (<ref-law>). Innert 60 Tagen nach Ablauf der Eingabefrist erstellt die Konkursverwaltung den Plan für die Rangordnung der Gläubiger (<ref-law>). Dieser Kollokationsplan kann von den Gläubigern nur mit Beschwerde wegen Verfahrensfehlern bei der Aufsichtsbehörde angefochten werden, nicht jedoch wegen dessen materiell-rechtlichen Ergebnisses (<ref-ruling> E. 2; Urteil 5A_329/2012 vom 5. September 2012 E. 4.4). Der Gläubiger, dessen Forderung ganz oder teilweise abgewiesen oder nicht im beanspruchten Rang zugelassen worden ist, kann innert 20 Tagen beim Zivilrichter gegen die Masse klagen (<ref-law>). Gegenstand ist die Bereinigung des Kollokationsplanes (<ref-ruling> E. 4.3.3), womit sich die Kollokationsklage ausschliesslich auf die angemeldeten Forderungen beziehen kann (JAQUES, in: Commentaire romand, Poursuite et faillite, 2005, N. 7 zu Art. 250).
3.2. Es trifft zu, dass die Beschwerdeführerin am 12. September 2014 im Konkurs ihres Ehemannes eine Forderung von insgesamt Fr. 2'547'267.06 angemeldet hat. Die Konkursverwaltung hat im Kollokationsplan vom 30. Juli 2015 einzig eine Forderung der Beschwerdeführerin von Fr. 7'567.60 und eine solche der C._ GmbH von Fr. 26'351.35, jeweils in der dritten Klasse, aufgenommen. Mit der Klage vom 20. August 2015 beantragte die Beschwerdeführerin beim Bezirksgericht, zusätzlich ihre Forderungen von Fr. 22'506.-- in der ersten, eventuell in der dritten Klasse und von Fr. 150'000.-- in der dritten Klasse zu kollozieren. Aus der Begründung der Klage geht bereits hervor, dass die zweitgenannte Forderung erst am 13. August 2015 und damit nach Erstellung des Kollokationsplans angemeldet worden ist. Die Beschwerdeführerin hat diesen Sachverhalt anlässlich der Einvernahme vor der Erstinstanz am 23. November 2015 sogar ausdrücklich bestätigt. Die Vorinstanz hat ausführlich dargelegt, warum der Anspruch von Fr. 150'000.-- in der Forderungseingabe an das Konkursamt vom 12. September 2014 nicht bereits enthalten war. Soweit die Beschwerdeführerin nach wie vor meinen sollte, der genannte Anspruch sei Bestandteil der Totalforderung von Fr. 2'547'267.06, was aus ihren Ausführungen nicht restlos klar wird, läge auf jeden Fall keine rechtsgenüglich begründete Willkürrüge hinsichtlich der Auslegung ihrer Eingabe und ihrer Anträge durch die Vorinstanz vor.
3.3. Im Berufungsverfahren beantragte die Beschwerdeführerin die Kollokation aller Forderungen gemäss ihrer Eingabe vom 12. September 2014 an das Konkursamt, insbesondere den Anspruch von Fr. 90'000.-- in der ersten, eventuell in der dritten Klasse, den Anspruch von Fr. 22'506.-- in der ersten, eventuell in der dritten Klasse sowie den Anspruch über Fr. 150'000.-- in der dritten Klasse. Die bereits zugelassenen Forderungen über insgesamt Fr. 33'918.95 seien in der ersten statt der dritten Klasse zu kollozieren. Die Vorinstanz erblickte in diesen Anträgen eine Klageänderung, da die geforderten Beträge nur teilweise Gegenstand des erstinstanzlichen Verfahrens gebildet hatten. Angesichts der fehlenden Begründung könne die Zulässigkeit von Noven im konkreten Berufungsverfahren (Art. 317 Abs. 2 i.V.m. <ref-law>) offen bleiben. Dagegen bringt die Beschwerdeführerin im bundesgerichtlichen Verfahren wiederholt vor, dass sie von ihrer Forderungsanmeldung vom 12. September 2014 im gesamten kantonalen Verfahren nie abgerückt sei, weshalb gar keine Klageänderung vorliege. Sie begründet ihren Standpunkt im Wesentlichen mit dem Vorwurf, die Erstinstanz habe ihre Anträge falsch gewürdigt. Diesem Einwand folgte die Vorinstanz nicht und wies auf die konkreten Rechtsbegehren in der Kollokationsklage hin. Damals forderte die Beschwerdeführerin, zusätzlich zu den bereits kollozierten Beträgen, noch die Forderung von Fr. 22'506.-- in der ersten Klasse und von Fr. 150'000.- in der zweiten Klasse des Kollokationsplanes aufzunehmen. Inwiefern der Vorinstanz vor diesem Hintergrund eine Verletzung des rechtlichen Gehörs und des Anspruchs auf ein faires Verfahren vorzuwerfen ist, wird einzig behauptet, aber nicht rechtsgenüglich begründet. Dies gilt auch für den Willkürvorwurf gegenüber der Vorinstanz, welche nach Ansicht der Beschwerdeführerin die Erstinstanz gestützt auf <ref-law> zur Klarstellung und Ergänzung ihrer Anträge hätte anhalten sollen. Auf diese Rüge ist ebenfalls nicht einzutreten.
3.4. Strittig ist zudem die Kollokation von zwei Forderungen in der dritten statt in der ersten Klasse. Die Vorinstanz ist auf die entsprechenden Anträge mangels Begründung nicht eingetreten. Die Beschwerdeführerin legt nicht dar, worin ihre genügende Begründung bestanden hätte und welche verfassungsmässigen Rechte die Vorinstanz hier verletzt haben sollte, indem sie auf diese Begehren nicht eingetreten ist. Stattdessen versucht die Beschwerdeführerin vor Bundesgericht ihren Standpunkt zur Sache darzulegen. In diesem Zusammenhang beschwert sich die Beschwerdeführerin auch darüber, dass ihr Ehemann von der Erstinstanz nicht als Zeugen einvernommen worden war. Die Vorinstanz hielt dem entgegen, dass keinerlei Behauptungen aufgestellt worden waren, zu welchen das Gericht hätte Beweise abnehmen müssen. Auch auf diese Rügen kann das Bundesgericht mangels rechtsgenüglicher Begründung insgesamt nicht eintreten.
4.
Nach dem Gesagten ist der Beschwerde kein Erfolg beschieden. Wegen Aussichtslosigkeit der Begehren ist das Gesuch um unentgeltliche Rechtspflege abzuweisen (<ref-law>). Ausgangsgemäss werden die Gerichtskosten den Beschwerdeführern solidarisch auferlegt (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Februar 2017
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Levante