Sachverhalt:
A.
A.a. Am 23. November 2010 eröffnete das Bezirksgericht Zürich den Konkurs über B.C._. Das Obergericht des Kantons Zürich wies die dagegen erhobene Beschwerde ab und setzte infolge Gewährung der aufschiebenden Wirkung den Konkurstermin neu auf den 14. März 2011 fest. Zuständig für das Konkursverfahren ist das Konkursamt Hottingen-Zürich.
A.b. Am 10. November 2011 erstellte das Konkursamt den Kollokationsplan. Es liess in der 3. Klasse unter anderem eine Forderung der D._ AG von Fr. 532'314.35 (Nr. 11) zu.
A.c. Am 29. November 2011 erhob A.C._ beim Bezirksgericht Zürich eine negative Kollokationsklage gegen die D._ AG. Sie beantragte, die in der 3. Klasse aufgenommene Forderung nur im Betrag von Fr. 59'826.55 zuzulassen. Anlässlich der Verhandlung vom 9. November 2012 bestritt A.C._ neu die gesamte Forderung der D._ AG.
A.d. Mit Urteil (FV110275) vom 27. Januar 2017 hiess das Bezirksgericht die negative Kollokationsklage von A.C._ gut, soweit es darauf eintrat (Dispositiv-Ziff. 1). Mit Verfügung vom selben Tag trat es auf die negative Kollokationsklage von A.C._ im Umfang von Fr. 59'826.55 nicht ein (Dispositiv-Ziff. 1).
B.
B.a. Daraufhin gelangten sowohl A.C._ und als auch die D._ AG an das Obergericht des Kantons Zürich. Mit Berufung vom 20. Februar 2017 beantragte A.C._, die Forderung von Fr. 59'826.55 aus dem Kollokationsplan zu streichen. Zudem verlangte sie die Aufhebung des Konkurses über B.C._. Die D._ AG beantragte mit Beschwerde vom 1. März 2017 die vollumfängliche Abweisung der negativen Kollokationsklage von A.C._, allenfalls die Rückweisung der Streitsache an das Bezirksgericht zur Ergänzung des Sachverhalts und zur erneuten Beurteilung der Klage. Das Obergericht nahm die Eingaben beider Parteien als Berufung entgegen und wies sie in ein je gesondertes Verfahren (PP170005 und NP170008).
B.b. Mit Beschluss vom 24. August 2017 trat das Obergericht auf den Antrag von A.C._, den Konkurs über B.C._ aufzuheben, nicht ein (Dispositiv-Ziff. 1). Das Gesuch um unentgeltliche Rechtspflege für das Berufungsverfahren wies es ab (Dispositiv-Ziff. 2). Mit Urteil vom selben Tag wies es die Berufung ab und bestätigte das erstinstanzliche Urteil im angefochtenen Umfang (Dispositiv-Ziff. 1).
B.c. Mit Urteil vom 24. August 2017 wies das Obergericht die Berufung der D._ AG ab, soweit es darauf eintrat, und bestätigte das erstinstanzliche Urteil im angefochtenen Umfang (Dispositiv-Ziff. 1).
C.
C.a. Am 20. September 2017 hat A.C._ beim Bundesgericht Beschwerde eingereicht. Die Beschwerdeführerin beantragt, die Forderung der D._ AG von Fr. 59'826.55 aus dem Kollokationsplan zu streichen. Zudem stellt sie das Begehren, den Konkurs über B.C._ aufzuheben. Sie stellt für das bundesgerichtliche Verfahren ein Gesuch um unentgeltliche Rechtspflege.
Es sind die kantonalen Akten, indes keine Vernehmlassungen eingeholt worden.
C.b. Am 28. September 2017 hat auch die D._ AG gegen das obergerichtliche Urteil vom 24. August 2017 Beschwerde erhoben, welche Gegenstand des separaten Verfahrens 5D_181/2017 ist.

Erwägungen:
1.
1.1. Angefochten ist ein Endentscheid über eine Kollokationsklage, konkret eine Wegweisungsklage nach <ref-law> betreffend eine Forderung nach Bundeszivilrecht, die der Beschwerde in Zivilsachen zugänglich ist (Urteil 5A_859/2015 vom 18. November 2015 E. 1.1). Die gesetzliche Streitwertgrenze (vgl. zum Streitwert im Kollokationsprozess: <ref-ruling> E. 3.1 S. 676) wird bei einer mutmasslichen Konkursdividende von vorliegend 3% nicht erreicht (<ref-law>). Eine Rechtsfrage von grundsätzlicher Bedeutung wird nicht geltend gemacht und ist auch nicht ersichtlich (<ref-law>). Die Beschwerde in Zivilsachen ist somit nicht gegeben. Die Eingabe der Beschwerdeführerin wird als subsidiäre Verfassungsbeschwerde entgegen genommen (<ref-law>).
1.2. Mit Beschwerde nach <ref-law> kann einzig die Verletzung verfassungsmässiger Rechte geltend gemacht werden (<ref-law>). Ob eine solche gegeben ist, prüft das Bundesgericht nur soweit, als eine entsprechende Rüge vorgebracht und ausreichend begründet worden ist (<ref-ruling> E. 1.2.2).
1.3. Das Bundesgericht legt seinem Urteil den vorinstanzlich festgestellten Sachverhalt zugrunde (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 i.V.m. <ref-law>).
2.
Anlass der Beschwerde bildet die Frage der Rechtzeitigkeit einer Kollokationsklage.
2.1. Ein Gläubiger, dessen Forderung im Kollokationsplan ganz oder teilweise abgewiesen worden ist, muss innert 20 Tagen seit Auflage des Kollokationsplans beim Richter am Konkursort gegen die Masse klagen (<ref-law>). Bestreitet er die Zulassung eines anderen Gläubigers oder dessen Rang, so muss er die Klage gegen diesen Gläubiger richten (<ref-law>). Das Urteil im Kollokationsprozess wirkt nur im hängigen Konkursverfahren; es hat keine über das konkrete Verfahren hinausgehende materiellrechtliche Bedeutung (<ref-ruling> E. 4.3.3). Wird die Klage gegen einen anderen Gläubiger gutgeheissen, so wirkt sich das Urteil primär nur zwischen den Prozessparteien aus; die anderen Gläubiger sind nur betroffen, soweit der Prozessgewinn die Forderung samt Kosten übersteigt (BGE 25 I 547 E. 1; vgl. Art. 250 Abs. 2 a.E. SchKG). Die Frist zur Einreichung beider Klagen beträgt jeweils 20 Tage und läuft ab der öffentlichen Auflage des Kollokationsplans, d.h. der Publikation im SHAB (Art. 249 Abs. 2 i.V.m. <ref-law>). Bei der Klagefrist nach <ref-law> handelt sich um eine Verwirkungsfrist (<ref-ruling> E. 2.2; STOFFEL/CHABLOZ, Voies d'exécution, 3. Aufl. 2016, § 11 Rz. 100; SPRECHER, in: Kurzkommentar SchKG, 2. Aufl. 2014, N. 23 zu Art. 250; HIERHOLZER, in: Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs, 2. Aufl. 2010, N. 42 zu Art. 250; JAQUES, in: Commentaire romand, Poursuite et faillite, 2005, N. 45 zu Art. 250). Der Kollokationsprozess wird nach den allgemeinen Regeln der ZPO durchgeführt. Je nach Streitwert kommt das ordentliche (<ref-law>) oder das vereinfachte Verfahren zur Anwendung (<ref-law>). In beiden Verfahren entfällt der Schlichtungsversuch, und es gibt weder Beweis- noch Kognitionsbeschränkungen (HIERHOLZER, a.a.O., N. 48 zu Art. 250).
2.2. Gemäss den Feststellungen der Vorinstanz war der Kollokationsplan im Konkurs über B.C._ vom 11. November bis 1. Dezember 2011 beim Konkursamt aufgelegt. Die Publikation im SHAB erfolgte am 11. November 2011. Am 29. November 2011 reichte A.C._ eine Klage gegen die D._ AG ein und beantragte, die im Kollokationsplan Nr. 11 aufgenommene Forderung von Fr. 532'314.35 (im Umfang von Fr. 472'487.80 zu reduzieren und) nur im Umfang von Fr. 59'826.55 zuzulassen. Anlässlich der Gerichtsverhandlung vom 9. November 2012 bestritt sie erstmals die gesamte Forderung der D._ AG. Zwar ist nach Ansicht der Vorinstanz auch eine nur teilweise Bestreitung der kollozierten Forderung zulässig. In einem solchen Fall werde auch die Verwirkungsfrist nach <ref-law> nur in Bezug auf den Teilbetrag gewahrt, der Gegenstand der Klage bilde. Die Vorinstanz gelangte daher zum Schluss, dass die negative Kollokationsklage bezüglich der erst am 9. November 2012 (zusätzlich) bestrittenen Teilforderung von Fr. 59'826.55 offensichtlich verspätet erfolgt und damit verwirkt war. Demnach sei das Bezirksgericht hierauf zu Recht nicht eingetreten.
2.3. Die Beschwerdeführerin wirft der Vorinstanz in diesem Zusammenhang eine falsche Auslegung von <ref-law> vor. Die negative Kollokationsklage richte sich gegen die Zulassung eines anderen Gläubigers und nicht gegen die Zulassung einer Forderung. Folglich gelte die Frist von 20 Tagen für die strittige Forderung nicht. Sie habe die Kollokationsklage gegen die D._ AG fristgerecht erhoben, womit - so die Beschwerdeführerin - die Höhe der zu bestreitenden Forderung jedoch noch nicht festgestanden habe und daher eine spätere Klageänderung noch möglich gewesen war.
2.3.1. Soweit sich die Beschwerdeführerin mit dieser Sichtweise eine spätere Anpassung ihrer Anträge ermöglichen will, kann ihr nicht gefolgt werden. Die Bestimmung von <ref-law> legt vorerst die Beklagtenrollen fest. So hat sich die positive Kollokationsklage des Gläubigers gegen die Masse zu richten (Abs. 2). Demgegenüber ist die negative Kollokationsklage gegen den anderen Gläubiger zu erheben (Abs. 2). Zudem sind beide Klagen innert der Verwirkungsfrist von 20 Tagen einzureichen. Die Kollokationsklage dient der gerichtlichen Überprüfung des Kollokationsplanes und stellt ihrem Sinn und Zweck ein Rechtsmittel gegen die Kollokationsverfügung dar (<ref-ruling> E. 4a; VOCK/MEISTER-MÜLLER, SchKG-Klagen nach der Schweizerischen ZPO, 2. Aufl. 2018, S. 283). Entgegen der Meinung der Beschwerdeführerin gibt der Kollokationsplan nicht nur Auskunft über die Gläubiger, sondern auch über deren Forderungen und inwieweit diese nach ihrer Erwahrung am Konkursergebnis teilnehmen (SPRECHER, a.a.O., N. 8 zu Art. 247; HIERHOLZER, a.a.O., N. 1 zu Art. 250).
2.3.2. Zwar wird die Kollokationsklage nach den Regeln der ZPO beurteilt, welche auch die Möglichkeit einer Klageänderung vorsehen (<ref-law>). Damit ist aber nicht gesagt, dass nach Einreichung der Kollokationsklage durch Klageänderung im Sinne eines neuen Antrages zulässig ist (<ref-law>). Für die fristgerechte Erhebung oder Bestreitung von Ansprüchen der Gläubiger ist einzig das Konkursverfahren massgebend (<ref-ruling> E. 4a; <ref-ruling> E. 3; vgl. PAHUD, in: Brunner/Gasser/Schwander, Schweizerische Zivilprozessordnung, 2. Aufl. 2016, N. 16 zu Art. 227, Fn. 23). Für die Einhaltung der Klage Frist von 20 Tagen als Verwirkungsfrist ist der Zeitpunkt des Antrags und damit - für den Antrag auf Nichtzulassung der Teilforderung von Fr. 59'826.55 - der Zeitpunkt des Antrages in der Klageänderung vom 9. November 2012 massgebend und nicht jener der ursprünglichen Klageeinreichung vom 29. November 2011. Damit können bereits gestellte Anträge herabgesetzt oder zurückgezogen, jedoch - wie die Vorinstanz zutreffend angenommen hat - nach Eintritt der Verwirkungsfrist nicht erhöht werden. Nichts anderes ergibt sich aus dem von der Beschwerdeführerin zitierten Urteil 5A_823/2015 des Bundesgerichts vom 23. März 2017. Dabei war (in E. 4.2 des zit. Urteils) - mit Bezug auf die Klagesubstantiierung und soweit vorliegend von Interesse - einzig zu beurteilen, ob die strittige Forderung bereits Gegenstand der Kollokationsverfügung und daher im Rahmen einer Kollokationsklage vom Gericht zu beurteilen war.
2.3.3. In Zusammenhang mit der fristgerechten Erhebung des neuen Klagebegehrens bringt die Beschwerdeführerin zudem vor, die Beschwerdegegnerin habe durch ihr Verhalten im Kollokationsprozess diese geltend gemachte Forderung anerkannt. Diese Behauptung entbehrt jeder tatbeständlichen Grundlage, weshalb darauf nicht einzugehen ist.
2.4. Der Vorinstanz kann bei diesem Ergebnis keine Verletzung verfassungsmässiger Rechte vorgeworfen werden, wenn sie die Kollokationsklage der Beschwerdeführerin in Bezug auf die weiter verlangte Wegweisung des Teilbetrages von Fr. 59'826.55 als verspätet erachtet hat.
3.
Auf die weiteren Anträge und Vorbringen der Beschwerdeführerin kann nicht eingetreten werden.
3.1. Die Unzulässigkeit trifft vorab auf den Vorwurf der Parteilichkeit gegenüber Oberrichter Diggelmann zu. Das Obergericht hat das entsprechende Ablehnungsgesuch der Beschwerdeführerin bereits am 12. April 2017 abgewiesen. Das Bundesgericht ist auf die dagegen erhobene Beschwerde mit Urteil 5D_67/2017 vom 3. Juli 2017 nicht eingetreten. Dieser Entscheid ist rechtskräftig und darauf kann nicht zurückgekommen werden (<ref-law>).
3.2. Der Antrag, den Konkurs über B.C._ nichtig zu erklären, kann nicht Gegenstand des vorliegenden Verfahrens sein. Das Bundesgericht hat sich einzig zur Frage zu äussern, ob das am 9. November 2012 von der Beschwerdeführerin formulierte Klagebegehren rechtzeitig erfolgt war. Damit braucht auch nicht entschieden zu werden, ob die Beschwerdeführerin als Ehefrau des Konkursiten zu einem solchen Antrag überhaupt berechtigt wäre und ob sie ihn im kantonalen Verfahren bereits gestellt hatte. Über ein entsprechendes Begehren von B.C._ wurde zudem erst kürzlich entschieden. Das Bundesgericht kam zum Schluss, dass keine Nichtigkeit des Konkurserkenntnisses vom 23. November 2010 auszumachen sei (Urteil 5A_739/2017 vom 22. März 2018 E. 2.4).
3.3. Keinen Zusammenhang mit der vorliegenden Beschwerde haben schliesslich die zahlreichen strafrechtlichen Vorwürfe gegenüber den Organen und Vertretern der Beschwerdegegnerin im Vorfeld des Konkurses über B.C._ und während des Kollokationsprozesses.
4.
Nach dem Gesagten ist der Beschwerde insgesamt kein Erfolg beschieden. Das Gesuch um Gewährung der unentgeltlichen Rechtspflege ist infolge Aussichtslosigkeit der gestellten Anträge abzuweisen (<ref-law>). Ausgangsgemäss trägt die Beschwerdeführerin die Verfahrenskosten (<ref-law>). Die Beschwerdegegnerin ist nicht zur Vernehmlassung eingeladen worden, weshalb ihr kein entschädigungspflichtiger Aufwand entstanden ist.

Demnach erkennt das Bundesgericht:
1.
Die Verfassungsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'500.-- werden der Beschwerdeführerin auferlegt.
Die Gerichtskosten von Fr. 1'500.-- werden der Beschwerdeführerin auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 24. April 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Levante