A.- Am 10. August 1994 wurde über die Firma R._ AG der Konkurs eröffnet. Nachdem am 23. September 1994 das summarische Konkursverfahren angeordnet worden war, machte die Ausgleichskasse Nidwalden mit Eingabe vom 6. Oktober 1994 eine Forderung im Gesamtbetrag von Fr. 61'482. 70 für unbezahlt gebliebene bundesrechtliche Sozialversicherungsbeiträge sowie Beiträge an die kantonale Familienausgleichskasse, einschliesslich Mahngebühren, Verzugszinsen sowie Betreibungs- und Verwaltungskosten, für die Jahre 1990 bis 1994 geltend. Nach der öffentlichen Bekanntmachung der Auflegung des Kollokationsplanes sowie des Inventars am 20. Januar 1995 verpflichtete die Ausgleichskasse den vormaligen Verwaltungsratspräsidenten der konkursiten Gesellschaft, C._, sowie dessen Ehefrau A._ und F._ in deren Funktion als ehemalige Verwaltungsratsmitglieder mit Verfügungen vom 12. Januar 1996 unter solidarischer Haftbarkeit zur Bezahlung von Schadenersatz im Betrag von Fr. 61'482. 70.
B.- Auf Einspruch der Betroffenen hin reichte die Ausgleichskasse am 26. Februar 1996 Klagen beim Verwaltungsgericht des Kantons Nidwalden ein mit den Begehren, C._, A._ sowie F._ seien unter solidarischer Haftbarkeit zur Bezahlung von Schadenersatz in der verfügten Höhe zu verpflichten. Das angerufene Gericht vereinigte die Verfahren und hiess die Klagen mit Entscheid vom 25. November 1996 gut.
C.- C._ und A._ lassen Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des angefochtenen Entscheids, soweit sie betreffend, seien die Klagen abzuweisen; eventuell sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen; subeventuell seien die Klagen nur teilweise gutzuheissen.
Die Ausgleichskasse schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, unter Kosten- und Entschädigungsfolge zu Lasten des C._ und der A._. Während der als Mitinteressierter beigeladene F._ vernehmlassungsweise die Zuständigkeit des Verwaltungsgerichts des Kantons Nidwalden bestreitet, verzichtet das Bundesamt für Sozialversicherung auf eine Stellungnahme.
D.- Mit Verwaltungsgerichtsbeschwerde lässt F._ den Antrag stellen, es seien der vorinstanzliche Entscheid aufzuheben sowie die Klage, soweit sie sich gegen seine Person richte, abzuweisen; eventuell sei die Sache zur weiteren Sachverhaltsabklärung und Durchführung einer Verhandlung an das kantonale Gericht zurückzuweisen. Ferner rügt er unter Verweis auf die beiliegende staatsrechtliche Beschwerde an das Bundesgericht die Anhandnahme der Sache durch das Verwaltungsgericht des Kantons Nidwalden, da es sich um eine Zivilrechtsstreitigkeit handle.
Während die Ausgleichskasse - unter Kosten- und Entschädigungsfolge zu Lasten des F._ - die Abweisung der Verwaltungsgerichtsbeschwerde beantragt, wiederholen die als Mitinteressierte beigeladenen C._ und A._ in ihrer Stellungnahme die im eigenen Verfahren vorgebrachten Rechtsbegehren, soweit "den Beschwerdeführer und die Beteiligten" betreffend. Das Bundesamt für Sozialversicherung hat sich nicht vernehmen lassen.
E.- Die sowohl von C._ und A._ wie auch von F._ in Bezug auf die nicht bezahlten kantonalen Beiträge (Familien- und Kinderzulagen) erhobenen staatsrechtlichen Beschwerden wurden durch das Bundesgericht bis zum Erlass des vorliegenden Urteils sistiert.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Da den beiden Verwaltungsgerichtsbeschwerden derselbe Sachverhalt zu Grunde liegt, sich die gleichen Rechtsfragen stellen und die Rechtsmittel den nämlichen vorinstanzlichen Entscheid betreffen, rechtfertigt es sich, die beiden Verfahren zu vereinigen und in einem einzigen Urteil zu erledigen (<ref-ruling> Erw. 1, 120 V 466 Erw. 1 mit Hinweisen; Poudret, Commentaire de la loi fédérale d'organisation judiciaire, Bd. 1, S. 343 unten f.).
b) Da es sich bei der angefochtenen Verfügung nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen handelt, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob das vorinstanzliche Gericht Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
2.- In der Verwaltungsgerichtsbeschwerde des F._ (nachfolgend: Beschwerdeführer 1) wird zunächst geltend gemacht, das kantonale Gericht habe das Recht auf Durchführung einer öffentlichen Verhandlung im Sinne von Art. 6 Ziff. 1 EMRK sowie den verfassungsmässigen Anspruch auf Abnahme verlangter Beweismassnahmen verletzt. Im erstinstanzlichen Sozialversicherungsprozess findet eine öffentliche Verhandlung grundsätzlich nur dann statt, wenn ein entsprechender Parteiantrag klar und unmissverständlich gestellt wird, wobei das Begehren um ein Parteiverhör - wie es vorliegend in den vorinstanzlichen Rechtsschriften des Beschwerdeführers 1 verschiedentlich erhoben wurde - praxisgemäss als blosser Beweisantrag betrachtet wird, dem nicht die Bedeutung eines Antrags auf konventionskonforme öffentliche Verhandlung zukommt (<ref-ruling> Erw. 3a; RKUV 1996 Nr. U 246 S. 163 Erw. 4d). Die Rüge ist demnach bereits aus diesem Grund unbehelflich, ohne dass darüber zu befinden wäre, ob der genannte Anspruch im Rahmen eines öffentlich-rechtlichen Schadenersatzprozesses überhaupt gegeben ist (vgl. <ref-ruling> in fine, 119 V 379 in fine; ferner <ref-ruling> Erw. 3a). Der Verzicht des kantonalen Gerichts schliesslich, im Rahmen einer antizipierten Beweiswürdigung die anbegehrten Parteiverhöre und Zeugeneinvernahmen vorzunehmen, ist als solcher grundsätzlich zulässig und verstösst insbesondere nicht gegen Verfassungsrecht, wie die ständige Rechtsprechung zu Art. 4 Abs. 1 aBV zeigt (<ref-ruling> Erw. 4b, 122 V 162 Erw. 1d mit Hinweis). Da diese Rechtsprechung auch unter der Herrschaft von Art. 29 Abs. 2 der auf den 1. Januar 2000 in Kraft getretenen neuen BV gilt (nicht veröffentlichtes Urteil S. vom 8. Februar 2000, I 362/99), kann vorliegend offen bleiben, in welchen Rechtslagen die neue BV intertemporalrechtlich zur Anwendung gelangt.
3.- a) Das kantonale Gericht hat unter Hinweis auf Gesetz (<ref-law>) und Rechtsprechung (<ref-ruling>; vgl. auch <ref-ruling> Erw. 5b mit Hinweisen) die Voraussetzungen zutreffend dargelegt, unter welchen die Organe einer juristischen Person den der Ausgleichskasse in Missachtung der Vorschriften über die Beitragspflicht und -zahlung (<ref-law>, <ref-law>) entstandenen Schaden zu ersetzen haben. Darauf kann verwiesen werden.
b) Soweit der Beschwerdeführer 1 den öffentlich-rechtlichen Charakter der Haftung nach <ref-law> in grundsätzlicher Hinsicht und damit die Zuständigkeit des Verwaltungsgerichts des Kantons Nidwalden zum Erlass des angefochtenen Entscheids anzweifelt, steht dies im Widerspruch zur ständigen Rechtsprechung (<ref-ruling> Erw. 2a, 108 V 186 Erw. 1b, 193 Erw. 2b, je mit Hinweisen; ZAK 1985 S. 576 Erw. 2; SVR 1995 AHV Nr. 70 S. 213 Erw. 3; in jüngerer Zeit bestätigt im nicht veröffentlichten Urteil S. vom 28. Mai 1999, H 25/98) und zur Lehre (Ueli Kieser, Alters- und Hinterlassenenversicherung, in: Schweizerisches Bundesverwaltungsrecht [SBVR], S. 66 f. Rz 99; Thomas Nussbaumer, Die Haftung des Verwaltungsrates nach <ref-law>, in: AJP 9/96 S. 1073 f.; ders. , Die Ausgleichskasse als Partei im Schadenersatzprozess nach <ref-law>, in ZAK 1991 S. 383; Jean-MauriceFrésard, Laresponsabilitédel'employeur pour le non-paiement des cotisations d'assurances sociales selon l'art. 52 LAVS, in: SVZ 55/1987 S. 1). Das Eidgenössische Versicherungsgericht hat wiederholt erklärt, dass die Nichterfülung der Beitrags- und Abrechnungspflicht des Arbeitgebers, welche eine gesetzlich vorgeschriebene öffentlich-rechtliche Aufgabe ist, eine Missachtung der in <ref-law> geregelten Verschuldenshaftung - aus öffentlichem Recht - bedeutet und die volle Schadendeckung nach sich zieht (<ref-ruling> Erw. 2a). Daran ist festzuhalten.
c) Der Beschwerdeführer 1 bringt unter Hinweis auf <ref-ruling> im Weiteren vor, die Ausgleichskasse habe die Schadenersatzverfügungen vom 12. Januar 1996 nicht rechtzeitig innert der in <ref-law> statuierten einjährigen Frist erlassen, da sie spätestens am 6. Oktober 1994 - im Zeitpunkt der Eingabe der Gesamtforderung von Fr. 61'482. 70 im summarischen Konkursverfahren - Kenntnis des Schadens gehabt habe.
Diesem Einwand ist entgegenzuhalten, dass Schadenskenntnis im Sinne der Rechtsprechung auch im Falle der Anordnung des summarischen Konkursverfahrens in der Regel im Zeitpunkt der Auflage des Kollokationsplanes und des Inventars vorliegt (<ref-ruling> Erw. 3b mit Hinweisen, zuletzt bestätigt im nicht veröffentlichten Urteil I. vom 27. Juni 2000, H 12/99). Es sind vorliegend weder hinreichende Gründe ersichtlich, welche für ein Abweichen von diesem Grundsatz sprechen würden, noch konkrete Umstände gegeben, aus denen auf eine ausnahmsweise Vorverlegung des Zeitpunkts der Schadenskenntnis geschlossen werden müsste. Dies führt zum Ergebnis, dass die Ausgleichskasse die Schadenersatzverfügungen vom 12. Januar 1996 - Kollokationsplan und Inventar wurden am 20. Januar 1995 aufgelegt - innerhalb der einjährigen Verwirkungsfrist gemäss <ref-law> erlassen hat.
4.- Es steht fest, dass die R._ AG ihrer Beitragspflicht ab 1990 nicht mehr ordnungsgemäss nachkam, sodass sie wiederholt gemahnt und betrieben werden musste. Unbezahlt blieben schliesslich Beiträge für den Zeitraum Januar 1990 bis zur Konkurseröffnung am 10. August 1994, zuzüglich Mahngebühren, Betreibungs- und Verwaltungskosten sowie Verzugszinsen. Die Gesellschaft hat damit die Bestimmungen über die Beitragszahlungspflicht des Arbeitgebers verletzt, wodurch der Ausgleichskasse ein nach Massgabe von <ref-law> ersatzfähiger Schaden erwachsen ist.
Zu prüfen bleibt, ob und inwieweit sich die Beschwerdeführer die Missachtung der öffentlich-rechtlichen Arbeitgeberpflichten als qualifiziertes Verschulden (grobe Fahrlässigkeit oder Vorsatz) anrechnen zu lassen haben. Diese Beurteilung hat auf Grund des von der Vorinstanz für das Eidgenössische Versicherungsgericht verbindlich festgestellten Sachverhaltes zu erfolgen (Erw. 1b hievor).
5.- a) In seiner Eigenschaft als seit 1986 amtierender Verwaltungsratspräsident gehörte es zu den Pflichten von C._ wie auch von dessen Ehefrau A._ (nachfolgend: Beschwerdeführer 2), welche dem Verwaltungsrat der R._ AG ebenfalls seit 1986 angehörte, die Geschäftsführung zu überwachen und sich nötigenfalls auch über die Einhaltung der Verbindlichkeiten gegenüber der Ausgleichskasse zu vergewissern. Auf Grund der sich bereits ab 1991 abzeichnenden finanziellen Probleme der Gesellschaft musste ihnen bewusst sein, dass die Entrichtung der Beiträge - namentlich nach den ab 1993 regelmässig erfolgenden Betreibungen - gefährdet war. Nach den Akten ist denn auch erwiesen, dass beide seit längerem persönlich Kenntnis von den ausstehenden Beitragszahlungen hatten, ohne indes konkrete Anstrengungen zu deren Sicherstellung zu unternehmen. So unterbreitete die R._ AG der Ausgleichskasse am 24. September 1993 einen Zahlungsplan für die ausstehenden Beiträge, und einer Telefonnotiz des C._ vom 20. Mai 1994 ist ein weiterer Zahlungsvorschlag zur Tilgung der Beitragsschulden zu entnehmen. Ferner wurde im Protokoll der ausserordentlichen Generalversammlung vom 6. Mai 1994, an welcher alle drei Beschwerdeführer teilnahmen, festgehalten, auf die Bezahlung der Sozialabzüge sei ein besonderes Augenmerk zu richten, damit keine strafrechtlichen Konsequenzen entstehen könnten. In einer Notiz vom 4. Februar 1996 äusserte sich C._ sodann dahingehend, aus der Sicht der Weiterführung der Gesellschaft und der Rettung der 23 Arbeitsplätze habe man keinen Grund gehabt, die AHV-Forderungen anders zu behandeln als alle übrigen Forderungen. In gleichem Sinne lautete die Begründung der auf die Schadenersatzverfügungen der Ausgleichskasse vom 12. Januar 1996 hin ergangenen Einsprüche beider Eheleute.
Es ist demnach davon auszugehen, dass sowohl C._ wie auch A._ die Nichtbezahlung der fraglichen
Beiträge bewusst in Kauf genommen haben.
b) aa) Zu ihrer Entlastung machen die Beschwerdeführer 2 vorab geltend, sie hätten die Lohnbuchhaltung und die Sozialversicherungsabrechnung nicht selbst besorgt; vielmehr sei dieser Bereich dem Beschwerdeführer 1, seit 1988 ebenfalls
Mitglied des Verwaltungsrates, übertragen gewesen. Wie im angefochtenen Entscheid zutreffend erkannt wurde, entbindet eine derartige Aufgabenteilung die übrigen Verwaltungsratsmitglieder nicht von der Pflicht, mittels Kontrollen festzustellen, ob die Abrechnungspflicht erfüllt wird. Jedes Mitglied hat sich namentlich periodisch über den Geschäftsgang und über wichtige Geschäfte auch ausserhalb des ihm zugewiesenen Ressorts informieren zu lassen, Rapporte zu verlangen, diese sorgfältig zu studieren, nötigenfalls ergänzende Auskünfte einzuholen, Irrtümer abzuklären versuchen und bei Unregelmässigkeiten einzuschreiten. Ergibt sich aus diesen Informationen der Verdacht falscher oder unsorgfältiger Geschäftsführungs- und Vertretungsbefugnisse, ist jedes andere Verwaltungsratsmitglied verpflichtet, über seinen Zuständigkeitsbereich hinaus die erforderlichen Abklärungen zu treffen oder treffen zu lassen (nicht veröffentlichtes Urteil E. vom 25. Juli 1991, H 224/90; Thomas Nussbaumer, Die Haftung des Verwaltungsrates nach <ref-law>, a.a.O., S. 1078). Wird die nach den Umständen gebotene Aufsicht nicht ausgeübt, handeln die Verwaltungsräte schuldhaft (in <ref-ruling> nicht publizierte Erw. 2c des Urteils S. vom 4. März 1993, H 94/91, nicht veröffentliches Urteil H. vom 22. Dezember 1998, H 16/98). Dies hat zur Folge, dass die Beschwerdeführer 2 sich nicht mit dem Argument exkulpieren können, das Beitragswesen habe nicht zu ihren Pflichten gehört, zumal C._ selber über eine rechtswissenschaftliche Ausbildung verfügt und deshalb über die entsprechenden Verantwortlichkeiten im Bilde sein musste. Ebenso unbegründet ist der Einwand von A._, sie habe dem Beschwerdeführer 1 sowie ihrem Ehemann als dem für die operative Geschäftsführung zuständigen Verwaltungsratsmitglied vertraut. Nach den Angaben des Beschwerdeführers 1 hatte A._ zwar keinen Einfluss auf die Geschäftsführung und nahm sie kaum an den Sitzungen der beiden übrigen Verwaltungsräte teil. Gerade der Umstand, dass sie in tatsächlicher Hinsicht keine selbstständigen Verwaltungsbefugnisse ausübte und an der Willensbildung der R._ AG faktisch nicht teilnahm, zeigt auf, dass sie die Verantwortlichkeiten auch einer nicht geschäftsführenden Verwaltungsrätin verkennt. Sie wäre in ihrer Stellung ex lege verpflichtet gewesen, die mit der Geschäftsführung betrauten Personen mit besonderer Sorgfalt zu überwachen und sich regelmässig über den Geschäftsgang - wozu auch das Beitragswesen gehört - unterrichten zu lassen (<ref-ruling> Erw. 6; ZAK 1992 S. 255 Erw. 7b; nicht veröffentlichtes Urteil D. vom 5. Juni 1998, H 119/97). Dies gilt umso mehr, als es sich bei der R._ AG um ein organisatorisch einfach strukturiertes Unternehmen mit übersichtlichen Verhältnissen gehandelt hatte (<ref-ruling> Erw. 3b).
bb) Nach der Rechtsprechung werden Exkulpations- oder Rechtfertigungsgründe angenommen, wenn die Nichtbezahlung der Beiträge im Hinblick auf eine nicht zum Vornherein aussichtslose Rettung des Betriebes durch die Befriedigung lebenswichtiger Forderungen in der begründeten Meinung erfolgt, die geschuldeten Beiträge später ebenfalls bezahlen zu können. Voraussetzung ist, dass der Arbeitgeber im Zeitpunkt, in welchem die Zahlungen erfolgen sollten, nach den gesamten Umständen damit rechnen durfte, die Beitragsschuld innert nützlicher Frist tilgen zu können (<ref-ruling>; bestätigt in <ref-ruling>).
Gerade letztgenanntes Erfordernis ist vorliegend jedoch nicht erfüllt. Vielmehr ist davon auszugehen, dass sich die Gesellschaft bereits seit einigen Jahren in einer zunehmend schwierigeren finanziellen Situation befand und bei objektiver Betrachtung kaum Anlass auf eine Sanierung bestehen konnte. Dies lässt sich sowohl dem Konkursdekret vom 10. August 1994, wonach das Unternehmen schon seit 1991/92 mit grossen wirtschaftlichen Problemen zu kämpfen hatte, welche letztlich zu einer Überschuldung führten, wie auch der erwähnten Notiz des C._ vom 4. Februar 1996 entnehmen. Ferner erklärte auch der Beschwerdeführer 1 am 2. April 1996 gegenüber dem Verhöramt Nidwalden, nach anfänglichen Erfolgen sei ab 1991/92 der Umsatz zurückgegangen und das Resultat entsprechend schlecht ausgefallen.
Die Beschwerdeführer 2 legen in keiner Weise dar, aus welchen konkreten Gründen und mit Blick auf welche bestimmten geschäftlichen Aktivitäten der Gesellschaft sie unter den genannten Umständen dennoch berechtigterweise mit der Erhaltung der Gesellschaft rechnen konnten. Der Umstand, dass sie in der subjektiven Hoffnung auf Rettung des Unternehmens erfolglos selber erhebliche private Mittel in verschiedener Form investierten, kann mangels begründeter Aussicht auf liquide Mittel zur baldigen Tilgung der ausstehenden Beiträge praxisgemäss nicht als Rechtfertigungsgrund betrachtet werden. Mit ihrer gegenteiligen Argumentation verkennen die Beschwerdeführer 2 die Pflichten eines Verwaltungsrates in grundsätzlicher Hinsicht wie auch unter den konkreten Umständen. Ihr Verhalten ist durch die Umstände weder entschuldbar noch gerechtfertigt (vgl. Kieser, Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, Bundesgesetz über die Alters- und Hinterlassenenversicherung, S. 200 mit Hinweisen).
6.- Streitig ist ferner, ob der Beschwerdeführer 1 insoweit verantwortliches Organ der R._ AG war, als ihm ein pflichtwidriges schuldhaftes Verhalten hinsichtlich des der Ausgleichskasse entstandenen Beitragsschadens vorzuwerfen ist.
a) Wie bereits in Erw. 5a hievor in Bezug auf die Beschwerdeführer 2 ausgeführt, obliegt es einem Verwaltungsratsmitglied, die Geschäftsführung zu überwachen und sich nötigenfalls auch über die Einhaltung der Verbindlichkeiten gegenüber der Ausgleichskasse zu vergewissern. Dies galt für den Beschwerdeführer 1 in noch verstärkterem Ausmass, da ihm innerhalb des Verwaltungsrats der Buchhaltungsbereich und das Beitragswesen übertragen waren. In dieser Funktion musste er mit den Liquiditätsfragen der R._ AG und damit auch mit deren ab 1991 verstärkt auftretenden finanziellen Problemen sowie der daraus folgenden Gefährdung der Beiträge vertraut sein. Der Umstand, dass der Beschwerdeführer 1 erst anlässlich der ausserordentlichen Generalversammlung vom 6. Mai 1994 - nachdem bereits mehrere Jahre keine regelmässige Bezahlung der Beiträge mehr erfolgt war - und damit nur wenige Monate vor Konkurseröffnung auf die Pflicht zur Bezahlung der Sozialversicherungsbeiträge hinwies, kann nicht als ernsthafter Versuch gewertet werden, das Erforderliche zur Beseitigung der Beitragsausstände vorzukehren. Vielmehr hätte er schon früher die notwendigen Massnahmen ergreifen oder aber die Konsequenzen ziehen müssen. Mithin nahm auch der Beschwerdeführer 1 die - gerade in seiner Position absehbare - Gefährdung der Beitragsentrichtung bewusst in Kauf.
b) Wie bereits die Vorinstanz zutreffend festgehalten hat, kann sich der Beschwerdeführer 1 nicht mit dem Argument entlasten, das Verwaltungsratsmandat nur treuhänderisch innegehabt und bloss auf Weisungen des Verwaltungsratspräsidenten gehandelt zu haben. Da im Bereich von <ref-law> ein objektivierter Verschuldensmassstab gilt, sind subjektive Entschuldbarkeit oder die Gründe für die Annahme des Verwaltungsratsmandats unbeachtlich (vgl. Thomas Nussbaumer, Die Haftung des Verwaltungsrats nach <ref-law>, a.a.O., S. 1077). Ein Verwaltungsratsmitglied tritt mit der Mandatsübernahme in die Verantwortung sowohl für die laufenden als auch für die verfallenen Sozialversicherungsabgaben ein, um deren Bezahlung es besorgt zu sein hat. Das Argument des Beschwerdeführers 1, "auf Grund seiner beschränkten Kompetenzen kein "Organ" im Sinne der bundesgerichtlichen Rechtsprechung" gewesen zu sein, geht mithin fehl. Gleiches gilt sodann für den Einwand, er habe davon ausgehen dürfen, dass die Ausgleichskasse der R._ AG eine Beitragsstundung gewährt habe, hätte er sich diesbezüglich doch frühzeitig informieren lassen und nötigenfalls ergänzende Auskünfte bei der Ausgleichskasse einholen müssen. Ebenso wenig vermag ihn der Umstand zu entlasten, angeblich keine Kenntnis der zwischen Juli und August 1994 stattgefundenen Übertragungen von "werthaltigen" Aktiven der R._ AG auf andere Gesellschaften gehabt zu haben, da er sich letztmals am 4. Juli 1994 mit den Angelegenheiten der R._ AG befasst und auf die damals unter anderem von C._ versprochene Zuführung von finanziellen Mitteln vertraut habe. Der Beschwerdeführer 1 wäre vielmehr verpflichtet gewesen, sich fortlaufend über die Einhaltung der entsprechenden Zusicherungen und damit das Bestehen konkreter Sanierungsmassnahmen zu vergewissern. Indem er zuwartete und sich nicht rückversicherte, durfte er nicht mit einer baldigen Tilgung der Beitragsschuld rechnen.
7.- Soweit die Beschwerdeführer sich im Hinblick auf eine individualisierte Haftung auf <ref-law> berufen und geltend machen, der Schaden sei im Verhältnis der Schwere des Verschulden jedes einzelnen der vormaligen Verwaltungsräte aufzuteilen, ist auf das in AHI 1996 S. 291 publizierte Urteil J. vom 5. März 1996, H 195/95, zu verweisen, worin das Eidgenössische Versicherungsgericht erkannt hat, <ref-law> könne im Rahmen der Schadenersatzpflicht von <ref-law> nicht angewendet werden, um eine Herabsetzung der Ersatzpflicht entsprechend der Verschuldensschwere der Verantwortlichen zu rechtfertigen. Es kann vollumfänglich auf die entsprechenden Erwägungen verwiesen werden, von welchen abzuweichen kein Anlass besteht.
8.- Der Arbeitgeber haftet in zeitlicher Hinsicht grundsätzlich nur für jenen Schaden, der durch die Nichtzahlung von paritätischen Beiträgen entstanden ist, die zu einem Zeitpunkt zur Bezahlung fällig waren, als er über allenfalls vorhandenes Vermögen disponieren und eine Zahlung der fälligen Beiträge an die Ausgleichskasse veranlassen konnte. Dies hat zur Folge, dass während des Konkursverfahrens keine Haftung mehr besteht (AHI 1994 S. 36 Erw. 6b).
Vorliegend wurden die letzten Beiträge vor der Konkurseröffnung vom 10. August 1994 mit Ablauf der letzten Zahlungsperiode am 31. Juli 1994 fällig und waren innert 10 Tagen, mithin bis zum 10. August 1994, zu bezahlen (<ref-law>). Ob es den Beschwerdeführern unter diesen zeitlichen Gegebenheiten nicht mehr möglich war, das Betreffnis der letzten Abrechnungsperiode zu bezahlen, da sie - wie von den Beschwerdeführern vorgebracht - am 10. August 1994 ab 14.00 Uhr keine Verfügungsgewalt über das Vermögen der Gesellschaft mehr hatten, kann dahingestellt bleiben, weil die Verpflichtung zur Beitragszahlung nicht erst ab diesem Zeitpunkt bestand.
9.- Die Beschwerdeführer bestreiten ferner die Höhe des von der Ausgleichskasse geltend gemachten Schadenersatzes.
Die Vorinstanz hat hiezu festgehalten, der Schaden sei ausgewiesen, da sich die eingeklagte Forderung auf Beitragsabrechnungen stütze, welche in diesem Verfahren nicht weiter zu prüfen seien. Dieser Betrachtungsweise kann nicht gefolgt werden. In masslicher Hinsicht beruft sich die Ausgleichskasse zur Begründung ihrer Forderung allein auf ihre Konkurseingabe vom 6. Oktober 1994 samt angefügter Beitragsübersicht ab 1990. Weitere diesbezügliche Angaben oder Belege - wie etwa nachprüfbare Beitragsabrechnungen - sind den Akten nicht zu entnehmen. Unbekannt ist deshalb auch, ob jemals rechtskräftige Veranlagungs- oder Nachzahlungsverfügungen ergangen sind oder ob es die Verwaltung bei Mahnungen bewenden liess. Da es unter diesen Umständen am rechtsgenüglichen Nachweis für die eingeforderten Beiträge seitens der Ausgleichskasse fehlt, ist es nicht möglich, die Schadenersatzforderung summenmässig zu überprüfen, wozu das kantonale Gericht gehalten gewesen wäre (Kieser, Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, a.a.O., S. 210 mit Hinweis). Die Sache ist daher an die Vorinstanz zur Überprüfung der strittigen Forderung in masslicher Hinsicht zurückzuweisen.
10.- a) Da die Verwaltungsgerichtsbeschwerden nicht die Bewilligung oder Verweigerung von Versicherungsleistungen zum Gegenstand haben, ist der Prozess vor dem Eidgenössischen Versicherungsgericht kostenpflichtig (Art. 134 OG e contrario). Die Kosten des Verfahrens sind nach Massgabe von Art. 156 Abs. 3 OG verhältnismässig, d.h. dem Ausgang des Verfahrens entsprechend, den im Wesentlichen - insbesondere hinsichtlich der Haftungsfrage - unterliegenden Beschwerdeführern zu drei Vierteln sowie der Ausgleichskasse zu einem Viertel aufzuerlegen.
b) Den teilweise obsiegenden Beschwerdeführern 1 und 2 steht eine reduzierte Parteientschädigung zu Lasten der Ausgleichskasse zu (Art. 159 Abs. 3 in Verbindung mit Art. 135 OG). Da den in beiden Verfahren je als Mitinteressierte beigeladenen Beschwerdeführern 1 und 2 durch ihre Vernehmlassungen kein erheblicher Mehraufwand entstanden ist, besteht kein Anlass für eine Erhöhung der Parteientschädigung. Die Voraussetzungen für eine ausnahmsweise Zusprechung einer Parteientschädigung an die teilweise obsiegende Ausgleichskasse sind nicht gegeben (<ref-ruling> Erw. 6b, 112 V 361 Erw. 6, je mit Hinweisen; RKUV 1984 Nr. K 573 S. 83 Erw. 7).

Demnach erkennt das Eidg. Versicherungsgericht:
I.In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerden wird der Entscheid des Verwaltungsgerichts des Kantons Nidwalden vom 25. November 1996, soweit er die Beschwerdeführer zur Zahlung von bundesrechtlichem Schadenersatz verpflichtet, aufgehoben und die Sache an die Vorinstanz zurückgewiesen, damit sie, nach Aktenergänzung im Sinne der Erwägung 9, über die Schadenersatzklagen der Ausgleichskasse Nidwalden vom 26. Februar 1996 in masslicher Hinsicht neu entscheide.
II.Die Gerichtskosten von insgesamt Fr. 4000. - werden zu einem Viertel dem Beschwerdeführer 1, zu je einem Viertel den beiden Beschwerdeführern 2 sowie zu einem Viertel der Ausgleichskasse Nidwalden auferlegt. Die auf die Beschwerdeführer 1 und 2 entfallenden Anteile sind durch die geleisteten Kostenvorschüsse von je Fr. 4000. - gedeckt; dem Beschwerdeführer 1 wird der Differenzbetrag von Fr. 3000. -, den Beschwerdeführern 2 ein solcher von Fr. 2000. - zurückerstattet.
III. Die Ausgleichskasse Nidwalden hat dem Beschwerdeführer 1 für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 1000. - (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Die Ausgleichskasse Nidwalden hat den Beschwerdeführern 2 für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 1000. - (einschliesslich Mehrwertsteuer) zu bezahlen.
V.Der Ausgleichskasse Nidwalden wird keine Parteientschädigung zugesprochen.
VI.Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Nidwalden und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 25. Juli 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: