A.- Die 1951 geborene J. F._, Mutter von P., geb. 1977, A., geb. 1979, und S., geb. 1980, war seit ihrer Heirat im Jahre 1975 neben ihrer Haushaltstätigkeit vollzeitlich als nicht entlöhnte Mitarbeiterin im Bäckereibetrieb ihres Ehemannes K. F._ beschäftigt. Am 24. Mai 1992 erlitt sie eine Distorsion der Halswirbelsäule (HWS), auf Grund deren persistierenden Folgebeschwerden sie ihre bisherige ausserhäusliche Tätigkeit nach mehreren gescheiterten Arbeitsversuchen aufgab und sich am 7. Juni 1994 bei der Invalidenversicherung zum Leistungsbezug anmeldete. Die IV-Stelle des Kantons St. Gallen zog ein zuhanden des Unfallversicherers erstelltes Gutachten des Dr. med.
W._, Klinik für Neurologie, Spital X._, vom 23. Juni 1994, Berichte des Hausarztes Dr. med. L._, Spezialarzt FMH für Allgemeine Medizin, vom 19. August 1994 und 7. September 1996 sowie des Dr. med. S._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 8. Dezember 1994, ein Gutachten des Zentrums für Medizinische Begutachtung (ZMB), vom 26. April 1995 sowie Berichte des Dr. med. G._, Schmerzklinik Y._, vom 22. Juni und 22. Juli 1996 bei, liess einen Abklärungsbericht Haushalt vom 28. September 1994 erstellen und holte Auszüge aus den individuellen Konten (IK) der Versicherten ein. Gestützt darauf sprach sie J. F._, nach Durchführung des Vorbescheidverfahrens, auf der Basis eines Arbeits- und Erwerbsunfähigkeitsgrades von 100 % vom
24. Mai 1992 bis 30. Juni 1994, von 50 % vom 1. Juli bis
31. August 1994 und von 25 % ab 1. September 1994 mit Wirkung ab 1. Juni 1993 befristet bis Ende August 1994 eine ganze Invalidenrente zu, die im Hinblick auf die ab Mai 1993 durchgehend bestehende 50 %ige Invalidität des Ehemannes als Hälfte einer ganzen Ehepaar-Invalidenrente ausgerichtet wurde (Verfügung vom 20. Januar 1997).
B.- J. F._ liess hiegegen Beschwerde erheben und unter Auflegung von Berichten der Frau Dr. phil.
O._, Neuropsychologisches Ambulatorium, vom 12. Februar 1997, des Dr. med. N._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 23. Oktober 1997 sowie des Dr. med. M._, Spezialarzt FMH für Neurologie, vom 11. und 12. Dezember 1997 die Zusprechung einer ganzen Invalidenrente ab 1. Juni 1993 beantragen. Das Versicherungsgericht des Kantons St. Gallen hiess die Rechtsvorkehr gut, hob die Verfügung vom 20. Januar 1997 auf und wies die Sache zur weiteren Abklärung im Sinne der Erwägungen sowie zur anschliessenden neuen Verfügung an die IV-Stelle zurück (Entscheid vom 7. Dezember 2000).
C.- Mit Verwaltungsgerichtsbeschwerde stellen K., P., A. und S. F._ als Erben der am 10. März 2000 verstorbenen J. F._, welcher die IV-Stelle zufolge einer Krebserkrankung ab 1. April 1998 eine Viertelsrente und ab 1. Juli 1998 eine ganze Invalidenrente zugesprochen hatte, das Rechtsbegehren, in Aufhebung des angefochtenen Entscheides sei die Sache an das kantonale Gericht zum Neuentscheid im Sinne der Erwägungen zurückzuweisen; eventualiter sei den Erben von J. F._ für den Zeitraum vom 1. September 1994 bis 30. Juni 1998 die Hälfte einer ganzen Ehepaar-Invalidenrente zuzusprechen.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nach der Rechtsprechung des Eidgenössischen Versicherungsgerichts stellt der Rückweisungsentscheid einer kantonalen Rekursinstanz eine im Sinne von Art. 128 in Verbindung mit Art. 97 Abs. 1 OG und Art. 5 VwVG mit Verwaltungsgerichtsbeschwerde an das Eidgenössische Versicherungsgericht anfechtbare Endverfügung dar. Anfechtbar ist grundsätzlich nur das Dispositiv, nicht aber die Begründung eines Entscheides. Verweist indessen das Dispositiv eines Rückweisungsentscheides ausdrücklich auf die Erwägungen, werden diese zu dessen Bestandteil und haben, soweit sie zum Streitgegenstand gehören, an der formellen Rechtskraft teil. Dementsprechend sind die Motive, auf die das Dispositiv verweist, für die Behörde, an die die Sache zurückgewiesen wird, bei Nichtanfechtung verbindlich. Beziehen sich diese Erwägungen auf den Streitgegenstand, ist somit auch deren Anfechtbarkeit zu bejahen (BGE 120 V 237 Erw. 1a mit Hinweis).
2.- a) Nach Art. 4 Abs. 1 IVG gilt als Invalidität die durch einen körperlichen oder geistigen Gesundheitsschaden als Folge von Geburtsgebrechen, Krankheit oder Unfall verursachte, voraussichtlich bleibende oder längere Zeit dauernde Erwerbsunfähigkeit.
b) Nach Art. 28 Abs. 1 IVG hat der Versicherte Anspruch auf eine ganze Rente, wenn er mindestens zu 66 2/3 %, auf eine halbe Rente, wenn er mindestens zu 50 % oder auf eine Viertelsrente, wenn er mindestens zu 40 % invalid ist; in Härtefällen hat der Versicherte nach Art. 28 Abs. 1bis IVG bereits bei einem Invaliditätsgrad von mindestens 40 % Anspruch auf eine halbe Rente.
c) Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung (und im Beschwerdefall das Gericht) auf Unterlagen angewiesen, die ärztliche und gegebenenfalls auch andere Fachleute zur Verfügung zu stellen haben. Aufgabe des Arztes oder der Ärztin ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Im Weiteren sind die ärztlichen Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der Person noch zugemutet werden können (BGE 125 V 261 Erw. 4, 115 V 134 Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1).
d) Nach dem für das gesamte Verwaltungs- und Verwaltungsgerichtsbeschwerdeverfahren gültigen Grundsatz der freien Beweiswürdigung (Art. 40 BZP in Verbindung mit Art. 19 VwVG; Art. 95 Abs. 2 OG in Verbindung mit Art. 113 und 132 OG) haben Versicherungsträger und Sozialversicherungsrichter die Beweise frei, d.h. ohne Bindung an förmliche Beweisregeln, sowie umfassend und pflichtgemäss zu würdigen.
Für das Beschwerdeverfahren bedeutet dies, dass der Sozialversicherungsrichter alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Rechtsanspruches gestatten. Insbesondere darf er bei einander widersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum er auf die eine und nicht auf die andere medizinische These abstellt. Hinsichtlich des Beweiswertes eines Arztberichtes ist also entscheidend, ob der Bericht für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation einleuchtet und ob die Schlussfolgerungen des Experten begründet sind. Ausschlaggebend für den Beweiswert ist grundsätzlich somit weder die Herkunft eines Beweismittels noch die Bezeichnung der eingereichten oder in Auftrag gegebenen Stellungnahme als Bericht oder Gutachten (BGE 125 V 352 Erw. 3a, 122 V 160 Erw. 1c).
3.- Die Vorinstanz hat korrekt dargelegt, dass eine ohne Bezug eines Barlohnes im ehelichen Betrieb mitarbeitende Hausfrau als Nichterwerbstätige mit erweitertem Aufgabenbereich im Sinne von Art. 27 Abs. 2 IVV - in der hier massgebenden, bis Ende Dezember 2000 in Kraft gestandenen Fassung - zu betrachten ist, selbst wenn ihr Einsatz, wie vorliegend, bedeutend ist, weshalb die Ermittlung des Invaliditätsgrades nach der spezifischen Methode des Betätigungsvergleichs (Art. 28 Abs. 3 IVG in Verbindung mit Art. 27 Abs. 1 und 2 IVV) zu erfolgen hat (ZAK 1989 S. 117 Erw. 3a mit Hinweisen; vgl. auch BGE 104 V 136 Erw. 2a).
Richtig sind ferner die Erwägungen zum Anspruch auf eine Ehepaar-Invalidenrente (Art. 33 Abs. 1 aIVG, in Kraft gewesen bis 31. Dezember 1996), welche hälftig an die Ehegatten auszuzahlen ist (vgl. Art. 5 Abs. 1 lit. a des vom 1. Januar 1993 bis 31. Dezember 1996 in Kraft gestandenen Bundesbeschlusses vom 19. Juni 1992 über Leistungsverbesserungen in der AHV und IV [SR 831. 100.1]). Darauf wird verwiesen. Zu ergänzen ist, dass Art. 27 Abs. 2 und Art. 27bis Abs. 1 IVV mit Verordnungsnovelle vom 2. Februar 2000 auf den 1. Januar 2001 dahingehend geändert wurden, dass die Erwerbsunfähigkeit von unentgeltlich im Betrieb des Ehegatten oder der Ehegattin mitarbeitenden versicherten Personen neu nicht mehr wie bisher anhand der spezifischen Methode, sondern auf Grund der bei Teilerwerbstätigen zur Anwendung gelangenden gemischten Methode (Art. 27bis Abs. 1 IVV) festgelegt wird, wobei die Invalidität für diesen Teil nach Art. 28 Abs. 2 IVG (Einkommensvergleichsmethode) zu bemessen ist. Anzumerken bleibt ferner, dass laufende Ehepaar-Invalidenrenten vier Jahre nach Inkrafttreten der 10. AHV-Revision ins neue Recht überführt werden (lit. c Abs. 5 ÜbBest. AHVG der 10. AHV-Revision in Verbindung mit Abs. 1 ÜbBest. IVG) und dass bei rückwirkender Zusprechung einer abgestuften oder befristeten Invalidenrente die für die Rentenrevision geltenden Bestimmungen (Art. 41 IVG und Art. 88a IVV) analog anzuwenden sind (BGE 109 V 125; vgl. auch BGE 125 V 417 Erw. 2d; AHI 1998 S. 121 Erw. 1b).
4.- a) Durch einen Auffahrunfall erlitt die Versicherte am 24. Mai 1992 ein HWS-Distorsionstrauma, welches chronisch anhaltende Zervikobrachialgien, verminderte Stresstoleranz, vermehrte Vergesslichkeit, Geräuschempfindlichkeit und Konzentrationsmangel nach sich zog. Da sich die Beschwerden trotz mehrmaliger Kuraufenthalte nicht wesentlich besserten, wurde im Kantonsspital St. Gallen eine neurologische Untersuchung durchgeführt. Dr. med. W._ kam hiebei in seinem Gutachten vom 23. Juni 1994 zum Schluss, zur Zeit bestehe sowohl in der Bäckereibetriebs- wie auch in der Haushaltstätigkeit eine 50 und in zwei Monaten eine 75 %ige Arbeitsfähigkeit; in einem halben Jahr sei erneut eine Einschätzung des Leistungsvermögens vorzunehmen.
Mit Bericht vom 19. August 1994 attestierte der Hausarzt Dr. med. L._ der Versicherten im Bereich der Geschäftstätigkeit demgegenüber weiterhin eine Arbeitsunfähigkeit von 100 % und auch im Abklärungsbericht Haushalt vom 28. September 1994 wurden angesichts der gesundheitsbedingten Einschränkungen in der Haushaltsführung Zweifel hinsichtlich der Arbeitsfähigkeitsbeurteilung durch Dr. med. W._ geäussert. Dr. med. S._ machte in seinem Arztbericht vom 8. Dezember 1994 sodann auf einen neben den somatischen Leiden bestehenden leichten reaktiv-depressiven Verstimmungszustand aufmerksam und stufte die Versicherte in ihrer Tätigkeit als Geschäftsfrau als vollständig arbeitsunfähig ein. Die Ärzte des ZMB diagnostizierten in ihrem Gutachten vom 26. April 1995 zur Hauptsache eine psychogene ängstliche Schmerzfehlverarbeitung in Form von Zerviko-Cephobrachialgien rechts mit teilweise funktionell überlagerten Symptomen nach Autounfall mit HWS-Distorsion. Aus psychiatrischer Sicht bestehe eine verminderte Belastbarkeit, weshalb die Versicherte im bisherigen Tätigkeitsbereich noch etwa sechs Stunden täglich arbeiten könne. Dr. med. G._ veranschlagte die Arbeitsfähigkeit der Versicherten in seinen Berichten vom 22. Juni/22. Juli 1996 auf 50 %, wobei nach Fortführung der Therapie mit einer weiteren Besserung der Beschwerden und damit der Arbeitsfähigkeit zu rechnen sei. In seinem Arztbericht vom 7. September 1996 erachtete Dr. med. L._ in Anlehnung an die ZMB-Begutachtung vom 26. April 1995 ein Leistungsvermögen von sechs Stunden pro Tag als realistisch.
Auf Grund von neuropsychologischen Defiziten (kortikale kognitive Funktionsstörungen, eingeschränkte Konzentrations- und Aufmerksamkeitsstörung, massive Verlangsamung) schätzte Frau Dr. phil. O._ die Arbeitsfähigkeit in ihrem Bericht vom 12. Februar 1997 auf höchstens 50 %, in Berücksichtigung der chronischen Schmerzproblematik sowie der depressiven Verstimmungen indessen auf 0 %.
Der Psychiater Dr. med. N._ bescheinigte am 23. Oktober 1997 zufolge der neurotisch-depressiven Entwicklung eine Einschränkung der Arbeitsfähigkeit von mindestens 50 % und der Neurologe Dr. med. M._ sprach mit Stellungnahme vom 12. Dezember 1997 von einer derzeitigen Arbeitsunfähigkeit im Ausmass von weiterhin 100 %.
b) Das kantonale Gericht begründet seinen Rückweisungsentscheid (zur Erstellung eines polydisziplinären medizinischen Aktengutachtens) im Wesentlichen mit der Widersprüchlichkeit der seitens der beteiligten Ärzte gestellten Diagnosen sowie der deshalb fehlenden Verlässlichkeit der Angaben zur verbleibenden Arbeitsfähigkeit.
Dieser Beurteilung ist beizupflichten.
aa) Angesichts der hievor wiedergegebenen ärztlichen Aussagen ergibt sich ohne weiteres, dass sowohl hinsichtlich der Diagnosestellung wie auch der insgesamt auf Grund aller somatischen und psychischen Leiden bestehenden Einschränkung in der Arbeitsfähigkeit gegensätzliche Auffassungen vertreten werden, welche keine zuverlässige Beurteilung der Entwicklung des Gesundheitszustandes und des darauf beruhenden relevanten Leistungsvermögens der Versicherten im für die richterliche Überprüfungsbefugnis vorliegend massgebenden Zeitraum vom 24. Mai 1992 (vgl. hiezu BGE 125 V 417 f. Erw. 2d) bis zum Zeitpunkt des Verfügungserlasses vom 20. Januar 1997 (BGE 121 V 366 Erw. 1b mit Hinweisen) zulassen.
bb) Ferner ist auf Grund der Angaben der Versicherten anlässlich der am 15. September 1994 durchgeführten Abklärung der Haushaltsverhältnisse an Ort und Stelle davon auszugehen, dass sie neben der Geschäftstätigkeit im familieneigenen Bäckereibetrieb auch Aufgaben im Bereich der Haushaltsführung erfüllt hat. Es lässt sich deshalb - entgegen der im angefochtenen Entscheid dargelegten Betrachtungsweise - nicht rechtfertigen, die Arbeit im Haushalt beim Betätigungsvergleich ausser Acht zu lassen. Daran ändert auch nichts, dass der das zumutbare Mass übersteigende Teil der aufgewendeten Arbeitszeit grundsätzlich nicht zu berücksichtigen ist (ZAK 1989 S. 118 Erw. 4b; Meyer-Blaser, Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, Bundesgesetz über die Invalidenversicherung [IVG], Zürich 1997, S. 219 in fine). Gemäss Abklärungsbericht Haushalt vom 28. September 1994 war die Versicherte vor dem Auffahrunfall vom 24. Mai 1992 ca. 8,4 bis 9 Stunden täglich (bzw. 42 bis 45 Stunden wöchentlich) im Geschäft sowie 4,21 Stunden pro Tag im Haushalt tätig. Obgleich der hieraus resultierende tägliche Zeitaufwand von insgesamt 12,61 bis 13,21 Stunden an der oberen Grenze des zu erwartenden Einsatzes einer vorwiegend im eigenen Familienbetrieb und daneben noch im Haushalt tätigen Versicherten liegt (vgl.
ZAK 1989 S. 118 Erw. 4b), ist die vollumfängliche Berücksichtigung des gesamten Arbeitseinsatzes im vorliegenden Fall nicht zu beanstanden. Selbst wenn die Gesamtarbeitszeit das zumutbare Ausmass überschreiten würde, dürfte im übrigen ohnehin in jedem einzelnen Tätigkeitsbereich nur eine anteilsmässige Kürzung des effektiv erbrachten Aufwandes erfolgen (ZAK 1989 S. 118 Erw. 4b in fine; MeyerBlaser, a.a.O., S. 219 f.). Es ist somit von einer Aufteilung der Bereiche Haushaltsführung und Geschäftstätigkeit im Verhältnis von rund 33 zu 67 % auszugehen. Aus diesen Vorgaben erhellt, dass die Verwaltung, an welche die Sache auch aus diesem Grund zurückzuweisen ist, ergänzend abzuklären und festzulegen haben wird, in welchem Umfang die Versicherte zufolge ihrer gesundheitlichen Beschwerden in der Haushaltsführung beeinträchtigt war.
c) Was die Beschwerdeführer hiegegen vorbringen, vermag nicht zu überzeugen.
aa) Namentlich kann auf Grund des Gesagten nicht davon ausgegangen werden, der Sachverhalt sei in medizinischer Hinsicht vollständig. Obgleich sich eine grosse Anzahl ärztlicher Berichte und Gutachten in den Akten befindet, erlauben diese angesichts ihrer uneinheitlichen Aussagen in Bezug auf Diagnosestellung und Arbeitsfähigkeitsschätzungen keine zuverlässige Beurteilung des vorliegend strittigen Rentenanspruches. Von einer Rechtsverweigerung durch das kantonale Gericht kann demnach nicht die Rede sein.
bb) Auch der Einwand der mangelhaften Beweiswürdigung geht fehl, ist die Vorinstanz doch gerade auf Grund einer die rechtsprechungsgemäss erforderlichen Kriterien berücksichtigenden Prüfung der medizinischen Unterlagen zum Schluss gelangt, auf diese könne zufolge Widersprüchlichkeit in massgeblichen Punkten nicht ohne weiteres abgestellt werden. Im Übrigen geht es im kantonalen Beschwerdeverfahren zunächst einzig darum, sich kritisch mit der tatbeständlichen Frage auseinanderzusetzen, ob der rechtserhebliche Sachverhalt durch die Verwaltung in jeder Hinsicht in rechtsgenüglicher Weise vollständig abgeklärt worden ist, wie dies der Bundesgesetzgeber und der im Sozialversicherungsrecht geltende Untersuchungsgrundsatz gebieten.
Wird eine Sachverhaltsfeststellung als unvollständig angesehen, muss eine Rückweisung mit einem konkreten Auftrag zu ergänzender Abklärung verbunden begründet werden. Im Unterschied zu einem gestützt auf einen vollständig abgeklärten Sachverhalt materiell endgültigen Sachentscheid geht es bei einer unvollständigen Sachverhaltsabklärung nicht darum, das vorhandene, aber nicht ausreichende Beweismaterial bereits in diesem Verfahrensstadium in jeder Hinsicht umfassend zu würdigen (nicht veröffentlichtes Urteil S. vom 4. November 1998, U 26/97). Ferner schreiben Art. 69 IVG in Verbindung mit Art. 85 Abs. 2 lit. a AHVG vor, dass das kantonale Beschwerdeverfahren einfach, rasch und für die Parteien grundsätzlich kostenlos sein muss. Nach lit. c der AHVG-Bestimmung hat die kantonale Rechtsmittelinstanz die für den Entscheid erheblichen Tatsachen von Amtes wegen festzustellen und die notwendigen Beweise zu erheben. Der darin verankerte, in der Sozialversicherungsrechtspflege allgemein gültige Untersuchungsgrundsatz (BGE 125 V 195 Erw. 2 mit Hinweisen) gebietet u.a., dass der Richter von sich aus für die richtige und vollständige Abklärung des rechtserheblichen Sachverhalts zu sorgen hat. Nach den allgemeinen Grundsätzen der Verwaltungsrechtspflege kann das Gericht im Falle ungenügender Sachverhaltsabklärung die Entscheidungsreife selber herstellen; es muss aber nicht zu solcher Vervollständigung schreiten; dies geschieht höchstens dann, wenn dazu nur ein geringer Beweisaufwand nötig ist (Gygi, Bundesverwaltungsrechtspflege, 2. Aufl. , S. 233 unten). Das Eidgenössische Versicherungsgericht hat wiederholt festgehalten, dass der kantonale Richter, wenn er den Sachverhalt als ungenügend abgeklärt erachtet, im Prinzip die Wahl hat, die Akten zwecks weiterer Beweiserhebungen an die Verwaltung zurückzuweisen oder selber die nötigen Instruktionen vorzunehmen (BGE 122 V 162 f. Erw. 1d mit Hinweisen; vgl. auch RKUV 1999 Nr. U 342 S. 410 f.
Erw. 3a). Entgegen den Vorbringen der Beschwerdeführer verletzt die Rückweisung der Sache an die Verwaltung bei festgestellter Abklärungsbedürftigkeit als solche weder den Untersuchungsgrundsatz noch das Prinzip eines einfachen und raschen Verfahrens. Anders verhielte es sich nur dann, wenn die Rückweisung an die Verwaltung einer Verweigerung des gerichtlichen Rechtsschutzes gleichkäme (z.B. dann, wenn auf Grund besonderer Gegebenheiten nur ein Gerichtsgutachten oder andere gerichtliche Beweismassnahmen geeignet wären, zur Abklärung des Sachverhalts beizutragen), oder wenn die Rückweisung nach den Umständen als unverhältnismässig zu bezeichnen wäre (BGE 122 V 163 Erw. 1d mit Hinweisen).
Grundsätzlich jedoch steht dem kantonalen Richter bei der Frage, ob er selber Beweise erheben oder die Akten zur weiteren Abklärung an die Verwaltung zurückweisen will, ein weiter Ermessensspielraum zu. Ein Eingreifen im Rechtsmittelverfahren lässt sich praktisch nur dann rechtfertigen, wenn für eine Rückweisung keine sachlichen Gründe ersichtlich sind, was vorliegend - wie dargelegt - nicht der Fall ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, der Ausgleichskasse Panvica, Bern, und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 27. Februar 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: