Sachverhalt:
A. Mit Verfügung vom 26. Februar 2002 sprach die Ausgleichskasse der Aarg. Industrie- und Handelskammer der am 5. Februar 1939 geborenen, in S._ wohnhaften D._ ab 1. März 2002 eine Altersrente in der Höhe von Fr. 1545.- zu. Auf denselben Zeitpunkt wurde die Altersrente ihres Ehegatten neu festgesetzt. Auf entsprechende Aufforderung der Verbandsausgleichskasse meldete sich D._ am 6. März 2002 bei der Ausgleichskasse des Kantons Solothurn als Nichterwerbstätige an. Gemäss ihren Angaben war sie bis Ende 1998 erwerbstätig gewesen. Nach Abklärungen verfügte die kantonale Ausgleichskasse am 8. Mai 2002 Beiträge für Nichterwerbstätige (einschliesslich Verwaltungskostenbeitrag) in der Höhe von insgesamt Fr. 15'263.80 für 1997, 1999 und 2000 sowie provisorisch für 2001 und Januar/Februar 2002. Auf der am folgenden Tag zugestellten Abrechnung waren überdies Verzugszinsen von Fr. 833.- aufgeführt.
B. D._ reichte beim Versicherungsgericht des Kantons Solothurn Beschwerde ein und beantragte, die Verfügung der Ausgleichskasse der Aarg. Industrie- und Handelskammer vom 26. Februar 2002 sei zu respektieren und alle nachträglich gestellten Forderungen der kantonalen Ausgleichskasse seien abzulehnen.
Die Ausgleichskasse des Kantons Solothurn schloss auf Abweisung des Rechtsmittels. In den weiteren Rechtsschriften hielten die Parteien an ihren Standpunkten fest.
Mit Entscheid vom 19. März 2003 wies das solothurnische Versicherungsgericht die Beschwerde ab.
C. D._ führt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, die Beschwerde gegen die Verfügungen der Ausgleichskasse des Kantons Solothurn vom 8. Mai 2002 sei gutzuheissen und die Rentenverfügung der Ausgleichskasse der Aarg. Industrie- und Handelskammer vom 26. Februar 2002 sei zu respektieren; eventualiter sei die Sache zur Abklärung der Zuständigkeit "für Beiträge und Renten meiner AHV und/oder Entscheid über Rentenhöhe ohne Nachzahlung" zurückzuweisen.
Die kantonale Ausgleichskasse beantragt die Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1. Am 1. Januar 2003 ist das Bundesgesetz vom 6. Oktober 2000 über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) in Kraft getreten. Mit ihm sind zahlreiche Bestimmungen im Bereich der Alters- und Hinterlassenenversicherung geändert worden. Weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze massgebend sind, die bei der Erfüllung des zu Rechtsfolgen führenden Tatbestandes Geltung haben (<ref-ruling> Erw. 1), und weil ferner das Sozialversicherungsgericht bei der Beurteilung eines Falles in der Regel auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 8. Mai 2002) eingetretenen Sachverhalt abstellt (<ref-ruling> Erw. 1b), sind im vorliegenden Fall die bis zum 31. Dezember 2002 geltenden Bestimmungen anwendbar.
2. 2.1 Das kantonale Gericht hat mit zutreffender Begründung die Beitragspflicht der Beschwerdeführerin als Nichterwerbstätige im Sinne von <ref-law> und <ref-law> für 1997, 1999 und 2000 sowie für 2001 und Januar/Februar 2002 bejaht. Es kann ohne weiteres auf die im Grundsatze unbestrittenen Erwägungen im angefochtenen Entscheid verwiesen werden. Ebenfalls ausser Frage steht die Bemessung der Beiträge. Es besteht kein Anlass zu einer näheren Prüfung dieses Punktes (<ref-ruling> Erw. 1b und 417 oben).
2.2 Im Weitern hat die Vorinstanz unter Hinweis auf die gesetzliche Ordnung der Zuständigkeit für den Beitragsbezug bei Versicherten, welche vor dem Kalenderjahr, in welchem sie das 60. Altersjahr vollenden, als Nichterwerbstätige gelten (vgl. Art. 64 Abs. 2 und Abs. 4 zweiter Satz AHVG, Art. 118 Abs. 1 erster Teilsatz und Abs. 2 AHVV e contrario), entschieden, dass die am Recht stehende kantonale Ausgleichskasse zur Beitragserhebung befugt war. Das ist richtig. Was hiegegen in der Verwaltungsgerichtsbeschwerde vorgebracht wird, ist unbehelflich. Namentlich ist grundsätzlich ohne Belang, dass die Ausgleichskasse der Aarg. Industrie- und Handelskammer bis 1998 die paritätischen Beiträge für die Beschwerdeführerin abgerechnet hatte. Ebenfalls ist für die Frage der Kassenzugehörigkeit nicht entscheidend, dass die Verbandsausgleichskasse am 26. Februar 2002, mithin vor den Verfügungen vom 8. Mai 2002 über die Beiträge als Nichterwerbstätige ab 1. Januar 1997 die Altersrente festgesetzt hatte. Nach Art. 64a Abs. 1 erster Satz AHVG war sie dafür zuständig, da sie die Altersrente des im Ruhestand befindlichen Ehemannes der Versicherten auszahlte. Im Übrigen wird nicht geltend gemacht und es fehlen Hinweise in den Akten, dass die Ausgleichskasse der Aarg. Industrie- und Handelskammer für 1997, 1999 bis 2001 sowie Januar/ Februar 2002 Beiträge für Nichterwerbstätige erhoben hatte.
3. In ihrer Eingabe vom 24. Juni 2002 an die Vorinstanz erwähnte die Beschwerdeführerin, ihr Ehemann habe nach seiner Pensionierung 1991 bis 1998 weitere AHV-Beiträge einbezahlt. Gemäss dem in diesem Verfahren aufgelegten Schreiben vom 3. April 2003 an die Ausgleichskasse der Aarg. Industrie- und Handelskammer waren es für 1997 Fr. 3121.-.
3.1 Nach <ref-law> gelten bei nichterwerbstätigen Ehegatten von erwerbstätigen Versicherten die eigenen Beiträge als bezahlt, sofern diese Beiträge von mindestens der doppelten Höhe des Mindestbeitrages (Fr. 324.- [vgl. Art. 8 Abs. 2 und Art. 10 Abs. 1 AHVG]) bezahlt haben.
Versichert im Sinne von <ref-law> sind u.a. die natürlichen Personen, die Wohnsitz in der Schweiz haben oder hier eine Erwerbstätigkeit ausüben (Art. 1 Abs. 1 lit. a und b AHVG ). Die Versicherten sind beitragspflichtig, solange sie eine Erwerbstätigkeit ausüben (Art. 3 Abs. 1 erster Satz AHVG).
3.2 Zu prüfen ist, ob <ref-law> auch anwendbar ist, wenn der erwerbstätige Ehegatte der nichterwerbstätigen Person Anspruch auf eine Altersrente hat.
3.2.1 Das Gesetz ist in erster Linie nach seinem Wortlaut auszulegen. Ist der Text nicht ganz klar und sind verschiedene Auslegungen möglich, so muss nach seiner wahren Tragweite gesucht werden unter Berücksichtigung aller Auslegungselemente, namentlich des Zwecks, des Sinnes und der dem Text zu Grunde liegenden Wertung. Wichtig ist ebenfalls der Sinn, der einer Norm im Kontext zukommt. Vom klaren, d.h. eindeutigen und unmissverständlichen Wortlaut darf nur ausnahmsweise abgewichen werden, u.a. dann nämlich, wenn triftige Gründe dafür vorliegen, dass der Wortlaut nicht den wahren Sinn der Bestimmung wiedergibt. Solche Gründe können sich aus der Entstehungsgeschichte der Bestimmung, aus ihrem Grund und Zweck oder aus dem Zusammenhang mit andern Vorschriften ergeben (<ref-ruling> Erw. 3.1, 129 V 103 Erw. 3.2, je mit Hinweisen).
3.2.2 Eine am Wortlaut orientierte Interpretation von <ref-law> (in Verbindung mit Art. 1 Abs. 1 sowie Art. 3 Abs. 1 erster Satz AHVG) spricht dafür, dass die eigenen Beiträge einer nichterwerbstätigen Person auch als bezahlt gelten, wenn deren erwerbstätiger Ehegatte Anspruch auf eine Altersrente hat und Beiträge von mindestens der doppelten Höhe des Mindestbeitrages entrichtet. Diese Auslegung trägt indessen dem Umstand nicht Rechnung, dass gemäss Art. 29quinquies Abs. 3 lit. a und Abs. 4 lit. a AHVG e contrario die nach Eintritt des Versicherungsfalles Alter beim zuerst rentenberechtigten Ehegatten erzielten beitragspflichtigen Einkommen nicht der Teilung und gegenseitigen je hälftigen Anrechnung ("Splitting") unterliegen (vgl. <ref-ruling>, insbesondere S. 366 Erw. 5; ferner <ref-ruling>). Gälten auch für diese Zeiten die Beiträge der nichterwerbstätigen Person als durch den erwerbstätigen Ehegatten bezahlt, würden ihr zwar nach <ref-law> die entsprechenden Jahre als Beitragsjahre angerechnet. Es könnten ihr indessen keine rentenbildenden Erwerbseinkommen im Sinne von <ref-law> (durch Splitten des vom anderen Ehegatten erzielten Einkommens) gutschrieben werden.
Das entspräche indessen nicht der mit der Einführung des Splitting im Rahmen der 10. AHV-Revision verfolgten Zielsetzung, dass im Unterschied zu früher alle Nichterwerbstätigen grundsätzlich beitragspflichtig sein sollen. Insbesondere kann die Ehe als solche nicht zur Beitragsbefreiung des nichterwerbstätigen Ehegatten führen (anders noch für Ehefrauen alt <ref-law>). Lediglich wenn und solange die Voraussetzungen für die Teilung und hälftige Anrechnung des vom erwerbstätigen Ehegatten erzielten Einkommens gegeben sind, ist die nichterwerbstätige Person von der Beitragspflicht befreit, sofern dessen Beiträge mindestens die doppelte Höhe des Mindestbeitrages erreichen (vgl. Amtl. Bull. 1993 N 213 und 248, 1994 S 546).
Nichterwerbstätige, deren Ehegatten Anspruch auf eine Altersrente haben, sind somit ihrem Statut gemäss beitragspflichtig. <ref-law> ist nicht anwendbar.
3.3 Nach dem Gesagten haben vorliegend die Beitragszahlungen ab 1997 des eine Altersrente beziehenden Ehemannes der Beschwerdeführerin keine Bedeutung für ihre Beitragspflicht als Nichterwerbstätige und deren Bemessung. Der angefochtene Entscheid ist auch unter diesem Gesichtspunkt rechtens.
4. Die Beschwerdeführerin bestreitet eine Verzugszinspflicht mit dem Hinweis darauf, es handle sich um erstmalige Rechnungen für Nachzahlungen von AHV-Beiträgen, von deren Schuld sie keine Ahnung gehabt habe. Diese Argumentation verkennt, dass die Pflicht zur Bezahlung von Verzugszinsen, ab dem 1. Januar nach Ablauf des Kalenderjahres, für welches die Beiträge geschuldet sind, gestützt auf Art. 41bis Abs. 2 lit. b (in der bis 31. Dezember 2000 geltenden Fassung) resp. <ref-law> (in der ab 1. Januar 2001 gültigen Fassung) je in Verbindung mit <ref-law> grundsätzlich unabhängig davon besteht, ob die beitragspflichtige Person oder die Ausgleichskasse ein Verschulden an der Verzögerung der Beitragsfestsetzung oder-zahlung trifft (ZAK 1992 S. 168 Erw. 4b mit Hinweisen; vgl. auch AHI 2000 S. 128 ff.). In masslicher Hinsicht ist die mit Rechnung vom 8. Mai 2002 formlos verfügte Verzugszinspflicht nicht angefochten. Die Verwaltungsgerichtsbeschwerde ist auch in diesem Punkt unbegründet.
5. Das Verfahren ist kostenpflichtig (Art. 134 OG e contrario). Dem Prozessausgang entsprechend sind die Gerichtskosten der Beschwerdeführerin aufzuerlegen (Art. 156 Abs. 1 OG in Verbindung mit Art. 135 OG).

Demnach erkennt das Eidg. Versicherungsgericht:
1.
Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 1400.- werden der Beschwerdeführerin auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 29. Oktober 2003
Im Namen des Eidgenössischen Versicherungsgerichts
Der Präsident der I. Kammer: Der Gerichtsschreiber: