A.- Der am 1. September 1937 geborenen A._ wurde mit Verfügung der Ausgleichskasse des Kantons Zürich vom 17. September 1999 ab 1. Oktober 1999 eine ordentliche (Teil-)Rente der AHV auf der Basis einer Beitragsdauer von 34 Jahren und fünf Monaten sowie unter Zugrundelegung von Skala 38 der vom Bundesamt für Sozialversicherung (BSV) herausgegebenen Rententabellen zugesprochen. Hiebei war insbesondere die Zeit vom 1. Februar 1965 bis 30. November 1970, während der sich A._ mit ihrem für einen Arbeitgeber in der Schweiz tätigen Ehemann B._ in Japan aufgehalten hatte, nicht an die Beitragsdauer angerechnet worden.
B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich im Wesentlichen mit der Argumentation ab, angesichts der in BGE 104 V 121, 107 V 1 und ZAK 1981 S. 337 begründeten, in BGE 126 V 217 auch für die Verhältnisse nach Inkrafttreten der 10. AHV-Revision bestätigten Rechtsprechung sei eine Ausdehnung der Versicherteneigenschaft des (obligatorisch versicherten) Ehemannes auf A._ während ihres Aufenthaltes in Japan zu verneinen, weshalb die Ausgleichskasse zu Recht von einer entsprechenden Beitragslücke ausgegangen sei (Entscheid vom 28. Februar 2001).
C.- A._ und B._ führen Verwaltungsgerichtsbeschwerde und beantragen, es seien der angefochtene Entscheid aufzuheben und A._ gestützt auf eine vollständige Beitragsdauer eine Vollrente zuzusprechen.
Die Ausgleichskasse und das BSV - erstere unter Verweis auf die Erwägungen im vorinstanzlichen Entscheid - verzichten auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Der Betrag der ordentlichen Altersrente wird durch zwei Elemente bestimmt: einerseits durch das Verhältnis zwischen der Beitragsdauer der versicherten Person und jener ihres Jahrganges (Rentenskala) sowie anderseits auf Grund ihres durchschnittlichen Jahreseinkommens. Anspruch auf eine ordentliche Vollrente haben Versicherte mit vollständiger Beitragsdauer (Art. 29 Abs. 2 lit. a AHVG), die zwischen dem 1. Januar nach Vollendung des 20. Altersjahres und dem 31. Dezember vor Eintritt des Versicherungsfalles (Rentenalter oder Tod) während gleich vielen Jahren wie ihr Jahrgang Beiträge geleistet haben (Art. 29bis Abs. 1 und Art. 29ter Abs. 1 AHVG), wobei die Jahre, während der die verheiratete Frau auf Grund von Art. 3 Abs. 2 lit. b AHVG (in der bis Ende 1996 gültig gewesenen Fassung) keine Beiträge entrichtet hat, als Beitragsjahre gezählt werden (Art. 29bis Abs. 2 aAHVG in der bis Ende 1996 in Kraft gestandenen Fassung, welcher gemäss Art. 29bis Abs. 2 AHVG [in der seit 1. Januar 1997 geltenden Fassung] in Verbindung mit lit. g Abs. 2 der Übergangsbestimmungen zur 10. AHV-Revision auch für die nach dem 1. Januar 1997 festzusetzenden Renten für die Beitragsjahre vor dem 1. Januar 1997 Gültigkeit besitzt). Denn Art. 3 Abs. 2 lit. b aAHVG bestimmt, dass die nichterwerbstätigen Ehefrauen von Versicherten von der Beitragspflicht befreit sind. Die beitragsfreien Jahre gemäss Art. 29bis Abs. 2 aAHVG können indes nur dann angerechnet werden, wenn die Ehefrau während dieser Zeit selber versichert war, denn die Voraussetzungen für die Versicherteneigenschaft sind grundsätzlich persönlich zu erfüllen (BGE 107 V 1 ff. Erw. 1 mit Hinweis; ZAK 1981 S. 338 Erw. 2).
b) Obligatorisch versichert nach Massgabe des AHVG in der seit 1. Januar 1997 gültigen Fassung sind natürliche Personen mit Wohnsitz in der Schweiz (Art. 1 Abs. 1 lit. a AHVG), natürliche Personen, die in der Schweiz eine Erwerbstätigkeit ausüben (Art. 1 Abs. 1 lit. b AHVG) sowie Schweizer Bürger, die im Ausland im Dienste der Eidgenossenschaft oder vom Bundesrat bezeichneter Institutionen tätig sind (Art. 1 Abs. 1 lit. c AHVG [in der vom 1. Januar 1997 bis Ende Dezember 2000 in Kraft gestandenen Fassung]).
Vor der 10. AHV-Revision waren gemäss Art. 1 Abs. 1 lit. c aAHVG auch Schweizer Bürger obligatorisch versichert, die im Ausland für einen Arbeitgeber in der Schweiz tätig waren und von diesem entlöhnt wurden. Diese Bestimmung erfuhr inhaltlich mit Inkrafttreten der 10. AHV-Revision in Art. 1 Abs. 3 AHVG insoweit eine Änderung, als dieser Regelung nicht mehr nur Schweizer Bürger, sondern auch Ausländer unterstehen und die Fortführung der Versicherung freiwillig ist.
c) Das Eidgenössische Versicherungsgericht hatte unter dem früheren Recht in BGE 104 V 121 und 107 V 1 (vgl. auch ZAK 1981 S. 337) Gelegenheit, grundsätzliche Überlegungen darüber anzustellen, ob eine Frau, welche die erwähnten Voraussetzungen für das obligatorische Versichertsein nicht erfüllt, die aber - wie im vorliegenden Fall - mit einem Versicherten verheiratet ist, kraft dieser Ehe - gleichsam als Ausfluss der Einheit der Ehe - ebenfalls als versichert zu gelten hat. Dies wurde in den Anfangsjahren der Alters- und Hinterlassenenversicherung denn auch gelegentlich als Wille des Gesetzgebers gesehen (vgl. BGE 117 V 110 f.
Erw. 6a mit Hinweisen; Käser, Unterstellung und Beitragswesen in der obligatorischen AHV, 2. Aufl. , Bern 1996, S. 7 Rz 1.3). Das höchste Gericht hat diese Meinung indes klar verworfen (BGE 107 V 2 Erw. 1: "[...] le principe de l'unité du couple ne peut entraîner une extension de la qualité d'assuré du mari à la femme que dans les cas où cette unité ressort d'une situation de droit particulière").
In BGE 104 V 124 Erw. 3 führte es weiter aus, "[Le tribunal fédéral des assurances] a toutefois constaté et précisé d'emblée que cette unité ne découlait pas d'un principe ayant valeur générale dans l'AVS, mais qu'elle ressortait uniquement de dispositions légales particulières ou d'une situation de droit particulière ...". In Anwendung dieses Grundsatzes hat es sodann befunden, dass sich die Versicherteneigenschaft eines Schweizers, der im Ausland für einen Arbeitgeber in der Schweiz tätig ist und von diesem entlöhnt wird (Art. 1 Abs. 1 lit. c aAHVG), nicht auf die mit ihm im Ausland weilende Ehegattin ausdehnt (BGE 107 V 1; vgl. auch BGE 117 V 107 f. Erw. 3c und ZAK 1981 S. 338 f. Erw. 3, je Hinweisen). Ferner hat es darauf hingewiesen, dass der Schutz der Ehefrau durch das System der Ehepaarrente erreicht werde und ihr auch der Beitritt zur freiwilligen Versicherung offen stehe. Dies im Wissen darum, dass sich daraus unbefriedigende Folgen ("inconvénients") ergeben können (BGE 107 V 3 Erw. 1 und 2).
d) In BGE 126 V 217 hat das Eidgenössische Versicherungsgericht sich alsdann zur Frage geäussert, ob die in BGE 104 V 121 begründete und in BGE 107 V 1 bestätigte Rechtsprechung zu Art. 1 Abs. 1 lit. b und c aAHVG auch mit Inkrafttreten der 10. AHV-Revision und der damit verbundenen Abschaffung der Ehepaar-Altersrente weiterhin Bestand habe. Es gelangte hiebei zum Schluss, dass diese Judikatur nicht in erster Linie aus der Überlegung entstanden war, die Ehefrau würde an der Ehepaarrente teilhaftig sein, sondern im Wesentlichen auf dem Argument beruhte, das Gesetz umschreibe die Voraussetzungen der Versicherteneigenschaft in einer Weise, die keine andere Interpretation zulasse, als dass jede Person diese Voraussetzungen persönlich erfüllen müsse. Der Hinweis auf den Schutz der Ehefrau durch die Ehepaarrente sowie auch auf die Möglichkeit des Beitritts zur freiwilligen Versicherung sollte aufzeigen, dass sich die mit der getroffenen Lösung verbundenen Konsequenzen in Grenzen halten würden (vgl. BGE 107 V 3 Erw. 1 und 2). Wie im zitierten Urteil weiter dargelegt wird, hat diese Betrachtungsweise durch die 10. AHV-Revision nichts an Aktualität eingebüsst. Der Schutz der Ehefrau ist durch das System des Rentensplittings mit Anrechnung von Beitragsjahren gemäss Art. 29bis Abs. 2 in Verbindung mit Art. 3 Abs. 2 lit. b aAHVG gewährleistet worden (lit. g Abs. 2 der Übergangsbestimmungen zur 10. AHV-Revision). Für eine Praxisänderung besteht demnach kein Anlass, und zwar umso weniger, als eine Ausdehnung der Versicherteneigenschaft des Ehemannes auf die Ehefrau kraft des Zivilstandes dem Grundanliegen der 10. AHV-Revision für eine zivilstandsunabhängige Rente der Frau diametral zuwiderlaufen würde. Festzuhalten bleibt, dass sich das Eidgenössische Versicherungsgericht beim Erlass seiner Urteile BGE 104 V 121 und 107 V 1 der Unzulänglichkeiten, die sich aus diesem Ergebnis in Einzelfällen - insbesondere bei Nichtbeitritt zur freiwilligen Versicherung - ergeben können (vgl.
Erw. 2c in fine hievor), bewusst war und es auch heute ist.
Wie die Vorinstanz zutreffend erkannt hat, erfolgt im Lichte der erwähnten Judikatur somit keine Ausdehnung der Versicherteneigenschaft des während des Aufenthaltes in Japan obligatorisch versicherten Ehemannes auf die nichterwerbstätige Ehefrau, welcher deshalb - sie war nicht der freiwilligen Versicherung für Auslandschweizer angeschlossen - die von der Ausgleichskasse errechneten Beitragslücken entstehen. Nach dem Gesagten liegt in dieser Vorgehensweise - entgegen den Ausführungen in der Verwaltungsgerichtsbeschwerde - keine rechtsungleiche Behandlung.
2.- a) Die Beschwerdeführerin ruft des Weitern das Vertrauensprinzip mit der Begründung an, sie habe sich "vor der Abreise ins Ausland bei der AHV-Zweigstelle bestätigen lassen, dass sie weiterhin bei der AHV [...] versichert" sei.
b) Über die Stellung der Ehefrau von obligatorischen Versicherten im Ausland herrschte lange Zeit Unklarheit (ZAK 1982 S. 161 ff.). Nachdem mit BGE 107 V 1 letztendlich eine Ausdehnung der Versicherteneigenschaft des obligatorisch versicherten Ehemannes auf seine sich ebenfalls im Ausland aufhaltende, nicht erwerbstätige Ehegattin abgelehnt worden war, wurde den betroffenen Ehefrauen auf Grund der Übergangsbestimmung zum AHVG gemäss Änderung vom 7. Oktober 1983 indes nachträglich (nochmals) der Beitritt zur freiwilligen AHV/IV für Auslandschweizer innert zweier Jahren nach Inkrafttreten der Norm - bis spätestens 31. Dezember 1985 - eröffnet (Verordnung über den nachträglichen Beitritt zur freiwilligen AHV/IV für Ehefrauen von obligatorisch versicherten Schweizern im Ausland vom 28. November 1983).
Von dieser nachträglichen Beitrittsmöglichkeit, welche namentlich auch wieder in der Schweiz lebenden Schweizerinnen rückwirkend für die Zeit der Wohnsitznahme im Ausland offen stand, hat die Beschwerdeführerin unbestrittenermassen keinen Gebrauch gemacht. Damit wäre aber auch eine allfällige unzutreffende Auskunft im Rahmen der seinerzeitigen Erkundigungen bei den AHV-Behörden vor der Abreise nach Japan nicht mehr kausal für die entstandenen Versicherungslücken.
Vielmehr hat die gesetzliche Ordnung seit der geltend gemachten Auskunftserteilung mit der am 7. Oktober 1983 geschaffenen nachträglichen Beitrittsmöglichkeit eine Änderung erfahren, weshalb insbesondere die fünfte Voraussetzung des Vertrauensschutzes nicht erfüllt ist (vgl. zu Art. 9 BV: BGE 127 I 36 Erw. 3a, 126 II 387 Erw. 3a; RKUV 2000 Nr. KV 126 S. 223, Nr. KV 133 S. 291 Erw. 2a; zu Art. 4 Abs. 1 aBV ergangene, weiterhin geltende Rechtsprechung:
BGE 121 V 66 Erw. 2a mit Hinweisen). Dass die Beschwerdeführerin die Gelegenheit des rückwirkenden Beitritts versäumt hat, beruht nicht auf einer falschen oder ungenügenden behördlichen Auskunftserteilung, sondern darauf, dass sie die betreffende gesetzliche Regelung nicht zur Kenntnis genommen hat. Aus der eigenen Rechtsunkenntnis kann jedoch nach einem allgemeinen Grundsatz niemand Vorteile ableiten (BGE 124 V 220 Erw. 2b/aa mit Hinweisen). Ob im damaligen Zeitpunkt tatsächlich eine Falschauskunft der Verwaltungsbehörden vorlag, braucht somit nicht beurteilt zu werden.
3.- Die Beschwerdeführerin bringt ferner vor, die Höhe der vom Ehemann entrichteten Beitragszahlungen sei auch während des Aufenthaltes in Japan unverändert geblieben.
Sollte damit dargetan werden, die Beiträge der Beschwerdeführerin seien gemäss Art. 3 Abs. 3 lit. a AHVG, wonach die eigenen Beiträge als bezahlt gelten, sofern der erwerbstätige Ehegatte Beiträge von mindestens der doppelten Höhe des Mindestbeitrages erbracht hat, als entrichtet zu betrachten, ist diesem Einwand nicht zu opponieren. Mit Blick auf die in Erw. 2 hievor erwähnte Rechtsprechung fehlt es indes letztlich trotzdem an der Versicherteneigenschaft der Beschwerdeführerin, weshalb auch dieses Argument nichts am Ergebnis zu ändern vermag. Da die Rentenberechnung ansonsten unbestritten ist und auch im Einklang mit der gesetzlichen Ordnung steht, ist der vorinstanzliche Entscheid rechtens.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 18. März 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: