Sachverhalt: A. Mit Verfügungen vom 23. April 2003 sprach die Schweizerische Ausgleichskasse dem 1936 geborenen, in Deutschland wohnhaften S._ eine Altersrente von monatlich Fr. 189.- vom 1. August 2001 bis 31. Mai 2002, Fr. 243.- vom 1. Juni bis 31. Dezember 2002 und Fr. 249.- ab 1. Januar 2003 zu. Die Verwaltung wies darauf hin, die von ihm und seiner früheren Ehefrau I._ während der Kalenderjahre der gemeinsamen Ehe erzielten Einkommen seien geteilt und beiden Ehegatten je zur Hälfte angerechnet worden. Mit Einspracheentscheid vom 2. Juni 2003 bestätigte die Ausgleichskasse die Rentenverfügung. B. Die von S._ hiegegen erhobene Beschwerde wies die Eidgenössische Rekurskommission der AHV/IV für die im Ausland wohnenden Personen mit Entscheid vom 21. Januar 2004 ab. C. S._ führt Verwaltungsgerichtsbeschwerde mit den Rechtsbegehren, die Altersrente sei neu (ohne Einkommenssplitting) zu berechnen. Die Schweizerische Ausgleichskasse beantragt die Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung. D. S._ hat sich in einer weiteren Eingabe zu den Vorbringen der Ausgleichskasse geäussert. E. Auf Ersuchen der Instruktionsrichterin hat die Ausgleichskasse zu verschiedenen Fragen der Rentenberechnung Stellung genommen. S._ und die als Mitbeteiligte zum Verfahren beigeladene I._ haben sich hiezu geäussert.