Sachverhalt: Sachverhalt: A. S._ (geboren 9. Februar 1967) war als Mitarbeiter der Post seit 1. März 1987 bei der Eidgenössischen Versicherungskasse (später: Pensionskasse des Bundes PKB) im Rahmen der beruflichen Vorsorge versichert. Mit Beendigung seines Dienstverhältnisses bei der Kreispostdirektion X._ per 30. April 2000 schied er auf diesen Zeitpunkt hin auch aus der PKB aus. Mit Eingabe vom 22. Juli 2000 ersuchte er die PKB um Barauszahlung seines Austrittsguthabens infolge Aufnahme einer selbstständigen Erwerbstätigkeit. Die PKB errechnete eine Austrittsleistung von Fr. 62 570.65 sowie Verzugszinsen in Höhe von Fr. 945.50 und überwies S._ nach Abzug des Quellensteuerbetrages von Fr. 4544.45 den Nettobetrag von Fr. 58 971.70. A. S._ (geboren 9. Februar 1967) war als Mitarbeiter der Post seit 1. März 1987 bei der Eidgenössischen Versicherungskasse (später: Pensionskasse des Bundes PKB) im Rahmen der beruflichen Vorsorge versichert. Mit Beendigung seines Dienstverhältnisses bei der Kreispostdirektion X._ per 30. April 2000 schied er auf diesen Zeitpunkt hin auch aus der PKB aus. Mit Eingabe vom 22. Juli 2000 ersuchte er die PKB um Barauszahlung seines Austrittsguthabens infolge Aufnahme einer selbstständigen Erwerbstätigkeit. Die PKB errechnete eine Austrittsleistung von Fr. 62 570.65 sowie Verzugszinsen in Höhe von Fr. 945.50 und überwies S._ nach Abzug des Quellensteuerbetrages von Fr. 4544.45 den Nettobetrag von Fr. 58 971.70. B. Mit Klage vom 24. Juni 2002 stellte S._ den Antrag, die PKB habe ihm eine Austrittsleistung von Fr. 125 141.30 auszurichten. Am 18. Juni 2003 teilte die Eidgenössische Finanzverwaltung dem Verwaltungsgericht des Kantons Bern mit, die Vorsorgeverhältnisse seien per 1. Juni 2003 infolge einer gesetzlich vorgesehenen Universalsukzession von der bisherigen Pensionskasse PKB auf die Pensionskasse des Bundes Publica übergegangen. Die Klage gegen die Schweizerische Eidgenossenschaft sei wegen fehlender Passivlegitimation abzuweisen und das Verfahren sei mit der Publica, eventuell mit der Pensionskasse der Post fortzuführen. Mit Urteil vom 29. März 2004 hiess das Verwaltungsgericht des Kantons Bern die Klage teilweise gut und verpflichtete die Beklagte, dem Kläger zusätzlich Fr. 4544.45 (entsprechend dem Abzug für Quellensteuer) nebst Zins ab 9. September 2000 zu bezahlen (Ziff. 4 des Dispositivs). Die Anträge auf Verfahrenssistierung, auf einen Parteiwechsel sowie auf die Beiladung einer andern Pensionskasse wies es im Sinne der Erwägungen ebenfalls ab (Ziff. 2 des Dispositivs). Mit Urteil vom 29. März 2004 hiess das Verwaltungsgericht des Kantons Bern die Klage teilweise gut und verpflichtete die Beklagte, dem Kläger zusätzlich Fr. 4544.45 (entsprechend dem Abzug für Quellensteuer) nebst Zins ab 9. September 2000 zu bezahlen (Ziff. 4 des Dispositivs). Die Anträge auf Verfahrenssistierung, auf einen Parteiwechsel sowie auf die Beiladung einer andern Pensionskasse wies es im Sinne der Erwägungen ebenfalls ab (Ziff. 2 des Dispositivs). C. S._ führt Verwaltungsgerichtsbeschwerde mit dem Antrag, es sei ihm auch der Arbeitgeberanteil des Pensionskassenguthabens samt Zinsen auszuzahlen. Die Eidgenössische Finanzverwaltung beantragt Abweisung der Verwaltungsgerichtsbeschwerde. In verfahrensrechtlicher Hinsicht verlangt sie, das Verfahren sei mit der Pensionskasse der Post als Beklagte weiterzuführen. Die Schweizerische Eidgenossenschaft und die Publica seien zum Verfahren beizuladen. Eventuell sei das Verfahren mit der Publica als Beklagte weiterzuführen und die Schweizerische Eidgenossenschaft und die Pensionskasse seien beizuladen. Das Bundesamt für Sozialversicherung schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde.