A.- Am 12. Januar 1995 wurde über die Gesellschaft P._ AG (nachfolgend: Gesellschaft), der Konkurs eröffnet. Im Konkursverfahren machte die Ausgleichskasse Zürich eine Forderung im Gesamtbetrag von Fr. 51'260. 35 für unbezahlt gebliebene bundesrechtliche Sozialversicherungsbeiträge sowie Beiträge an die kantonale Familienausgleichskasse, einschliesslich Mahngebühren, Verzugszinsen sowie Betreibungs- und Verwaltungskosten, für den Zeitraum 1. Januar 1993 bis 31. Juli 1994 geltend. Das Konkursamt Z._ teilte der Ausgleichskasse am 12. September 1995 auf Anfrage mit, dass sie mit der eingegebenen Forderung vermutlich voll zu Schaden kommen werde. Mit Verfügung vom 14. August 1996 forderte die Ausgleichskasse von B._, der vom 16. November 1993 bis 27. Juni 1994 Mitglied des Verwaltungsrates der Gesellschaft gewesen war, von U._ und S._, welche ebenfalls dem Verwaltungsrat der konkursiten Gesellschaft angehört hatten, sowie von M._, der bis zur Konkurseröffnung Delegierter des Verwaltungsrates war, unter solidarischer Haftbarkeit Schadenersatz in der Höhe von Fr. 51'260. 35. Gegen diesen Verwaltungsakt erhob B._ am 3. September 1996 Einspruch.
B.- Am 3. Oktober 1996 reichte die Ausgleichskasse beim Sozialversicherungsgericht des Kantons Zürich Klage ein mit dem Begehren, B._ sei zur Bezahlung von Schadenersatz in der Höhe von Fr. 9'963. 55 zu verpflichten. Das kantonale Gericht hiess die Klage vollumfänglich gut (Entscheid vom 8. September 1998).
C.- B._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, der angefochtene Entscheid sei aufzuheben; eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Ausgleichskasse und der als Mitinteressierter beigeladene U._ verzichten auf eine Vernehmlassung. Mit Eingabe vom 30. November 1998 nimmt der ebenfalls als Mitinteressierter beigeladene S._ zur Verwaltungsgerichtsbeschwerde Stellung. Das Bundesamt für Sozialversicherung lässt sich nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Da keine Versicherungsleistungen streitig sind, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob der vorinstanzliche Richter Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
2.- Auf die Verwaltungsgerichtsbeschwerde kann nur so weit eingetreten werden, als die Schadenersatzforderung kraft Bundesrechts streitig ist. Im vorliegenden Verfahren ist deshalb auf die Verwaltungsgerichtsbeschwerde in dem Umfang nicht einzutreten, als sie sich gegen die Schadenersatzforderung für entgangene Beiträge an die kantonale Familienausgleichskasse richtet (vgl. <ref-ruling> Erw. 1b, 118 V 69 Erw. 1b mit Hinweis).
3.- In prozessualer Hinsicht stellt sich vorab die Frage, ob das kantonale Gericht auf eine öffentliche Verhandlung verzichten durfte, nachdem der Beschwerdeführer in seiner Klageantwort vom 18. Dezember 1996 die Durchführung einer solchen beantragt hatte.
4.- a) Rechtfertigen es die Umstände, ist gestützt auf Art. 85 Abs. 2 lit. e AHVG im Verfahren vor der kantonalen Rekursbehörde grundsätzlich eine öffentliche Verhandlung durchzuführen. Damit gewährleistet Art. 85 Abs. 2 lit. e AHVG die von Art. 6 Ziff. 1 EMRK geforderte Öffentlichkeit der Verhandlung (vgl. dazu <ref-ruling>, in welchem sich das Eidgenössische Versicherungsgericht eingehend mit der von Art. 6 Ziff. 1 EMRK gewährleisteten Garantie der Öffentlichkeit der Verhandlung im Sozialversicherungsprozess auseinandergesetzt und insbesondere die Voraussetzungen für Ausnahmen des von der Konvention geforderten Öffentlichkeitsgrundsatzes im erstinstanzlichen Rechtsmittelverfahren näher konkretisiert). Dieser Rechtsschutzanforderung trägt auch das Gesetz über das Sozialversicherungsgericht des Kantons Zürich vom 7. März 1993 (LS 212. 81) Rechnung, welches in § 24 vorsieht, dass die Verhandlungen des Gerichts öffentlich sind. Davon kann indessen abgewichen werden, wenn es sich um rein rechtliche Fragen handelt, die Beschwerde offensichtlich unbegründet ist, oder wenn es die im Sozialversicherungsprozess gebotene Einfachheit und Raschheit des Verfahrens erfordert (Kieser, Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, Bundesgesetz über die Alters- und Hinterlassenenversicherung, S. 264, mit Hinweisen).
b) Streitig und zu prüfen war im vorinstanzlichen Verfahren, ob der Beschwerdeführer gemäss Art. 52 AHVG durch absichtliche oder grobfahrlässige Missachtung von Vorschriften einen Schaden verschuldet hatte, für welchen er der Ausgleichskasse ersatzpflichtig ist. Diese Thematik lässt sich nicht als hochtechnisch im Sinne der Rechtsprechung bezeichnen (vgl. <ref-ruling> f. Erw. 2d und e und 57 f. Erw. 3b/ee, je mit Hinweisen), weshalb nicht gesagt werden kann, das schriftliche Verfahren sei dafür besser geeignet. Bei der Prüfung der Haftungsvoraussetzung des qualifizierten Verschuldens nach Art. 52 AHVG geht es zu einem wesentlichen Teil um eine Würdigung des vom in Pflicht genommenen Organ in der kritischen Zeit an den Tag gelegten Verhaltens. Wenn schon der innere Wille einer Partei als entscheidwesentliches Element für den Anspruch auf öffentliche Verhandlung spricht (nicht veröffentlichtes Urteil L. vom 31. Mai 1996, C 269/94), dann gilt dies umso mehr für das von der beklagten Partei im Schadenersatzprozess unter Hinweis auf ihre getroffenen Massnahmen und beschränkten Möglichkeiten bestrittene Verschulden. Sodann lassen sich die in der vorinstanzlich eingereichten Klageantwort erhobenen Einwände gegen eine Schadenersatzpflicht des Beschwerdeführers nicht als von vornherein aussichtslos bezeichnen, noch erscheint mit der Durchführung einer öffentlichen Verhandlung die im Sozialversicherungsprozess gebotene
Einfachheit und Raschheit des Verfahrens als gefährdet. Triftige Gründe, welche gegen eine öffentliche Verhandlung sprechen, sind nicht ersichtlich und wurden im vorinstanzlichen Verfahren denn auch von keiner Seite namhaft gemacht. Unter den gegebenen Umständen hatte der Beschwerdeführer somit grundsätzlich Anspruch auf Durchführung der verlangten öffentlichen Verhandlung.
c) Mit Schreiben vom 26. Mai 1998 teilte das kantonale Gericht dem Rechtsvertreter des Beschwerdeführers mit, auf Grund einer internen Aktenzirkulation bei den am Verfahren beteiligten Mitgliedern des Gerichts habe sich gezeigt, dass die von ihm im Einspruch vom 3. September 1996 und in der Klageantwort vom 18. Dezember 1996 vorgetragenen Entlastungsgründe glaubhaft seien, womit "keine Notwendigkeit einer Parteibefragung" bestehe und das Gericht nunmehr die rechtliche Würdigung des Sachverhalts vorzunehmen habe. Deshalb werde er angefragt, ob er "am Antrag auf Durchführung einer Verhandlung" festhalte. Daraufhin liess der Beschwerdeführer am 27. Mai 1998 den Verzicht auf eine öffentliche Hauptverhandlung erklären. Nach Entgegennahme dieser Verzichtserklärung verurteilte das kantonale Gericht den Beschwerdeführer jedoch trotz der glaubhaft gemachten Entlastungsgründe zur Bezahlung des von der Ausgleichskasse eingeklagten Schadenersatzbetrages. Im angefochtenen Entscheid führte es dazu zusammenfassend aus, die Haftung des ehemaligen Verwaltungsrates der Gesellschaft sei zu bejahen, da nach dem gewöhnlichen Lauf der Dinge und der allgemeinen Lebenserfahrung sein pflichtwidriges Verhalten zum eingetretenen Schaden geführt habe.
Dieses Vorgehen verletzt den allgemeinen, bisher aus Art. 4 der Bundesverfassung vom 29. Mai 1874 abgeleiteten Rechtsgrundsatz von Treu und Glauben, welcher Behörden wie Privaten rechtsmissbräuchliches und widersprüchliches Verhalten verbietet (<ref-ruling> Erw. 4a mit Hinweis). Auf den 1. Januar 2000 ist die neue Bundesverfassung vom 18. April 1999 (BV) in Kraft getreten (Art. 1 des entsprechenden Bundesbeschlusses vom 28. September 1999 [AS 1999 2555]). Die - im vorliegenden Zusammenhang interessierende - Grundrechtsgarantie, von den staatlichen Organen nach Treu und Glauben behandelt zu werden, wird nunmehr durch Art. 9 BV gewährleistet. Daneben wurde im zum Einleitungstitel (mit den allgemeinen Bestimmungen) zählenden Art. 5 Abs. 3 BV ein für die gesamte Rechtsordnung im Sinne einer grundlegenden Handlungsmaxime geltendes Prinzip von Treu und Glauben verankert (Botschaft über eine neue Bundesverfassung vom 20. November 1996, BBl 1997 I 134). Die bisherige Rechtsprechung zum verfassungsrechtlichen Grundsatz von Treu und Glauben gilt auch unter der Herrschaft von Art. 9 BV, weshalb offen bleiben kann, ob im hier zu beurteilenden Fall bereits die neue oder noch die alte Bundesverfassung anwendbar ist (unveröffentlichtes Urteil S. vom 9. Mai 2000, K 23/98).
d) Da die Verzichtserklärung des Beschwerdeführers vom 27. Mai 1998 einzig auf Grund der - zumindest missverständlichen - Darlegungen des kantonalen Gerichts im Schreiben vom 26. Mai 1998 abgegeben wurde, hätte die Vorinstanz nach dem Gesagten von der Durchführung einer öffentlichen Verhandlung nicht absehen dürfen. Die Sache geht deshalb an das kantonale Gericht, damit dieses die öffentliche Verhandlung, in deren Rahmen dem Beschwerdeführer auch Gelegenheit zu einer mündlichen Stellungnahme einzuräumen sein wird, durchführe und hierauf neu entscheide.
5.- Bei diesem Ergebnis kann offen bleiben, wie es sich mit den in der Verwaltungsgerichtsbeschwerde geäusserten materiellen Rügen verhält.
6.- Da es nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen geht, ist das Verfahren kostenpflichtig (Art. 134 OG e contrario).
Einem Kanton, der nicht Partei ist, dürfen grundsätzlich keine Gerichtskosten und Parteientschädigungen überbunden werden. In Anwendung von Art. 156 Abs. 2 OG sowie Art. 159 Abs. 5 in Verbindung mit Art. 156 Abs. 6 OG rechtfertigt sich vorliegend indessen eine Ausnahme von dieser Regel, weil der angefochtene Entscheid in qualifizierter Weise die Pflicht zur Justizgewährleistung verletzt und den Parteien Kosten verursacht hat (in diesem Sinne bereits die nicht veröffentlichten Urteile B. vom 24. November 1999, C 179/98, C. vom 3. November 1998, K 163/97, und H. vom 16. April 1998, K 9/97).
Die Gerichtskosten und die Parteientschädigung für den anwaltlich vertretenen, teilweise obsiegenden Beschwerdeführer sind deshalb dem Kanton Zürich aufzuerlegen.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird, soweit darauf einzutreten ist, insoweit teilweise gutgeheissen, dass der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 8. September 1998 hinsichtlich der Sozialversicherungsbeiträge kraft Bundesrecht aufgehoben und die Sache an die Vorinstanz zurückgewiesen wird, damit sie im Sinne der Erwägungen verfahre.
II. Die Gerichtskosten von Fr. 1000. - werden dem Kanton Zürich auferlegt.
III. Der geleistete Kostenvorschuss von Fr. 1000. - ist dem Beschwerdeführer zurückzuerstatten.
IV. Der Kanton Zürich hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2500. - (einschliesslich Mehrwertsteuer) zu bezahlen.
V. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, dem Bundesamt für Sozialversicherung, U._ und S._ zugestellt.
Luzern, 13. Juli 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: