A.- Der 1957 geborene, zuletzt vom 1. März 1991 bis
30. November 1995 als Maurer bei der in W._ domizilierten Firma S._ AG angestellte P._ meldete sich am 15. Januar 1996 unter Hinweis auf ein Rückenleiden bei der Invalidenversicherung zum Leistungsbezug an. Im Anschluss an die Abklärung der beruflichen Eingliederungsmöglichkeiten absolvierte er vom 27. November 1996 bis 26. Mai 1997 in der Beruflichen Abklärungs- und Ausbildungsstätte A._, ein Arbeitstraining im Bereich Gerätemontage (Arbeitszeugnis vom 22. Mai 1997). Die IV-Stelle des Kantons Zürich schloss das Verfahren um berufliche Massnahmen mit Verfügung vom 16. Juni 1997 ab.
Auf erneute Anmeldung zum Leistungsbezug hin verneinte die IV-Stelle nach Abklärungen in medizinischer und beruflich-erwerblicher Hinsicht mangels rentenbegründender Invalidität einen Anspruch auf eine Invalidenrente (Verfügung vom 4. Juni 1998).
B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 25. Januar 2000 ab.
C.- P._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des vorinstanzlichen Entscheides sei ihm mindestens eine Viertelsrente zuzusprechen, eventuell sei die Sache zwecks Vornahme ergänzender Abklärungen und zum Erlass eines neuen Entscheides an das kantonale Gericht zurückzuweisen.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, lässt sich sich das Bundesamt für Sozialversicherung nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die gesetzlichen Bestimmungen und Grundsätze über den Begriff der Invalidität (<ref-law>), den Umfang des Rentenanspruchs (<ref-law>), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>) sowie die Bedeutung ärztlicher Auskünfte bei der Ermittlung des Invaliditätsgrades (<ref-ruling> Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1) zutreffend dargelegt. Darauf kann verwiesen werden.
2.- Nach Lage der medizinischen Akten - Berichte des Dr. med. R._, vom 4. Februar 1996 und 1. März 1998 sowie die im Rahmen des Schlussberichts der Beruflichen Abklärungs- und Ausbildungsstätte A._ vom 24. Oktober 1996 erstattete Beurteilung des Gesundheitszustandes und Stellungnahme zur Arbeitsfähigkeit des Dr. med. K._ - ist davon auszugehen, dass der Beschwerdeführer gesundheitsbedingt keine Schwerarbeit mehr verrichten kann. Hinsichtlich einer körperlich leichten, rückenschonenden Tätigkeit mit der Möglichkeit zur Wechselbelastung und ohne Heben von schweren Lasten ist er dagegen - mit Vorinstanz und Verwaltung - zu 100 % arbeitsfähig. Soweit der Beschwerdeführer dies letztinstanzlich in Frage stellt, ist ihm entgegenzuhalten, dass sich die bereits im kantonalen Verfahren aufgelegten Urkunden (vier Rezepte sowie eine Arztrechnung) nicht zur Arbeitsfähigkeit äussern, weshalb sie insoweit nicht zum Beweis geeignet sind. Massgebend sind weiter die Verhältnisse bei Erlass der strittigen Verwaltungsverfügung (4. Juni 1998), weshalb eine allfällig nachfolgend eingetretene Verschlechterung des Gesundheitszustandes vorliegend nicht relevant ist (<ref-ruling> Erw. 1b).
3.- Hinsichtlich der erwerblichen Auswirkungen der festgestellten Arbeitsunfähigkeit ist mit allen Verfahrensbeteiligten von einem Valideneinkommen (hypothetisches Einkommen ohne Invalidität) für das Jahr 1997 in Höhe von Fr. 70'200.- abzustellen.
Für die Bestimmung des Invalideneinkommens (hypothetisches Einkommen nach Eintritt der Invalidität) ist primär von der beruflich-erwerblichen Situation auszugehen, in welcher die versicherte Person konkret steht. Ist kein solches tatsächlich erzieltes Erwerbseinkommen gegeben, namentlich weil der Versicherte nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihm an sich zumutbare neue Erwerbstätigkeit aufgenommen hat, so können rechtsprechungsgemäss Tabellenlöhne beigezogen werden (<ref-ruling> Erw. 3b/aa und bb mit Hinweisen). Nachdem der Beschwerdeführer seit Ende 1995 keiner Erwerbstätigkeit mehr nachgeht, ist es nicht zu beanstanden, wenn die Vorinstanz - zwar nur im Rahmen einer Plausibilitätsprüfung - auf die Tabellenlöhne zurückgriff. Es ist daher einerseits den Rügen hinsichtlich der von der Verwaltung beigezogenen internen Arbeitsplatzdokumentationen (DAP) nicht nachzugehen.
Andererseits fällt ein Abstellen auf die nicht näher begründeten Schätzungen durch die Berufliche Abklärungs- und Ausbildungsstätte A._ (gemäss Bericht vom 2. Juni 1997 Fr. 39'000.- brutto; gemäss Bericht vom 24. Oktober 1996 Fr. 39'000.- bis Fr. 41'600.- brutto) ausser Betracht.
Die Vorinstanz hat schliesslich weder willkürlich noch in Verletzung des verfassungsrechtlichen Gebotes der Begründungspflicht (<ref-law>) gehandelt, indem sie den Abzug von 15 % vom Tabellenlohn damit begründete, gesundheitlich beeinträchtigte Personen seien im Vergleich zu voll leistungsfähigen Arbeitnehmern lohnmässig benachteiligt.
Ein Abzug von 15 % ist angesichts der gesamten persönlichen und beruflichen Verhältnisse nicht zu beanstanden.
Triftige Gründe für eine nach den Grundsätzen über die richterliche Ermessenskontrolle (<ref-ruling> Erw. 2) abweichende Ermessensausübung liegen jedenfalls nicht vor (vgl. zur Kürzung von Tabellenlöhnen <ref-ruling> Erw.
5b/bb und cc).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 8. März 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: