A.- Der 1960 geborene S._ arbeitete seit seiner Einreise in die Schweiz im Jahre 1988 als Bauarbeiter, zuletzt ab 10. Oktober 1994 als angelernter Maurer bei der F._ AG, Hoch- und Tiefbau. Am 14. Oktober 1994 stürzte er von einem Baugerüst auf beide Füsse und zog sich dabei eine Calcaneustrümmerfraktur rechts, eine Fraktur des Malleolus lateralis Typ A links und Rippenfrakturen links zu. Für die Unfallfolgen richtet ihm die Schweizerische Unfallversicherungsanstalt (SUVA) gestützt auf einen Vergleich vom 17. März/2. Mai 1997 eine Invalidenrente für eine Erwerbsunfähigkeit von 40 % aus. Im Januar 1996 meldete sich S._ bei der Invalidenversicherung zum Leistungsbezug an. Nach medizinischen und beruflichen Abklärungen sowie nach Beizug des Abklärungsberichts der Abteilung Berufliche Eingliederung der Rehabilitationsklinik X._ vom 29. Mai 1996 sprach ihm die IV-Stelle des Kantons Zürich mit Wirkung ab 1. Oktober 1995 bis
29. Februar 1996 eine ordentliche halbe, vom 1. März bis
31. Dezember 1996 eine ausserordentliche halbe und ab
1. Januar 1997 eine ordentliche halbe Invalidenrente zu, jeweils mit Zusatzrente für die Ehefrau sowie sechs Kinderrenten (Verfügungen vom 16. und 23. Januar 1998).
B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 27. März 2000 ab.
C.- S._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides seien ihm die gesetzlichen Leistungen, insbesondere eine ganze Invalidenrente, zuzusprechen. Eventuell sei ein interdisziplinäres Gutachten unter ausdrücklichem Einschluss einer psychiatrischen Exploration zu veranlassen.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde.
Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die gesetzlichen Bestimmungen über den Invaliditätsbegriff (Art. 4 IVG), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und Abs. 1bis IVG), den Beginn des Rentenanspruchs (Art. 29 Abs. 1 IVG), die Invaliditätsbemessung bei Erwerbstätigen nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG) sowie die Rechtsprechung zur Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (BGE 115 V 134 Erw. 2 mit Hinweisen) und zur Beweiswürdigung von medizinischen Berichten (BGE 125 V 352 Erw. 3a) wurden durch das kantonale Gericht, teilweise mit Verweis auf den Vorbescheid der IV-Stelle vom 25. Juli 1997, zutreffend dargelegt. Darauf wird verwiesen.
2.- a) Nach dem Austrittsbericht der Rehabilitationsklinik X._ vom 23. Mai 1996 leidet der Beschwerdeführer nebst den Unfallfolgen an vorbestehenden lumbalen Beschwerden. Die angestammte Tätigkeit auf dem Bau könne nicht mehr ausgeführt werden. Beruflich werde sich der Versicherte in Zusammenarbeit mit dem Arbeitsamt der Gemeinde nach einer körperlich leichten Arbeit mit Wechselbelastung Stehen/Gehen umsehen müssen. Im Abschlussbericht über die beruflichen Abklärungen kommt die nämliche Klinik im Bericht vom 29. Mai 1996 zur Schlussfolgerung, aus medizinischer Sicht könne der Beschwerdeführer die zuletzt ausgeführte Tätigkeit als Bauhilfsarbeiter nicht mehr ausüben.
Ausserdem könne er infolge der unfallfremden Rückenbeschwerden keine schweren Gewichte heben oder tragen. Es sei eine Berufsumstellung angezeigt. Zu empfehlen sei eine leichte, industrielle ganztägige Arbeit, z.B. eine Tätigkeit als Stanzer, Bohrer, Maschinenüberwacher oder in einer Flaschenwiederverwertungsfirma, wie die Firma A._ AG (Flaschen von einem Sammelbehälter beidhändig herausnehmen und auf ein Förderband stellen) usw. , bei der er abwechslungsweise sitzend oder stehend arbeiten könnte. Von einer Umschulung sei infolge der gezeigten Leistungsbereitschaft abzuraten. Eine Wiedereingliederung in der freien Wirtschaft sei unter den momentanen Umständen (der Beschwerdeführer sei mit einem Gehstock in die Berufsabklärung gekommen und fühle sich arbeitsunfähig) als nicht möglich. Er sei einem Arbeitgeber nicht zuzumuten.
Die Rheumapoliklinik des Spitals Y._ diagnostiziert im Gutachten vom 14. Februar 1997 ein lumbospondylogenes Syndrom rechts bei Wirbelsäulenfehlform, Haltungsinsuffizienz und muskulärer Dysbalance, degenerativen LWS-Veränderungen und Calcaneodynie rechts mehr als links bei Status nach Calcaneustrümmerfraktur rechts sowie lateraler Malleolarfraktur Typ A links sowie Status nach Tarsaltunneloperation rechts. Während der Untersuchung habe der Beschwerdeführer zwar einen leidenden Eindruck gemacht, jedoch bestehe kein depressives Zustandsbild, sodass ein psychiatrisches Teilgutachten nicht notwendig sei. Zurzeit sei der Beschwerdeführer in der Tätigkeit als Bauarbeiter dauernd zu 100 % arbeitsunfähig. Für eine leichte, wechselbelastende Tätigkeit (sitzende und stehende Arbeiten) mit Einschränkung für das repetitive Lastenheben über 10 kg sowie längeres Arbeiten in gebückter Körperposition sei der Beschwerdeführer jedoch zurzeit 50 % arbeitsfähig.
b) Gestützt auf diese beiden medizinischen Gutachten und dem beruflichen Abklärungsbericht ist mit dem kantonalen Gericht davon auszugehen, dass der Beschwerdeführer für eine leichte, wechselbelastende Tätigkeit (sitzende und stehende Arbeiten) mit Einschränkung für das repetitive Lastenheben über 10 kg sowie längeres Arbeiten in gebückter Körperposition im massgebenden Zeitpunkt der Verwaltungsverfügung (16. /23. Januar 1998) zu 50 % arbeitsfähig ist.
Daran ändert die anderslautende Beurteilung der Arbeitsunfähigkeit durch den Hausarzt Dr. med. L._ im Bericht vom 29. Dezember 1997 nichts. Immerhin ist darauf hinzuweisen, dass derselbe Arzt im Bericht vom 8. März 1996 an die IV-Stelle Hilfsberufe mit zeitweise sitzender Position, ohne Heben von schweren Lasten ab sofort zu wahrscheinlich 100 % zumutbar hielt.
Auch die weiteren Vorbringen in der Verwaltungsgerichtsbeschwerde führen zu keinem andern Ergebnis. Zumindest mit dem Austrittsbericht der Rehabilitationsklinik X._ vom 23. Mai 1996 liegt auch eine Stellungnahme aus orthopädischer Sicht vor. Sodann beruht das Gutachten der Rheumaklinik des Spitals Y._ vom 14. Februar 1997 u.a. auf einer Abklärung des Wirbelsäulen-, Gelenk- und Neurostatus. Beide begutachtenden Stellen berücksichtigten ferner bei ihrer Beurteilung bereits vorhanden gewesene neurologische Abklärungen durch das Spital Z._. Zu einer psychiatrischen Abklärung besteht schliesslich kein Anlass, nachdem weder der Hausarzt Dr.
med. L._ (Berichte vom 29. Dezember 1997 und 8. März 1996) noch die Ärzte und Berufsberater der Rehabilitationsklinik X._, wo sich der Beschwerdeführer vom 24. April bis 17. Mai 1996 zur Abklärung aufgehalten hatte, psychische Auffälligkeiten oder ein depressives Zustandsbild erwähnt oder beschrieben haben. Auch die Gutachter der Rheumapoliklinik des Spitals Y._ kommen zum Schluss, der Beschwerdeführer mache zwar einen leidenden Eindruck, jedoch bestehe kein depressives Zustandsbild. Zusätzlicher Abklärungen in medizinischer Hinsicht bedarf es daher nicht, zumal auch die formellen Einwände des Beschwerdeführers gegen das Gutachten der Rheumapoliklinik des Spitals Y._ vom 14. Februar 1997 unbegründet sind.
Die IV-Stelle hat dem Rechtsvertreter des Beschwerdeführers am 16. Juli 1996 die Notwendigkeit einer ambulanten medizinischen Abklärung in der Rheumapoliklinik mitgeteilt. In der Folge hat der Beschwerdeführer, nachdem ihm Einsicht in das Gutachten gewährt worden war, im Vorbescheidverfahren keine formellen Einwendungen erhoben. Unter diesen Umständen liegt, wenn überhaupt (vgl. AHI 1998 S. 125), höchstens eine leichte Verletzung der bei der Bestellung von Gutachten zu beachtenden Gehörs- und Mitwirkungsrechte vor. Zu Recht hat daher das kantonale Gericht eine Heilungsmöglichkeit im nachfolgenden Beschwerdeverfahren bejaht (vgl.
BGE 120 V 363 Erw. 2b). Unbegründet ist auch der erstmals in der Verwaltungsgerichtsbeschwerde gegen einen der beiden Gutachter der Rheumapoliklinik des Spitals Y._ geltend gemachte Ablehnungsgrund, wonach sich eine unglückliche Konstellation ergeben habe, weil der Beschwerdeführer selber Kosovo-Albaner sei und Dr. P._ mutmasslich serbischer oder kroatischer Provenienz sei. Abgesehen davon, dass der Einwand zu wenig substanziiert und in den vorinstanzlichen Verfahren ebenfalls nicht erhoben worden und damit verspätet ist (AHI 2001 S. 116 mit Hinweisen), hat das Eidgenössische Versicherungsgericht bereits wiederholt festgehalten, dass der Umstand allein, dass ein Gutachter einer andern Ethnie aus dem ehemaligen Jugoslawien angehöre als der Versicherte, nicht für eine Befangenheit ausreicht (AHI 2001 S. 116).
3.- a) Das kantonale Gericht setzte das Einkommen in der angestammten Tätigkeit als Bauarbeiter für das Jahr 1998 auf Fr. 58'127.- fest. Der Beschwerdeführer errechnet gestützt auf die von der früheren Arbeitgeberin im Juli 1997 gegenüber der IV-Stelle gemachten Angaben für das Jahr 1998 ein Valideneinkommen von Fr. 60'167.-.
Die Arbeitgeberin bescheinigte im Juli 1997 für das Jahr 1997 einen Stundenlohnansatz von Fr. 23.90 und einen Zuschlag für Ferien von Fr. 1.98 (8,3 %) sowie für den
13. Monatslohn von Fr. 2.15 (8,3 %) und gab eine Jahresarbeitszeit von 2138 Std. (inkl. Ferien) an. Entgegen der Auffassung des Beschwerdeführers ist, da in der Jahresarbeitszeit die Ferien eingeschlossen sind, der Ferienzuschlag von Fr. 1.98 bei der Ermittlung des jährlichen Lohnes ausser Acht zu lassen. Andernfalls würden die Ferien zweimal berücksichtigt, was zu einem zu hohen Einkommen führen würde (RKUV 1989 Nr. U 81 S. 386 Erw. 2c; Urteil T.
vom 25. Februar 1998, I 520/97; nicht veröffentlichtes Urteil G. vom 10. November 1999, U 52/99). Der Beschwerdeführer hätte demnach im Jahr 1997 einen Lohn von Fr. 55'694.- (2138 x [Fr. 23.90 + Fr. 2.15]) und im Jahr 1998 unter Berücksichtigung der nominellen Lohnveränderung im Baugewerbe von 0,4 % einen solchen von Fr. 55'917.- verdienen können. Stellt man mit der Vorinstanz zu Gunsten des Beschwerdeführers auf die Angabe der Arbeitgeberin vom 27. November 1996 ab, so ergibt sich bei einem Lohn von Fr. 57'780.- im Jahre 1996 für das hier massgebende Jahr 1998 ein Einkommen von Fr. 58'127.-.
b) Da der Beschwerdeführer nach Eintritt des Gesundheitsschadens keine ihm an sich zumutbare neue Erwerbstätigkeit aufgenommen hat, können nach der Rechtsprechung für die Bestimmung des trotz Gesundheitsschädigung noch realisierbaren Einkommens (Invalideneinkommen) Tabellenlöhne beigezogen werden (BGE 124 V 322 Erw. 3b/aa). Auch im vorliegenden Fall ist es mit dem kantonalen Gericht als sachgerecht anzusehen, den auf Grund der ärztlich bescheinigten Restarbeitsfähigkeit mutmasslich noch erzielbaren Verdienst unter Zuhilfenahme der vom Bundesamt für Statistik herausgegebenen Lohnstrukturerhebung (LSE) zu ermitteln.
Nach der LSE belief sich gemäss Tabelle A1 der Zentralwert für die mit einfachen und repetitiven Aufgaben (Anforderungsniveau 4) beschäftigten Männer im privaten Sektor (bei einer wöchentlichen Arbeitszeit von 40 Stunden) im Jahre 1998 auf monatlich Fr. 4268.-. Auf der Basis von 41,9 Wochenstunden (Die Volkswirtschaft 2001, Heft 11 S. 100, Tabelle B9.2) ergibt sich im Jahre 1998 ein Gehalt von monatlich Fr. 4470. 70 oder Fr. 53'648. 75 für das ganze Jahr (4470.- x 12). Da der Versicherte nur zu 50 % arbeitsfähig ist, ist dieser Betrag zu halbieren, was Fr. 26'824. 35 ausmacht.
Gewährt man mit dem kantonalen Gericht dem Beschwerdeführer den höchstzulässigen Abzug von 25 % (BGE 126 V 79 Erw. 5b/aa-cc; bestätigt mit Urteil D. vom 27. November 2001, I 82/01), so resultiert ein Invalideneinkommen von Fr. 20'118.-. Selbst wenn zu Gunsten des Beschwerdeführers von einem Validenlohn von Fr. 60'167.- ausgegangen wird, so beträgt der Invaliditätsgrad - wenn auch knapp (dazu BGE 127 V 129) - weniger als zwei Drittel (Fr. 60'187.- :
Fr. 20'118.-). Damit hat der Beschwerdeführer keinen Anspruch auf eine ganze Invalidenrente. Daran ändern sämtliche übrigen Einwendungen in der Verwaltungsgerichtsbeschwerde nichts. Insbesondere übersieht der Beschwerdeführer, dass im höchstzulässigen Abzug von 25 % dem Umstand der Teilarbeitsfähigkeit bereits Rechnung getragen ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 1. Februar 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Die Präsidentin der IV. Kammer:
Der Gerichtsschreiber: