A.- Der 1957 geborene A._ war seit 1993 als Bohrarbeiter bei der Firma X._ AG tätig und bei der Schweizerischen Unfallversicherungsanstalt (SUVA) obligatorisch gegen die Folgen von Berufs- und Nichtberufsunfällen versichert. Am 14. Juni 1996 spürte er beim Aufstellen eines Bohrhammers einen starken Schmerz im Rücken. Die Firma X._ AG erstattete eine Unfallmeldung, die SUVA richtete jedoch keinerlei Leistungen aus, da weder ein Unfall noch eine unfallähnliche Körperschädigung vorlag.
A._ nahm die Arbeit nicht wieder auf und geht seither keiner Erwerbstätigkeit mehr nach.
Am 9. Juni 1997 meldete sich A._ bei der Invalidenversicherung zum Leistungsbezug (Rente, später eventuell Hilfsmittel) an. Zur Abklärung des Leistungsanspruches zog die IV-Stelle Zürich Arztberichte der Dres. med.
F._, Allgemeine Medizin FMH, vom 14. Juni 1997 (mit verschiedenen Konsiliarberichten) und K._, Innere Medizin FMH, vom 17. August 1997 sowie die Akten der SUVA bei. Überdies veranlasste sie eine Untersuchung am Spital Y._, Rheumaklinik und Institut für Physikalische Medizin; am 7. November 1997 erstatteten Prof. Dr. med.
M._ und die Dres. med. B._ und L._ ihren Bericht. Schliesslich wurde A._ von Dr. med.
S._, Spezialarzt für Psychiatrie und Psychotherapie, am 20. März 1998 in psychologischer Hinsicht abgeklärt (Bericht vom 21. März 1998).
Gestützt auf diese Abklärungen lehnte die IV-Stelle, nach Durchführung des Vorbescheidverfahrens, das Leistungsbegehren mit Verfügung vom 24. Juni 1998 ab.
B.- Die dagegen erhobene Beschwerde, mit der die Ausrichtung einer ganzen Invalidenrente beantragt wurde, wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 26. Mai 2000 ab.
C.- A._ lässt Verwaltungsgerichtsbeschwerde erheben und beantragen, der vorinstanzliche Entscheid sei aufzuheben und das Verfahren "zwecks korrekter materieller Abklärung und Prüfung" an die Verwaltung zurückzuweisen.
Zugleich wird beantragt, es sei eine ganze Invalidenrente zuzusprechen. Ausserdem wird um die Gewährung der unentgeltlichen Verbeiständung ersucht.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung sich nicht vernehmen lässt.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die für die Beurteilung des Rentenanspruchs massgebenden Gesetzesbestimmungen über den Begriff der Invalidität (<ref-law>), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) sowie die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der allgemeinen Methode des Einkommensvergleichs (<ref-law>) richtig wiedergegeben.
Darauf kann verwiesen werden. Gleiches gilt für die Rechtsprechung zur Aufgabe von Ärztinnen und Ärzten im Rahmen des Verfahrens zur Bemessung des Invaliditätsgrades (<ref-ruling> Erw. 2 mit Hinweisen, ZAK 1991 S. 319 Erw. 1c mit Hinweisen) und zur richterlichen Würdigung der Beweismittel, insbesondere auch bei einander widersprechenden medizinischen Berichten, (ZAK 1986 S. 188 Erw. 2a; siehe auch <ref-ruling> Erw. 3 mit Hinweisen). Zutreffend sind sodann die Ausführungen der Vorinstanz über die Praxis, zur Bestimmung des trotz Gesundheitsschadens zumutbarerweise noch realisierbaren Erwerbseinkommens (hypothetisches Invalideneinkommen) Tabellenlöhne gemäss der vom Bundesamt für Statistik herausgegebenen Lohnstrukturerhebung (LSE) heranzuziehen (<ref-ruling> Erw. 3 b/aa mit Hinweisen).
Auch darauf wird verwiesen. Zu ergänzen ist, dass gemäss der Rechtsprechung des Eidgenössischen Versicherungsgerichtes für den Beweiswert eines medizinischen Gutachtens entscheidend ist, dass es für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Expertin oder des Experten begründet sind (<ref-ruling> Erw. 3a mit Hinweis).
2.- Streitig und zu prüfen ist zunächst, ob auf Grund der vorhandenen ärztlichen Akten abschliessend beurteilt werden kann, in welchem Umfang der Beschwerdeführer in seiner Arbeitsfähigkeit eingeschränkt ist.
a) Dr. med. F._ attestierte dem Beschwerdeführer im Bericht vom 14. Juni 1997 eine Arbeitsunfähigkeit von 100 % seit dem Ereignis vom 14. Juni 1996 bis zur letzten Konsultation bei ihm am 19. November 1996. Zur Diagnose verwies er auf den Konsiliarbericht von Dr. med.
H._, Rheumatologische Abteilung des Spitals Z._, vom 18. September 1996, in welchem ein Lumbovertebralsyndrom nach Verhebetrauma mit protrahiertem Verlauf bei Lordose, degenerativer Protursion in der Mittellinie L4/5 und abdomineller muskulärer Insuffizienz infolge stammbetonter Adipositas per magna festgehalten wird. Dr.
F._ machte keine Angaben zur Arbeitsfähigkeit in behinderungsangepassten Tätigkeiten.
Dr. med. K._ stellte in seinem Bericht vom 17. August 1997 im Wesentlichen die gleichen Diagnosen und bescheinigt dem Versicherten eine Arbeitsunfähigkeit von 100 % vom 15. Juni 1996 bis 15. September 1996, von 75 % vom 16. September 1996 bis 30. September 1996, von 50 % vom 1. Oktober 1996 bis 30. November 1996 und wiederum von 100 % ab dem 1. Dezember 1996 bis auf weiteres. Auf Grund der Beschwerden, eingeschlossen ein Status nach Fraktur des Scaphoids rechts am 9. Juli 1991 mit Pseudoarthrosebildung, und des Ausbildungsstandes erachtete er auch keinerlei andere Tätigkeiten als für den Beschwerdeführer geeignet.
In einem im vorinstanzlichen Verfahren eingereichten Arztzeugnis vom 24. Juni 1998 und einem weiteren, im letztinstanzlichen Verfahren zu den Akten gereichten Arztzeugnis vom 22. Februar 2000 bestätigte Dr. med. K._ die 100%ige Arbeitsunfähigkeit.
Die Dres. med. M._, B._ und L._ gelangten in ihrem Gutachten vom 7. November 1997 zu folgenden Diagnosen: Chronisches lumbospondylogenes Syndrom zufolge Dekonditionierung mit Haltungsinsuffizienz, musculärer Dysbalance, leichter Wirbelsäulen-Fehlform mit lumbaler Hypolordose und leichter degenerativer Veränderung der Bandscheibe L4/5 mit leichtgradiger medianer Diskus-Protursion, Status nach Fraktur des Scaphoids rechts mit Pseudoarthrose-Bildung und Osteosynthese mit Spongiosa-Plastik und schliesslich Adipositas. Für leichte und mittelschwere körperliche Arbeit bestehe eine Arbeitsfähigkeit von 100 %, für körperlich schwere Arbeit hingegen aktuell eine solche von 50 %, wobei mit medizinischer Trainings-Therapie innert drei Monaten eine Steigerung auf 100 % zu erreichen sei.
Die leichte Radio-Carpal-Arthrose rechts schränke die Arbeitsfähigkeit nicht ein, könne aber unter Belastung zu Schmerzen führen.
Dr. med. S._ kam in seinem Bericht vom 21. März 1998 zum Schluss, dass beim Versicherten eine Schmerzverarbeitungsstörung ohne Krankheitswert vorliege. Der Patient weise keine schwere psychische Störung auf, die eine Arbeitsunfähigkeit motivieren könnte.
b) Die Vorinstanz hat richtig erwogen, dass den beiden Gutachten der Dres. med. M._, B._ und L._ einerseits und von Dr. med. S._ anderseits gemäss der obgenannten Rechtsprechung (Erw. 1) volle Beweiskraft zuzuerkennen ist. Die Expertisen beruhen auf umfassenden eigenen Untersuchungen in Kenntnis der Vorakten und unter Berücksichtigung der geklagten Beschwerden, die Darstellung der medizinischen Zusammenhänge leuchtet ein und die Schlussfolgerungen sind begründet. Die Arztzeugnisse, die eine 100%ige Arbeitsunfähigkeit bescheinigen, vermögen keine Zweifel an der Richtigkeit der beiden Gutachten aufkommen zu lassen. Dr. med. F._ liess in seinem Bericht vom 14. Juni 1997 deutlich erkennen, dass er zum aktuellen Stand der Arbeitsfähigkeit und zur Zumutbarkeit behinderungsangepasster Tätigkeiten keine gesicherte Aussage machen könne, da der Beschwerdeführer ihn am 19. November 1996 letztmals konsultierte. Die Arztzeugnisse von Dr.
med. K._ beschränken sich mehrheitlich auf die Bestätigung einer 100%igen Arbeitsunfähigkeit, ohne dies näher zu begründen. Der Bericht vom 17. August 1997 enthält zwar eine Diagnose und eine Auseinandersetzung mit der Anamnese, erscheint aber trotzdem nicht geeignet, die Richtigkeit der ihm widersprechenden Gutachten zu erschüttern.
Für die Beurteilung der geklagten Rückenschmerzen im Bereich der Lendenwirbelsäule ist den Spezialisten des Spitals Y._, Rheumaklinik und Institut für Physikalische Medizin, eine höhere Kompetenz zuzuschreiben als Dr.
med. K._ als Internisten. Die wiederholten Hinweise in der Verwaltungsgerichtsbeschwerde auf die Tatsache, dass Dr. med. K._ der einzige Internist ist, der den Versicherten beurteilt hat, führen deshalb, entgegen der Meinung des Beschwerdeführers, gerade nicht dazu, seiner Stellungnahme ein besonderes Gewicht zu geben. Darüber hinaus ist darauf hinzuweisen, dass das Gericht nach der Rechtsprechung in Bezug auf Berichte von Hausärzten der Erfahrungstatsache Rechnung tragen darf und soll, dass diese in Zweifelsfällen mitunter eher zu Gunsten ihrer Patienten aussagen (<ref-ruling> Erw. 3b/cc mit Hinweisen). Die Stellung von Dr. med. K._ als langjähriger behandelnder Arzt ist der eines Hausarztes durchaus vergleichbar, weshalb eine Würdigung seiner Berichte entsprechend der angeführten Rechtsprechung als zulässig erscheint.
In der Verwaltungsgerichtsbeschwerde wird geltend gemacht, die Verwaltung habe ihre Abklärungspflicht vernachlässigt.
Dieser Vorwurf ist unbegründet. Die IV-Stelle hat verschiedene Arztberichte und die Akten der SUVA beigezogen und darüber hinaus ein umfassendes Gutachten erstellen lassen.
Die medizinische Situation ist damit vollumfänglich geklärt. Ein Anlass zu weiteren Abklärungen bestand und besteht nicht. Insbesondere ist auf Grund der geklagten Beschwerden und der bisherigen Diagnosen nicht ersichtlich, warum der Versicherte internistisch abgeklärt werden müsste.
c) Zusammenfassend ist festzuhalten, dass Vorinstanz und Verwaltung zu Recht davon ausgegangen sind, der Sachverhalt sei genügend geklärt. Der Antrag auf Rückweisung "zwecks korrekter materieller Abklärung und Prüfung" ist daher abzuweisen.
3.- Streitig ist des Weitern der Anspruch des Beschwerdeführers auf eine Invalidenrente.
a) Zu Recht ist unbestritten geblieben, dass der Beschwerdeführer als Erwerbstätiger zu betrachten ist und dass zur Festlegung des Invaliditätsgrades die allgemeine Methode des Einkommensvergleiches anzuwenden ist, wobei als Valideneinkommen Fr. 58'000.- einzusetzen sind.
b) Bestritten wird hingegen das trotz Gesundheitsschaden zumutbarerweise noch realisierbare Einkommen. Die IV-Stelle verwies in ihrem Vorbescheid vom 28. April 1998 und in der Verfügung vom 24. Juni 1998 auf die Zumutbarkeit angepasster Erwerbstätigkeiten ohne regelmässiges Heben schwerer Lasten und machte geltend, beim Ergreifen einer solchen Tätigkeit entstehe keine Einkommenseinbusse gegenüber der früheren Tätigkeit. Sie ging also implizit von einem Invalideneinkommen von ebenfalls Fr. 58'000.- aus, was zu einem Invaliditätsgrad von 0 % und zur Ablehnung des Leistungsbegehrens führte.
Die Vorinstanz verwendete zur Berechnung des Invalidenlohns unter zutreffendem Verweis auf die Rechtsprechung (oben Erw. 1) die Tabellenlöhne gemäss LSE, wobei sie, entsprechend den Arztberichten, einen Beschäftigungsgrad von 100 % zu Grunde gelegt hat. Den Ausbildungsstand des Versicherten berücksichtigend ist sie von einer Beschäftigung des Anforderungsniveaus 4 (einfache und repetitive Tätigkeiten) ausgegangen. Die Berechnung ergab (unter Berücksichtigung der Nominallohnentwicklung und der durchschnittlichen betriebsüblichen Arbeitszeit) einen Invalidenlohn von Fr. 54'084.-, was zu einer Erwerbseinbusse von Fr. 3916.- und einem Invaliditätsgrad von 6,75 % führte.
In der Verwaltungsgerichtsbeschwerde wird geltend gemacht, die Vorinstanz habe zu Unrecht keinen leidensbedingten Abzug vom Tabellenlohn vorgenommen. Verlangt wird ein Abzug von 25 %, was - gemäss Beschwerdebegründung - der konstanten Praxis entsprechen soll. Das trifft nicht zu.
Das Eidgenössische Versicherungsgericht hat vielmehr festgehalten, dass ein solcher Abzug nicht schematisch, sondern in Berücksichtigung der gesamten Umstände des Einzelfalles vorzunehmen ist. Dabei ist der Einfluss aller Merkmale (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) auf das Invalideneinkommen im Einzelfall nach pflichtgemässem Ermessen zu schätzen. Letztlich ist der Abzug auf insgesamt höchstens 25 % zu begrenzen (<ref-ruling> Erw. 5b). Die Vorinstanz hat im vorliegenden Fall einen Abzug für nicht gerechtfertigt erachtet. Die Frage, ob dem vollumfänglich zu folgen sei, kann offen bleiben, denn selbst bei Vornahme des Maximalabzuges von 25 % ergibt sich - wie das kantonale Gericht richtig erwogen hat - eine Erwerbseinbusse von 30 % und damit keine rentenbegründende Invalidität.
c) Demgemäss haben Vorinstanz und Verwaltung zu Recht festgestellt, dass kein Anspruch auf eine Invalidenrente besteht.
4.- Das Verfahren ist kostenlos (Art. 134 OG). Die seitens des Versicherten beantragte unentgeltliche Verbei- ständung kann gewährt werden (Art. 152 in Verbindung mit Art. 135 OG), da der Prozess nicht aussichtslos erschien, die Bedürftigkeit aktenkundig ist und die Vertretung geboten war (<ref-ruling> Erw. 6; AHI 1999 S. 85 Erw. 3). Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Dr. Roland Ilg, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung von
Fr. 2500.- (einschliesslich Mehrwertsteuer) ausgerichtet.
IV. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 8. Oktober 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: