A.- R._, geboren 1961, war seit 1985 bei der Firma Z._ AG als Kranführer tätig. Im Januar 1995 stürzte er beim Skifahren, was zu einer Exazerbation vorbestandener Kniebeschwerden führte. Nach zunächst konservativer Behandlung wurde am 8. Mai 1996 in der Chirurgischen Klinik des Spitals X._ eine vordere Kreuzbandplastik rechts durchgeführt. R._ klagte in der Folge weiterhin über Schmerzen und war in wechselndem Masse arbeitsunfähig.
Am 5. Mai 1997 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich traf nähere Abklärungen, zog die Akten der Schweizerischen Unfallversicherungsanstalt (SUVA) bei und beauftragte die Rheumaklinik des Spitals Y._ mit einer gutachtlichen Untersuchung des Versicherten. In dem am 11. Dezember 1997 erstatteten Bericht gelangten die Gutachter zum Schluss, der Versicherte sei als Kranführer zu 25 % arbeitsunfähig und für jede leichte wechselbelastende Tätigkeit ohne repetitives Lastenheben über 20 kg sowie kniebelastende Arbeiten voll arbeitsfähig. Nach Durchführung des Vorbescheidverfahrens wies die IV-Stelle das Rentenbegehren mangels einer rentenbegründenden Invalidität am 29. Juni 1998 verfügungsweise ab.
B.- Die hiegegen erhobene Beschwerde, mit welcher R._ die Zusprechung einer halben Invalidenrente ab
20. Dezember 1996 beantragen liess, wurde vom Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 14. April 2000 abgewiesen.
C.- R._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, in Aufhebung des angefochtenen Entscheids sei die Verwaltung zu verpflichten, ihm eine Invalidenrente auszurichten; ferner sei ihm die unentgeltliche Verbeiständung zu gewähren.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, hat sich das Bundesamt für Sozialversicherung nicht vernehmen lassen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- In der Verwaltungsverfügung vom 29. Juni 1998, auf welche die Vorinstanz verweist, werden die massgebenden Bestimmungen und Grundsätze über den Umfang des Anspruchs auf Invalidenrente (Art. 28 Abs. 1 und 1bis IVG), dessen Entstehung (<ref-law>) sowie die Ermittlung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>; vgl. auch <ref-ruling> Erw. 2a und b) zutreffend dargelegt. Darauf kann verwiesen werden.
2.- Laut Gutachten der Rheumaklinik des Spitals Y._ vom 11. Dezember 1997 leidet der Beschwerdeführer an einem femoropatellären Schmerzsyndrom rechts bei Status nach vorderer Kreuzbandplastik. Auf Grund der belastungsabhängigen, auch im Sitzen und bei längerem Gehen und Treppensteigen vermehrt auftretenden infrapatellären Schmerzen ist er im bisherigen Beruf als Kranführer zu 25 % arbeitsunfähig; für jede leichte bis mittelschwere, wechselbelastende Tätigkeit ohne repetitives Lastenheben über 20 kg und unter Ausschluss kniend zu verrichtender Tätigkeiten ist er zu 100 % arbeitsfähig. Während die Arbeitsunfähigkeit als Kranführer vom Spital X._ und vom behandelnden Arzt Dr. med. U._, Innere Medizin FMH, höher eingestuft wurde, stimmen die vorhandenen Berichte darin überein, dass dem Beschwerdeführer die Verrichtung einer geeigneten leichteren Tätigkeit vollzeitlich zumutbar ist. Einzig im Bericht des Dr. med. B._, Oberarzt an der Chirurgischen Klinik des Spitals X._, vom 11.
August 1997 wird eine Arbeitsfähigkeit von lediglich 50 % auch für eine körperlich leichtere Tätigkeit angegeben. Die Beurteilung stützt sich indessen vorab auf die subjektiven Angaben des Beschwerdeführers und ist nicht geeignet, die auf eingehenden Untersuchungen beruhenden und überzeugend begründeten Schlussfolgerungen im Gutachten der Rheumaklinik sowie die Feststellungen der anderen Ärzte in Frage zu stellen. Der Beschwerdeführer bestreitet denn auch nicht, im Rahmen einer geeigneten leichteren Tätigkeit unter den genannten Einschränkungen voll arbeitsfähig zu sein.
3.- a) Verwaltung und Vorinstanz haben das für die Invaliditätsbemessung nach der Methode des Einkommensvergleichs massgebende Einkommen, welches der Beschwerdeführer ohne gesundheitliche Beeinträchtigungen im bisherigen Beruf als Kranführer mutmasslich zu erzielen vermöchte (Valideneinkommen), für das Jahr 1998 auf Fr. 73'000.- festgesetzt.
Dies entspricht den in den Akten enthaltenen Angaben der vormaligen Arbeitgeberin, der Firma Z._ AG, (vom 30.
Mai 1996 und 27. Mai 1997) und ist unbestritten. Zusätzlich wurde ein Einkommen von Fr. 10'000.- angerechnet, welches der Beschwerdeführer durch eine Aushilfstätigkeit als Lagerist in der Freizeit erzielt hat.
Demgegenüber verlangt der Beschwerdeführer auf Grund des in den ersten Monaten von 1996 erzielten Einkommens die Anrechnung eines Nebeneinkommens von Fr. 12'800.-. Diesem Begehren kann nicht entsprochen werden. Nach den Angaben des Konsum Vereins Zürich vom 18. Juli 1997 hat der Beschwerdeführer in den Jahren 1993 bis 1995 Einkommen von Fr. 6409. 40, Fr. 8209. 40 und Fr. 10'228.-, durchschnittlich somit Fr. 8282. 25 erzielt. In der Zeit von Januar bis Mai 1996 bezog er als Angestellter der Firma C._ einen Lohn von insgesamt Fr. 3140. 25, was umgerechnet auf ein Jahr ein Einkommen von Fr. 7536. 60, zuzüglich Gratifikation, ergibt. Wenn Verwaltung und Vorinstanz ein Nebeneinkommen von Fr. 10'000.- angerechnet haben, so wurde damit auch der möglichen Einkommensentwicklung bis zum Verfügungserlass (29. Juni 1998) in weitem Mass Rechnung getragen.
Das ermittelte Valideneinkommen von Fr. 83'000.- ist mithin nicht zu beanstanden.
b) Bei der Festsetzung des hypothetischen Einkommens, welches der Beschwerdeführer trotz des Gesundheitsschadens durch eine ihm zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage zu erzielen vermöchte (Invalideneinkommen), stützte sich die Verwaltung auf sog. DAP-Lohnangaben der SUVA (vgl. hiezu RKUV 1999 Nr. U 343 S. 412; SZS 42/1998 S. 487). Von den insgesamt sieben DAP-Profilen hat das kantonale Gericht "in enger Auslegung der medizinischen Einschränkungen" fünf Arbeitsplätze ausgeschieden und auf die DAP-Arbeitsplätze Nr. 2390 (Hilfsarbeiter in der Kunststoff-Produktion) und Nr. 1466 (Chauffeur in einem Gewerbebetrieb) abgestellt, woraus sich ein durchschnittliches Einkommen von Fr. 61'650.- ergab.
Der Beschwerdeführer bestreitet die Zumutbarkeit auch dieser Arbeitsplätze, wobei er hinsichtlich der Tätigkeit Nr. 2390 die Angaben zur Notwendigkeit des Tragens von Gewichten in Frage stellt und bezüglich des Arbeitsplatzes Nr. 1466 geltend macht, es handle sich um eine fast ausschliesslich sitzend zu verrichtende Tätigkeit, welche zudem mit Heben und Tragen verbunden sei. Wie es sich hinsichtlich dieser Vorbringen verhält, kann indes dahingestellt bleiben, weil die hier verfügbaren DAP-Angaben unter den gegebenen Umständen weder in qualitativer noch in quantitativer Hinsicht eine genügende Grundlage zur Festsetzung des hypothetischen Invalideneinkommens darstellen.
Praxisgemäss sind für die Invaliditätsbemessung daher die Tabellenlöhne nach der vom Bundesamt für Statistik herausgegebenen Lohnstrukturerhebung (LSE) heranzuziehen (<ref-ruling>).
c) Die Vorinstanz hat im Sinne einer Plausibilitätsprüfung das Invalideneinkommen auch auf Grund der Tabellenlöhne ermittelt. Ausgehend vom monatlichen Bruttolohn (Zentralwert) für einfache und repetitive Tätigkeiten männlicher Arbeitnehmer (Anforderungsniveau 4; privater und öffentlicher [Bund] Sektor zusammen) in den Bereichen "Transport von Personen, Waren und Nachrichten" von Fr. 4775.- sowie "Sichern und Bewachen" von Fr. 4865.- (LSE 1996 S. 25 Tabelle A7 Ziff. 31 und 32) ermittelte sie ein durchschnittliches Jahreseinkommen (Fr. 4820.- x 12) von Fr. 57'840.-, was umgerechnet auf die betriebsübliche Arbeitszeit von 41,9 Stunden (<ref-ruling> Erw. 3b/aa mit Hinweis auf LSE 1994 S. 42; Die Volkswirtschaft, 1999 Heft 12, Anhang S. 27, Tabelle B9.2) und unter Berücksichtigung der Nominallohnentwicklung von 0,5 % im Jahre 1997 (Die Volkswirtschaft, a.a.O., Anhang S. 28, Tabelle B10. 2) ein Invalideneinkommen von Fr. 60'890.- ergibt.
Der Beschwerdeführer wendet hiegegen ein, es sei nicht ersichtlich, weshalb gerade diese Bereiche mit hohen Durchschnittseinkommen herauszugreifen seien. Auf Grund der bestehenden medizinischen Einschränkungen könne ihm keine Tätigkeit in der Produktion mehr zugemutet werden. Für die Festsetzung des Invalideneinkommens sei deshalb vom Durchschnittslohn im Dienstleistungssektor auszugehen, wobei jedoch neben den medizinischen Einschränkungen auch die mangelnden Deutschkenntnisse zu berücksichtigen seien. Dieser Betrachtungsweise kann nicht beigepflichtet werden. Abgesehen davon, dass die vom kantonalen Gericht herangezogenen Tätigkeitsbereiche dem Sektor Dienstleistungen angehören, sind dem Versicherten nach ärztlicher Beurteilung sowohl Tätigkeiten im Dienstleistungs- wie auch im Produktionssektor zumutbar. Nachdem schon die Ärzte des Spitals X._ zum Schluss gelangt waren, dem Beschwerdeführer sei jede beliebige Tätigkeit ohne längeres Sitzen in gleicher Position zuzumuten (Bericht vom 17. Mai 1997), stellten die Gutachter des Spitals Y._ am 11. Dezember 1997 ausdrücklich fest, dem Versicherten seien alle Tätigkeiten möglich und zumutbar, welche die genannten Einschränkungen erfüllten, wozu namentlich Arbeiten in der industriellen Montage, wechselbelastende Bürotätigkeiten und Verkaufsarbeiten gehörten. Gegenüber der Berufsberaterin der IV-Stelle hatte der Versicherte im Februar 1998 sodann selber angegeben, er wolle als Polier oder Elektromonteur tätig sein. Seit November 1997 arbeitet er, wenn auch in reduziertem Umfang, als Allrounder, Magaziner und Kurierfahrer in einer Bauunternehmung. Wenn die Vorinstanz unter diesen Umständen auf die Tätigkeitsbereiche "Transport von Personen, Waren und Nachrichten" sowie "Sichern und Bewachen" abgestellt hat, so ist dieses Vorgehen im Rahmen der Angemessenheitskontrolle nicht zu beanstanden (Art. 132 lit. a OG; <ref-ruling> Erw. 5a mit Hinweisen).
Im Übrigen wäre ein Rentenanspruch auch dann nicht gegeben, wenn auf den Durchschnittslohn im Dienstleistungsbereich abgestellt würde, wie noch zu zeigen sein wird.
Dem Beschwerdeführer kann auch insoweit nicht gefolgt werden, als er einen behinderungsbedingten Abzug vom Invalideneinkommen von mindestens 15 % bis 25 % verlangt. Auf Grund der medizinischen Akten steht fest, dass er in einer geeigneten leichteren Tätigkeit voll arbeitsfähig ist und damit keine Lohneinbusse hinzunehmen hat, wie sie bei Teilzeitarbeit üblich ist. Auch steht ihm ein weites Feld von Arbeitsmöglichkeiten offen, bei welchen sich die gesundheitlichen Beeinträchtigungen leistungsmässig nicht auswirken.
Es besteht daher kein Anlass zu einem behinderungsbedingten Abzug, wie er praxisgemäss vorzunehmen ist, wenn sich die Behinderung auch im Rahmen einer geeigneten leichteren Tätigkeit lohnmässig auswirkt (zur Publikation vorgesehenes Urteil A. vom 9. Mai 2000, I 482/99). Zu einem Abzug vermögen auch die mangelhaften Deutschkenntnisse nicht zu führen, weil sie sich im zumutbaren Tätigkeitsbereich nicht zusätzlich auswirken und es sich um einen invaliditätsfremden Faktor handelt, welcher entweder nicht oder aber bei beiden Vergleichseinkommen zu berücksichtigen ist (vgl. RKUV 1993 Nr. U 168 S. 104 und ZAK 1989 S. 458 Erw.
3b).
Nach dem Gesagten muss es bei dem von der Vorinstanz ermittelten Invalideneinkommen von Fr. 60'890.- bleiben, was im Vergleich zum hypothetischen Valideneinkommen von Fr. 83'000.- einen Invaliditätsgrad von lediglich 26,6 % ergibt. Selbst wenn bei der Festsetzung des Invalideneinkommens auf den Gesamtdurchschnitt für alle Tätigkeiten von Fr. 4397.- oder auf den vom Beschwerdeführer ins Feld geführten Durchschnittslohn im Dienstleistungsbereich von Fr. 4333.- (LSE 1996 S. 25 Tabelle A7) abgestellt würde, vermöchte dies einen Rentenanspruch nicht zu begründen, ergibt sich hieraus doch ein Jahreseinkommen von Fr. 52'764.- bzw. Fr. 51'996.-, was bei einem Valideneinkommen von Fr. 83'000.- einem Invaliditätsgrad von lediglich 36,4 % bzw. 37,3 % entspricht. Dabei bleibt offen, ob dem Versicherten nicht trotz des Gesundheitsschadens eine Weiterausübung der bisherigen Nebenerwerbstätigkeit zumutbar wäre, was zu einem entsprechend tieferen Invaliditätsgrad führen würde.
4.- Auf Grund der im vorinstanzlichen Verfahren eingereichten Belege kann dem Gesuch um Gewährung der unentgeltlichen Verbeiständung entsprochen werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit ausgewiesen ist, die Vertretung geboten war und die Verwaltungsgerichtsbeschwerde nicht als aussichtslos bezeichnet werden kann. Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Dr. Ueli Kieser für das Verfahren vor dem Eidgenössischen Versicherungsgericht aus der
Gerichtskasse eine Entschädigung von Fr. 2500.-
(einschliesslich Mehrwertsteuer) ausgerichtet.
IV.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 22. September 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Vorsitzende der II. Kammer:
Die Gerichtsschreiberin: