A.- Der 1962 geborene, zuletzt als Bauarbeiter tätig gewesene S._ litt seit dem 5. Januar 1993 an einem benignen Riesenzell-Tumor der Sehnenscheide am Mittelglied des linken Zeigefingers. Am 5. November 1993 wurde eine Inzisionsbiopsie durchgeführt, auf die am 24. Januar 1994 eine Tumorexzision folgte.
Nachdem die IV-Stelle des Kantons Zürich sowohl einen Anspruch auf berufliche Massnahmen wie auf eine Rente mit unangefochten in Rechtskraft erwachsener Verfügung vom 25. Februar 1994 mangels Invalidität verneint hatte, lehnte sie ein im August 1995 gestelltes, die nämlichen Leistungen betreffendes Begehren am 3. Februar 1997 erneut verfügungsweise ab.
B.- Die gegen die Verfügung vom 3. Februar 1997 erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. Januar 2000 ab.
C.- S._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des vorinstanzlichen Entscheides sei ihm mindestens eine halbe Invalidenrente zuzusprechen. Zudem ersucht er um Gewährung der unentgeltlichen Verbeiständung.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde.
Das Bundesamt für Sozialversicherung hat sich nicht vernehmen lassen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat den Invaliditätsbegriff (<ref-law>), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) sowie die Invaliditätsbemessung bei Erwerbstätigen nach der Einkommensvergleichsmethode (<ref-law>; <ref-ruling> Erw. 2a und b) zutreffend dargelegt. Richtig ist auch der Hinweis auf die den Anspruch auf Umschulung betreffende gesetzliche Regelung (<ref-law>) und Rechtsprechung. Darauf kann verwiesen werden.
Beizupflichten ist des Weiteren den vorinstanzlichen Ausführungen hinsichtlich der Behandlung einer Neuanmeldung nach vorangegangener Ablehnung eines Leistungsbegehrens (Art. 87 Abs. 3 und 4 IVV; <ref-ruling> Erw. 3a und 200 Erw. 4b mit Hinweisen).
2.- Auf Grund der am 24. August 1995 erfolgten Neuanmeldung unterzog die IV-Stelle die Anspruchsberechtigung erneut einer materiellen Überprüfung und gelangte dabei zum Schluss, dass berufliche Massnahmen derzeit nicht angezeigt seien und auch kein Anspruch auf eine Invalidenrente bestehe.
Zwar anerkannte sie eine gesundheitliche Einschränkung im angestammten Beruf als Bauarbeiter, hielt aber eine leidensangepasste Tätigkeit, beispielsweise als Lagerarbeiter, Magaziner, in leichten Kontroll- und Montagearbeiten oder als interner Kurier- oder Postdienstangestellter, im Umfang von 100 % für möglich und dementsprechend eine Invalidität für nicht ausgewiesen. Damit lehnte sie das Leistungsgesuch des Beschwerdeführers ab, ohne sich zur grundsätzlichen Frage zu äussern, ob die - zunächst offenbar als glaubhaft dargestellt eingestufte - Änderung in den tatsächlichen Verhältnissen seit der im Zeitpunkt der Neuanmeldung eineinhalb Jahre zurückliegenden erstmaligen Leistungsverweigerung vom 25. Februar 1994 überhaupt als ausgewiesen gelten kann.
Das kantonale Gericht schloss sich bei Feststellung eines Invaliditätsgrades von 19 % im Ergebnis der Betrachtungsweise der Verwaltung an und liess die Frage bezüglich der Änderung in den tatsächlichen Verhältnissen offen.
3.- Es stellt sich somit zunächst einzig die Frage, ob bis zum Erlass der zweiten ablehnenden Verfügung vom 3. Februar 1997 eine wesentliche Veränderung des Sachverhalts eingetreten ist.
a) Das erste Leistungsgesuch lehnte die IV-Stelle gestützt auf den Bericht der handchirurgischen Abteilung des Spitals X._ vom 8. Dezember 1993 ab. Demgemäss bestand in der bisher ausgeübten Tätigkeit als Bauarbeiter eine volle Arbeitsunfähigkeit vom 5. Januar bis
19. November 1993 anschliessend (seit dem 22. November 1993) eine solche von 0 %. Als Diagnose nannten die Ärzte einen grotesken, knotigen Tumor am Mittelglied des linken Zeigefingers, welcher im Januar 1994 operiert werden sollte.
b) Im Rahmen des zweiten Leistungsgesuches zog die IV-Stelle die Berichte des Dr. med. K._, Innere Medizin FMH, vom 30. Oktober 1995 und der handchirurgischen Abteilung des Spitals X._ vom 7. Februar 1996 bei.
Beide Schreiben stimmen darüber ein, dass der Beschwerdeführer seit dem zweiten operativen Eingriff seine bisherige Tätigkeit als Bauarbeiter nicht mehr ausüben kann. Dr. med. K._ hält wegen der Gebrauchsunfähigkeit der linken dominanten Hand eine Umschulung für erforderlich. Eine der Behinderung angepassten Tätigkeit sei jedoch sofort zumutbar. Die Ärzte des Spitals X._ erachten den Patienten für eine mittelschwere manuelle Tätigkeit zu 100 % arbeitsfähig.
c) Zwar kann der Beschwerdeführer seinen bisherigen Beruf als Bauarbeiter nicht mehr ausüben, er ist jedoch in leidensangepassten Tätigkeiten, wenn nicht gar für mittelschwere manuelle Arbeiten, voll arbeitsfähig. Entgegen den Vorbringen in der Verwaltungsgerichtsbeschwerde gibt es keinen Hinweis dafür, dass eine psychiatrische Abklärung erforderlich wäre. Die Aussage im Bericht des Spitals X._, wonach noch unter stationären Bedingungen abgeklärt werden müsste, inwieweit die neurotische Fehlentwicklung zu einer Arbeitsunfähigkeit geführt haben könnte, ist - wie von der Vorinstanz zutreffend dargelegt - allein im Zusammenhang mit der vollständigen Schonung und dem Nichteinsetzen des linken Zeigefingers zu verstehen. Tatsächlich macht selbst Dr. med. K._ keine psychische Erkrankung geltend. Es besteht somit weder aus psychischen noch aus somatischen Gründen eine relevante Verschlechterung der Arbeitsfähigkeit in der Zeitspanne zwischen den beiden Verfügungen. Daran ändern auch die vom Beschwerdeführer im vorinstanzlichen Verfahren beigebrachten ärztlichen Atteste vom 29. Oktober 1996 und vom 22. Juli 1997 nichts, da Dr. med. K._ die attestierte Arbeitsunfähigkeit von 50 bis 100 % mit keinem Wort begründet.
Auch ist nicht ersichtlich, weshalb und inwiefern sich die erwerblichen Auswirkungen des im Wesentlichen unverändert gebliebenen Gesundheitszustandes unter diesen Umständen nachteilig entwickelt haben könnten.
4.- Mangels einer wesentlichen Veränderung des Sachverhalts ist, entgegen den Vorbringen in der Verwaltungsgerichtsbeschwerde, nicht zu prüfen, welche Tätigkeiten der Beschwerdeführer konkret auszuüben vermöchte und welches Einkommen er damit noch erzielen könnte.
5.- Da es im vorliegenden Verfahren um Versicherungsleistungen geht, sind gemäss Art. 134 OG keine Gerichtskosten zu erheben. Das Gesuch um unentgeltliche Verbeiständung ist abzuweisen (Art. 152 in Verbindung mit Art. 135 OG), da die Beschwerde als aussichtslos zu bezeichnen ist (<ref-ruling> Erw. 6 mit Hinweisen; AHI 1999 S. 85 Erw. 3).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Das Gesuch um unentgeltliche Verbeiständung wird abgewiesen.
IV.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 6. Juni 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Die Gerichtsschreiberin: