A.- Der 1955 geborene P._ arbeitete seit März 1990 als Hilfsgärtner bei der Gärtnerei X._. Am 19. April 1995 rutschte er bei der Arbeit mit der Bodenfräse aus und zog sich dabei gemäss Diagnose des erstbehandelnden Arztes Dr. med. W._ eine Entenschnabelfraktur mit Ausriss der Achillessehne und Fraktur des Tuber calcanei des linken Calcaneus zu. In der Folge wurden mehrere Operationen durchgeführt. Seither hat P._ keine Erwerbstätigkeit mehr aufgenommen.
Am 8. Mai 1996 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in medizinischer und beruflicher Hinsicht, insbesondere einer BEFAS-Abklärung vom 12. Mai bis 5. Juni 1998 in Y._, wies die IV-Stelle nach Durchführung des Vorbescheidverfahrens das Leistungsbegehren mit Verfügung vom 7. September 1999 ab.
B.- Das Verwaltungsgericht des Kantons Luzern wies die hiegegen erhobene Beschwerde sowie das Gesuch um unentgeltliche Verbeiständung mit Entscheid vom 11. Juli 2000 ab.
C.- Mit Verwaltungsgerichtsbeschwerde lässt P._ beantragen, in Aufhebung des angefochtenen Entscheides sei ihm eine ganze, eventualiter eine halbe Invalidenrente zuzusprechen; subeventualiter sei die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen. Ferner ersucht er um die Bewilligung der unentgeltlichen Verbeiständung, auch für das vorinstanzliche Verfahren.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während sich das Bundesamt für Sozialversicherung nicht hat vernehmen lassen.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die massgeblichen Bestimmungen und Grundsätze über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) sowie die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG, BGE 104 V 136 Erw. 2a und b) zutreffend dargelegt. Richtig sind auch die Ausführungen zur Aufgabe des Arztes und des Berufsberaters bei der Erarbeitung von Grundlagen für die Bemessung der Invalidität (BGE 107 V 20 Erw. 2b). Darauf kann verwiesen werden.
Zu ergänzen ist, dass in Fällen, in welchen für die Bestimmung des trotz Gesundheitsschädigung zumutbarerweise noch realisierbaren Einkommens (Invalideneinkommen) von Tabellenlöhnen ausgegangen wird, es sich nicht rechtfertigt, für jedes Merkmal, das ein unter den Durchschnittswerten liegendes Einkommen erwarten lässt, separat quantifizierte Abzüge vom in den Lohn- und Strukturerhebungen (LSE) des Bundesamtes für Statistik ausgewiesenen Durchschnittsverdienst vorzunehmen und diese zusammenzuzählen, da damit Wechselwirkungen ausgeblendet werden. Vielmehr ist ganz allgemein der Einfluss aller Merkmale auf das Invalideneinkommen (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) unter Würdigung der Umstände im Einzelfall nach pflichtgemässem Ermessen gesamthaft zu schätzen. Der Abzug vom statistischen Lohn ist unter Berücksichtigung aller jeweils in Betracht fallenden Merkmale auf insgesamt höchstens 25 % zu begrenzen (BGE 126 V 80 Erw. 5b/bb und cc mit Hinweisen).
2.- Streitig und zu prüfen ist der Anspruch auf eine Invalidenrente. Die Vorinstanz stellte fest, in medizinischer Hinsicht sei unbestritten, dass der Versicherte eine sitzende Arbeit mit gelegentlichem Aufstehen und Umhergehen ausüben könnte. Anhand eines Einkommensvergleichs ermittelte sie sodann (basierend auf einem Valideneinkommen von Fr. 44'911. 10 und einem Invalideneinkommen von Fr. 30'916. 80) einen Invaliditätsgrad von 31.16 %. Der Beschwerdeführer wendet hiegegen zur Hauptsache ein, das Invalideneinkommen sei nicht korrekt festgesetzt worden.
a) Der letzte vom Versicherten vor Eintritt der Gesundheitsschädigung 1994 erzielte Lohn beläuft sich auf Fr. 40'213. 75 für elf Monate. Nach Aufrechnung auf zwölf Monate auf Grund des einmonatigen unbezahlten Urlaubes (Fr. 43'896. 60) ist entgegen dem Vorgehen der Vorinstanz auch die Lohnentwicklung bis zum Verfügungszeitpunkt im Jahre 1999 im Bereich Gartenbau, Forstwirtschaft (1995:
1,7 %, 1996: 0,8 % , 1997: 1,9 %, 1998: 0,2 %, 1999:
-0,1 %; Die Volkswirtschaft, 2001 Heft 4, S. 85, Tabelle B10. 2) zu berücksichtigen; dabei resultiert ein Valideneinkommen von Fr. 45'900.-.
Bei der Festsetzung des Invalideneinkommens hat die Vorinstanz an sich korrekt auf die Tabellenlöhne der vom Bundesamt für Statistik herausgegebenen Schweizerischen Lohnstrukturerhebung (LSE 1996) abgestellt, da der Beschwerdeführer seit 1995 keiner Erwerbstätigkeit mehr nachgegangen ist. Auch hier wäre indessen die Nominallohnentwicklung bis zum Verfügungszeitpunkt zu berücksichtigen und überdies der Tabellenlohn auf die üblichen 41,9 Wochenstunden umzurechnen gewesen. Ausgehend vom monatlichen Bruttolohn (Zentralwert) für einfache und repetitive Tätigkeiten männlicher Arbeitnehmer (Anforderungsniveau 4; privater Sektor) von Fr. 4'268.- (neueste Erhebung LSE 1998 S. 25 Tabelle A1) ergibt sich deshalb für das Jahr 1999 unter Berücksichtigung einer betriebsüblichen Arbeitszeit von 41,9 Stunden (BGE 126 V 77 Erw. 3b/bb) und der massgeblichen Nominallohnentwicklung bis zum Verfügungszeitpunkt (allgemein: 0.3 %; Die Volkswirtschaft, a.a.O.) ein durchschnittliches Monatseinkommen von Fr. 4'484.- (wobei anzufügen bleibt, dass die Berücksichtigung des Tabellenwertes des Produktionssektors anstelle des Durchschnitts von Produktions- und Dienstleistungssektor sogar ein höheres Einkommen ergeben würde). Bei einer Leistung von 80 % sowie unter Berücksichtigung eines gesamthaften Abzuges von 25 % (BGE 126 V 78 ff. Erw. 5) resultiert ein Invalideneinkommen von Fr. 2'690.- monatlich bzw. Fr. 32'284.- jährlich. Damit ergibt sich ein Invaliditätsgrad von knapp 30 %, sodass der vorinstanzliche Entscheid, wonach kein Rentenanspruch besteht, im Ergebnis nicht zu beanstanden ist.
b) Daran vermögen die - grösstenteils bereits im vorinstanzlichen Verfahren vorgebrachten - Einwände des Beschwerdeführers nichts zu ändern.
Insbesondere besteht keine Veranlassung, den bei der Festsetzung des Invalideneinkommens berücksichtigten Abzug von 25 % zu beanstanden, nachdem es sich dabei um den gemäss Rechtsprechung höchstmöglichen Abzug handelt (vgl. Erw. 1 hievor sowie Urteil D. vom 27. November 2001, I 82/01, mit welchem das Eidgenössische Versicherungsgericht mit einlässlicher Begründung entschieden hat, dass an der mit BGE 126 V 75 eingeführten Praxis, den Abzug vom statistischen Lohn auf höchstens 25 % zu beschränken, festzuhalten ist). Die Forderung nach einer Ausweitung auf mindestens 35 % entbehrt jeglicher Grundlage, abgesehen davon, dass der Abzug von 25 % vorliegend bereits als grosszügig erscheint. Zudem ist die Begründung, der Beschwerdeführer habe auf dem Schweizer Arbeitsmarkt auch für leichte Hilfsarbeitertätigkeiten keine Chance, schon deshalb unbehelflich, weil gemäss konstanter Praxis des Eidgenössischen Versicherungsgerichts, von welcher abzuweichen kein Anlass besteht, allein massgebend ist, inwiefern sich das dem Versicherten verbliebene Leistungsvermögen auf dem für ihn in Frage kommenden ausgeglichenen - und nicht dem aktuellen - Arbeitsmarkt wirtschaftlich verwerten lässt (BGE 110 V 276 Erw. 4b; ZAK 1991 S. 321 Erw. 3b). Daraus folgt, dass für die Invaliditätsbemessung nicht darauf abzustellen ist, ob eine invalide Person unter den konkreten Arbeitsmarktverhältnissen vermittelt werden kann, sondern einzig darauf, ob sie die ihr verbliebene Arbeitskraft noch wirtschaftlich nutzen könnte, wenn die verfügbaren Arbeitsplätze dem Angebot an Arbeitskräften entsprechen würden (AHI 1998 S. 287).
Die Verwaltung ist entgegen der Auffassung des Beschwerdeführers deshalb gerade nicht gehalten, ein effektives Marktangebot und konkrete Stellen für den Beschwerdeführer nachzuweisen. Entsprechend kann die Festsetzung des hypothetischen Invalideneinkommens durch die IV-Stelle auch nicht als willkürlich bezeichnet werden.
Schliesslich geht der Beschwerdeführer mit seinem Einwand, ein hypothetisches Invalideneinkommen dürfe niemals höher als das effektive Valideneinkommen angesetzt werden, fälschlicherweise von der Annahme aus, ein Versicherter erziele ohne Invalidität immer das ihm höchstmögliche Einkommen.
Dies trifft indes nicht zu. Es ist durchaus möglich, dass ein Versicherter vor Eintritt des Gesundheitsschadens einer weniger gut entlöhnten Tätigkeit nachging und damit weniger verdiente, als ihm eigentlich möglich und zumutbar gewesen wäre. Für die Festsetzung des Invalideneinkommens ist dieser Umstand nur dann beachtlich, wenn nicht aus freien Stücken eine weniger gut entlöhnte Tätigkeit ausgeübt wird, sondern wenn besondere invaliditätsfremde Gründe vorliegen, welche der Einkommenserzielung entgegenstehen oder diese vermindern, wie beispielsweise der ausländerrechtliche Status eines Versicherten als Asylbewerber (Urteil A. vom 7. März 2001, U 132/00), und dadurch bereits ohne Invalidität nur ein unterdurchschnittliches Einkommen erzielt wird (ZAK 1989 S. 456 Erw. 3b, RKUV 1993 Nr. U 168 S. 97 Erw. 5a und b). Dies war vorliegend gerade nicht der Fall, erzielte doch der Versicherte - wie die Vorinstanz richtig aufgezeigt hat - vor Eintritt des Gesundheitsschadens gar kein unterdurchschnittliches Einkommen.
3.- Zu prüfen bleibt, ob die Vorinstanz das Gesuch um unentgeltliche Verbeiständung zu Recht wegen Aussichtslosigkeit der Beschwerde abgewiesen hat.
a) Weil es bei diesem Streitpunkt nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen geht, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob das kantonale Gericht Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG; BGE 100 V 62 Erw. 2).
b) Nach dem gemäss Art. 69 IVG auch in invalidenversicherungsrechtlichen Streitigkeiten anwendbaren Art. 85 Abs. 2 lit. f AHVG ist dem Beschwerdeführer die unentgeltliche Verbeiständung zu bewilligen, wo es die Verhältnisse rechtfertigen (Satz 2). Ob und unter welchen Voraussetzungen in einem kantonalen Beschwerdeverfahren im Invalidenversicherungsbereich ein solcher Anspruch besteht, beurteilt sich nach Bundesrecht (BGE 110 V 362 Erw. 1b). Nach Gesetz und Praxis sind in der Regel die Voraussetzungen für die Bewilligung der unentgeltlichen Verbeiständung erfüllt, wenn der Prozess nicht aussichtslos, die Partei bedürftig und die Verbeiständung durch einen Anwalt notwendig oder doch geboten ist (BGE 103 V 47, 100 V 62, 98 V 117).
Wie die Vorinstanz zutreffend dargelegt hat, hätte der Rechtsvertreter auf Grund der neueren Rechtsprechung des Eidgenössischen Versicherungsgerichts zum Schluss kommen müssen, dass angesichts des von der IV-Stelle festgesetzten Invaliditätsgrades von rund 29 % sowie der Tatsache, dass dabei bereits Abzüge beim Invalideneinkommen berücksichtigt worden waren, höchst unwahrscheinlich ein Rentenanspruch bestehen konnte und der Prozess damit als aussichtslos im Sinne der Rechtsprechung zu betrachten war, was die Bewilligung der unentgeltlichen Verbeiständung ausschliesst.
4.- Das Verfahren ist auf Grund von Art. 134 OG kostenlos, soweit es um die Bewilligung oder Verweigerung von Versicherungsleistungen geht. Soweit die unentgeltliche Prozessführung streitig ist, sind praxisgemäss (RKUV 2000 Nr. KV 119 S. 157 Erw. 4) ebenfalls keine Gerichtskosten zu erheben. Das Gesuch um Bewilligung der unentgeltlichen Prozessführung erweist sich damit als gegenstandslos.
Da die Verwaltungsgerichtsbeschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach Art. 36a OG erledigt. Dem Begehren um unentgeltliche Verbeiständung kann zufolge Aussichtslosigkeit des Prozesses nicht stattgegeben werden (Art. 152 Abs. 1 OG; BGE 125 II 275 Erw. 4b, 124 I 306 Erw. 2c mit Hinweis).
Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Das Gesuch um unentgeltliche Verbeiständung wird abgewiesen.
IV. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Kantons Luzern
und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 14. Januar 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: