Promotion, hat sich ergeben:
A.- Die Voraussetzungen für Promotionen und Remotionen an den baselstädtischen Gymnasien werden für Schüler, welche die Maturität in regulärer Schulzeit bis zum Jahre 2001 erreichen können, in der kantonalen Verordnung vom 28. März 1972 über die Zeugnisse und die Promotionen und Remotionen für die Gymnasien Basel-Stadt geregelt (vgl. § 21 der [Nachfolge]-Verordnung vom 23. Januar 1996 über die Zeugnisse, die Promotionen und Remotionen sowie die Lernberichte an den Gymnasien Basel-Stadt).
Die §§ 7-10 der erwähnten Verordnung aus dem Jahre 1972 (im Folgenden auch: "Lernbeurteilungsverordnung") schreiben vor, unter welchen Voraussetzungen ein Schüler probeweise befördert bzw. nicht befördert oder zurückversetzt wird. § 13 der Lernbeurteilungsverordnung lautet wie folgt:
"Auch wenn die Voraussetzungen gemäss den §§ 7-10
erfüllt sind, kann die Zeugniskonferenz von der
Nichtbeförderung, Zurückversetzung, Beförderung auf
Probe oder Warnung absehen, sofern die Leistungen
eines Schülers durch unregelmässige Vorbildung,
längere Krankheit oder ungünstige häusliche Verhältnisse
so beeinträchtigt worden sind, dass ihm
in einzelnen Fächern keine oder keine genügenden
Noten erteilt werden können. In allen diesen Fällen
sind die entsprechenden Beschlüsse im Zeugnis zu
vermerken.. "
B.- C.M._, geboren am 3. Juni 1980, ist Schüler am Gymnasium Z._ in Basel und könnte die Maturität in regulärer Schulzeit bis zum Jahre 2001 erreichen. Am Ende des ersten Semesters der siebten Gymnasialklasse war - gemäss dem entsprechenden Zeugnis - seine "Beförderung fraglich".
Am Ende des zweiten Semesters wurde er wegen drei ungenügenden Noten "nicht befördert" (Zeugnis vom 23. Juni 2000).
C.M._ erhob hierauf Rekurs beim Erziehungsdepartement des Kantons Basel-Stadt. Er machte geltend, seine Familie sei unter enormen Druck geraten (Konkurs des Vaters). Es sei zu Spannungen in der Familie gekommen, die ihm den Aufenthalt zu Hause zur Hölle gemacht hätten. Erst seit kurzer Zeit sei es ihm wieder möglich, ohne Angst- und Ohnmachtsgefühle nach Hause zu gehen. Nun aber könne er das nächste Semester frei von vielen vorherigen Zwängen anpacken.
Deshalb wolle er - wie dies im Schuljahr 1997/98 auch seiner Schwester M.M._ zugestanden worden sei - u.a. aus Gründen der Rechtsgleichheit nach der Ausnahmebestimmung von § 13 der Lernbeurteilungsverordnung befördert werden. Als neues Beweismittel reichte C.M._ dem Departement einen Bericht vom 26. Juni 2000 von PD Dr. med.
B._ (Chefarzt an den externen psychiatrischen Diensten des Kantons Basel-Stadt) ein, der die Empfehlung enthält, dem Gymnasiasten "nochmals die Chance einer provisorischen Beförderung zu geben".
C.- In der Rekursvernehmlassung an das Erziehungsdepartement wies der Rektor des Gymnasiums Z._ darauf hin, bei einem Anwendungsfall von § 13 der Lernbeurteilungsverordnung würden als weitere Entscheidungsgrundlagen Überlegungen zur Laufbahnprognose und Erwägungen zur Gleichbehandlung innerhalb der Klasse angestellt. Im Falle der Geschwister M.M._ und C.M._ sei die Lehrerkonferenz vor dem Hintergrund unterschiedlicher Laufbahnprognosen zu unterschiedlichen Entscheidungen gekommen. Die Klassenlehrerin Y._ machte in der Vernehmlassung geltend, das Klassenteam habe lange über die Vor- und Nachteile einer Probeverlängerung diskutiert und sei zur Überzeugung gelangt, C.M._ könne trotz seinen guten Vorsätzen bei einer Beförderung den Klassenstand kaum erreichen.
Am 11. September 2000 wies das Erziehungsdepartement des Kantons Basel-Stadt den Rekurs ab.
D.- Mit Eingabe vom 24. September 2000 führt C.M._ staatsrechtliche Beschwerde beim Bundesgericht mit den Anträgen, den Entscheid des Erziehungsdepartements aufzuheben und die Angelegenheit zur Neubeurteilung an die "Vorinstanz" zurückzuweisen. Überdies sei ihm im Sinne einer vorsorglichen Massnahme der Besuch des Schulunterrichts in der achten Gymnasialklasse vorläufig zu gestatten. Sodann ersucht er für das Verfahren vor Bundesgericht um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung.
Der Rektor des Gymnasiums Z._ beantragt, das Hauptbegehren der Beschwerde abzuweisen. Im Übrigen verzichtet der Rektor darauf, konkrete Anträge zu stellen. Das Erziehungsdepartement des Kantons Basel-Stadt schliesst auf Abweisung der Beschwerde.
E.- Am 11. Oktober 2000 hiess der Abteilungspräsident das Gesuch um Erlass vorsorglicher Massnahmen gut und verfügte, C.M._ sei der weitere Besuch der 8. Klasse des Gymnasiums Z._ vorläufig zu gestatten.

Das Bundesgericht zieht in Erwägung:
1.- a) Gemäss § 17 der Lernbeurteilungsverordnung vom 28. März 1972 kann gegen Zeugnisse an den zuständigen Departementsvorsteher rekurriert werden; dieser entscheidet endgültig. Der Entscheid des Erziehungsdepartements vom 11. September 2000 ist demnach ein kantonal letztinstanzlicher Endentscheid, gegen den, da kein anderes eidgenössisches Rechtsmittel zur Verfügung steht, die staatsrechtliche Beschwerde zulässig ist (Art. 84 Abs. 2, Art. 86 Abs. 1 und Art. 87 OG).
b) Die staatsrechtliche Beschwerde ist, von hier nicht in Betracht fallenden Ausnahmen abgesehen, rein kassatorischer Natur (<ref-ruling> E. 1f S. 355). Soweit der Beschwerdeführer mehr verlangt als die Aufhebung des angefochtenen Entscheides, kann auf die Beschwerde zum Vornherein nicht eingetreten werden.
2.- a) Zur staatsrechtlichen Beschwerde wegen Verletzung verfassungsmässiger Rechte ist legitimiert, wer durch den angefochtenen kantonalen Hoheitsakt in seinen rechtlich geschützten eigenen Interessen betroffen ist. Diese können entweder durch kantonales oder eidgenössisches Gesetzesrecht oder aber unmittelbar durch ein angerufenes spezielles Grundrecht geschützt sein. Zur Geltendmachung bloss tatsächlicher Interessen oder allgemeiner öffentlicher Interessen steht das Rechtsmittel der staatsrechtlichen Beschwerde nicht zur Verfügung (<ref-ruling> E. 3b S. 85; <ref-ruling> E. 5b S. 42 f., je mit Hinweisen). Das allgemeine Willkürverbot der Bundesverfassung (Art. 4 aBV, <ref-law>) verschafft für sich allein noch keine Beschwerdelegitimation (<ref-ruling> E. 3-6 S. 85 ff., mit Hinweisen).
b) Die der angefochtenen Nichtpromotion zu Grunde liegende Notengebung ist vorliegend unbestritten. Der Beschwerdeführer stellt auch nicht in Abrede, dass seine im zweiten Semester der siebten Gymnasialklasse erreichten Noten für eine Promotion nicht ausreichen. Streitig ist einzig die Handhabung der eingangs erwähnten Ausnahmeklausel (§ 13 der Lernbeurteilungsverordnung).
c) Das Bundesgericht hat die Beschwerdelegitimation bei Entscheiden über schulische Nichtbeförderungen, soweit diese von der Notengebung abhängen, regelmässig bejaht (<ref-ruling> E. 2 S. 25; <ref-ruling> E. 3b S. 323, bestätigt in den unveröffentlichten Urteilen vom 27. März 1997 i.S. M., E. 1b, und vom 29. Juli 1997 i.S. T., E. 1b/aa). Im erwähnten Urteil vom 29. Juli 1997 hielt es das Bundesgericht dagegen für äusserst zweifelhaft, ob eine Ausnahmeklausel der vorliegenden Art ("Kann-Vorschrift" betreffend Korrektur eines Prüfungsergebnisses auf Grund der Persönlichkeit eines Schülers) einen geschützten Rechtsanspruch im Sinne von Art. 88 OG begründe, doch liess es die Frage letztlich offen. Im unveröffentlichten Urteil vom 24. Oktober 1997 i.S. S., E. 1b, kam das Bundesgericht zum Schluss, dass kein Rechtsanspruch auf die Anwendung derartiger Ausnahmeklauseln bestehe, und verneinte demzufolge die Beschwerdelegitimation.
d) Auf Grund dieser Rechtsprechung ist die Legitimation zur staatsrechtlichen Beschwerde auch im vorliegenden Fall zu verneinen. Nach dem Wortlaut von § 13 der Lernbeurteilungsverordnung "kann" die Zeugniskonferenz unter Würdigung der persönlichen Verhältnisse des Schülers von dessen Nichtbeförderung bzw. Zurückversetzung absehen, auch wenn die Voraussetzungen der §§ 7-10 der erwähnten Verordnung (ungenügendes Notentotal bzw. zu viele ungenügende Noten usw.) erfüllt sind. Die Schulbehörde verfügt dabei über einen grossen Ermessensspielraum. Aus Wortlaut und Sinn der erwähnten Klausel ergibt sich, dass diese "Kann-Vorschrift" keine im Sinne von Art. 88 OG geschützten Rechtsansprüche (vgl. E. 2a und c) zu verschaffen vermag. Dass § 17 der Verordnung eine Rekursmöglichkeit an den Departementsvorsteher vorsieht, genügt für sich allein nicht, um einen Rechtsanspruch annehmen zu können; es gelten die gleichen Überlegungen wie für die Legitimation zur Anfechtung von Entscheiden über den Steuererlass (<ref-ruling> E. 1c S. 375 f.).
e) Unabhängig von der Legitimation in der Sache selbst kann mit staatsrechtlicher Beschwerde die Verletzung solcher Verfahrensgarantien gerügt werden, deren Missachtung eine formelle Rechtsverweigerung darstellt; das erforderliche rechtlich geschützte Interesse ergibt sich diesfalls aus der durch das kantonale Recht eingeräumten Stellung als Verfahrenspartei (<ref-ruling> E. 3b S. 86; <ref-ruling> E. 3b S. 94; <ref-ruling> E. 3c S. 312 f.). Nicht zu hören sind dabei aber Rügen, die im Ergebnis auf eine materielle Überprüfung des angefochtenen Entscheides abzielen (<ref-ruling> E. 1c S. 236; <ref-ruling> E. 4a S. 95; <ref-ruling> E. 3c S. 313). Ein in der Sache nicht legitimierter Beschwerdeführer kann deshalb weder die Beweiswürdigung kritisieren noch geltend machen, die Begründung sei materiell unzutreffend (<ref-ruling> E. 1a S. 235, mit Hinweisen).
Der Beschwerdeführer rügt eine Verletzung des rechtlichen Gehörs, weil sich das Departement in der Begründung seines Entscheides mit dem eingereichten "Gutachten" von PD Dr. med. B._ nicht auseinander gesetzt habe.
Dieser Einwand betrifft indessen die materielle Würdigung des Falles, weshalb darauf nach dem Gesagten nicht einzutreten ist.
3.- Selbst wenn die Legitimation des Beschwerdeführers vollumfänglich zu bejahen wäre, vermöchte die Beschwerde nicht durchzudringen.
a) Das nach dem (erstinstanzlichen) Beschluss der Schule mit dem Rekurs an das Erziehungsdepartement eingereichte "Zeugnis" von PD Dr. med. B._ vom 26. Juni 2000 hatte für den zu fällenden Rekursentscheid keinen besonderen Erkenntniswert, da es sich in einem Hinweis auf die - den Schulorganen bekannten - familiären Probleme des Beschwerdeführers erschöpfte und gestützt hierauf die Gewährung einer provisorischen Beförderung empfahl. Der ärztliche Bericht war insoweit nicht geeignet, den (das zusätzliche Element der "Laufbahnprognose" mitumfassenden) Ermessensentscheid der Schulbehörde in Frage zu stellen. Wenn sich das Erziehungsdepartement mit dieser Empfehlung nicht ausdrücklich auseinander setzte, liegt darin keine Verletzung des rechtlichen Gehörs.
b) Wenn dem Beschwerdeführer die Promotion wegen der ungenügenden Noten verweigert und eine Anwendung der Ausnahmeklausel von § 13 der Lernbeurteilungsverordnung abgelehnt wurde, kann darin auch kein Verstoss gegen das Willkürverbot erblickt werden. Die Schulbehörden handelten dabei im Rahmen des ihnen zustehenden Ermessens; dass sie sich von sachfremden Überlegungen hätten leiten lassen, wird nicht geltend gemacht und ist auch nicht ersichtlich. Ebenso wenig ist ein Verstoss gegen das Gleichbehandlungsgebot dargetan (vgl. Art. 90 Abs. 1 lit. b OG). Der blosse Umstand, dass eine Schwester des Beschwerdeführers in einem früheren Zeitpunkt gestützt auf die fragliche Ausnahmeregelung promoviert worden war, rechtfertigt - da Unterschiedlichkeiten auch in der Person des Schülers bzw. der Schülerin liegen können - noch keinen gegenteiligen Schluss.
4.- Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 156 Abs. 1 in Verbindung mit Art. 153 und 153a OG).
Dem gestellten Gesuch um unentgeltliche Rechtspflege und Verbeiständung kann wegen der Aussichtslosigkeit der staatsrechtlichen Beschwerde nicht entsprochen werden (Art. 152 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Auf die staatsrechtliche Beschwerde wird nicht eingetreten.
2.- Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.- Die Gerichtsgebühr von Fr. 1'000.-- wird dem Beschwerdeführer auferlegt.
4.- Dieses Urteil wird dem Beschwerdeführer, dem Rektorat des Gymnasiums Z._, Basel, sowie dem Erziehungsdepartement des Kantons Basel-Stadt schriftlich mitgeteilt.
_
Lausanne, 10. November 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: