Erwägungen:
1.
1.1. A._ (geb. 1968) ist kosovarischer Staatsangehöriger. Er heiratete am 1. Juni 2007 in Portugal eine portugiesische Staatsangehörige, die am 9. Juli 2007 eine Aufenthaltsbewilligung EU/EFTA im Kanton Basel-Stadt erhielt. A._ reiste am 12. Juli 2009 in die Schweiz ein und erhielt seinerseits eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau. Diese verliess das Land anfangs Mai 2010 und lebt seit längerer Zeit und auch heute in Portugal. Die Ehe wurde dort am 24. April 2015 geschieden. In der Folge lehnte das Migrationsamt des Kantons Basel-Stadt am 28. Juli 2015 die Verlängerung der Aufenthaltsbewilligung von A._ ab. Die dagegen erhobenen Rechtsmittel wiesen das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt am 6. April 2016, das Appellationsgericht des Kantons Basel-Stadt am 17. Januar 2017 und das Bundesgericht mit Urteil 2C_236/2017 vom 3. März 2017 ab.
1.2. Im Nachgang zum bundesgerichtlichen Urteil wurde A._ eine neue Ausreisefrist angesetzt und wegen seines Gesundheitszustands mehrfach erstreckt. Am 1. Februar 2018 ersuchte er um eine Härtefallbewilligung. Die Migrationsbehörden wiesen das Gesuch am 24. Oktober 2019 ab. Die dagegen erhobenen Rechtsmittel wiesen das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt am 2. April 2020 sowie das Appellationsgericht des Kantons Basel-Stadt am 3. Februar 2021 ab.
1.3. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 25. März 2021 beantragt A._ dem Bundesgericht, ihm sei eine Härtefallbewilligung nach Art. 30 Abs. 1 lit. b AIG (SR 142.20) zu erteilen, eventualiter sei die Sache an das Migrationsamt zurückzuweisen. Zudem seien ihm für das kantonale sowie das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege und Verbeiständung zu gewähren und die Anwesenheit in der Schweiz und die Aufnahme einer Arbeit während des Verfahrens im Rahmen einer vorsorglichen Massnahme zu bewilligen. Das Bundesgericht hat keine Instruktionsmassnahmen verfügt. Mit dem vorliegenden Entscheid in der Sache wird das Gesuch um Erlass vorsorglicher Massnahmen gegenstandslos.
2.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt (Art. 83 lit. c Ziff. 2 BGG).
2.1. Ausgangspunkt des vorliegenden Verfahrens ist das Gesuch des Beschwerdeführers um Erteilung einer Härtefallbewilligung nach Art. 30 Abs. 1 lit. b AIG. Dabei handelt es sich um eine Ermessensbewilligung, auf die kein Rechtsanspruch besteht (BGE 137 II 345 E. 3.2.1). Insoweit steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht zur Verfügung.
2.2. Ebenso kann sich der Beschwerdeführer trotz seines über zehnjährigen Aufenthalts nicht in vertretbarer Weise auf einen Bewilligungsanspruch nach Art. 8 EMRK berufen. Im ersten Bewilligungs- und Wegweisungsverfahren ist der Anspruch des Beschwerdeführers nach Art. 8 EMRK geprüft und rechtskräftig verneint worden. Dass der Beschwerdeführer in der Folge der Wegweisung nicht nachgekommen ist, sondern seine Anwesenheit zuerst durch Erstreckung der Ausreisefrist und danach durch ein neues Bewilligungsgesuch verlängert hat, führt offenkundig nicht zu einem Aufenthaltsanspruch nach Art. 8 EMRK, wie bereits die Vorinstanz zutreffend erwogen hat (vgl. E. 5.3 des angefochtenen Urteils). Der Beschwerdeführer kann sich deshalb nicht auf BGE 144 I 266 berufen. In diesem Leitentscheid ging es um die Beendigung des Aufenthalts nach einer rechtmässigen Anwesenheit von über zehn Jahren, was besonderer Gründe bedarf, und nicht um die Wiederzulassung eines Ausländers nach einer rechtskräftigen Wegweisung, der nicht Folge geleistet wurde. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten steht deshalb nicht zur Verfügung; darauf kann nicht eingetreten werden.
3.
3.1. Was die ebenfalls erhobene subsidiäre Verfassungsbeschwerde betrifft, so kann der Beschwerdeführer wegen seines fehlenden Bewilligungsanspruchs keine Willkürrügen erheben, die im Ergebnis auf die Überprüfung des Sachentscheids abzielen (vgl. BGE 137 II 305 E. 2). Insoweit ist seine Rüge, die Verweigerung der Härtefallbewilligung verletze das Willkürverbot, unzulässig. Soweit der Beschwerdeführer das Rechtsgleichheitsgebot, den Vertrauensschutz und Verfahrensgarantien als verletzt rügt, weil sein Gesuch nicht der Härtefallkommission vorgelegt worden sei, genügt die Beschwerde der Begründungspflicht nicht (Art. 106 Abs. 2 in Verbindung mit Art. 117 BGG). Das Appellationsgericht hat erwogen, dass die Härtefallkommission jedenfalls bei einem bereits rechtskräftig weggewiesenen Ausländer nicht zuständig sei und der Beschwerdeführer nicht behaupte, dass jemals ein Härtefallgesuch eines weggewiesenen Ausländers der Kommission vorgelegt worden sei (vgl. E. 3.3 des angefochtenen Urteils). Damit setzt sich die Beschwerde nicht substanziiert auseinander; namentlich behauptet der Beschwerdeführer auch vor Bundesgericht nicht, dass (neue) Gesuche von rechtskräftig weggewiesenen "Sans Papiers" der Kommission vorgelegt werden. Auf die entsprechenden Rügen kann deshalb nicht eingetreten werden.
3.2. Soweit der Beschwerdeführer vorbringt, er habe auf die Beurteilung seines Gesuchs in erster Instanz ungebührlich lange warten müssen (vgl. S. 8 unten der Beschwerde), begründet er die behauptete Rechtsverzögerung nicht näher. Deshalb kann auch darauf nicht eingetreten werden. Im Übrigen bringt der Beschwerdeführer selber vor, er habe erst am 30. August 2019 um einen schnellen Entscheid ersucht (vgl. S. 6 f. der Beschwerde); in der Folge haben die Migrationsbehörden knapp zwei Monate später entschieden.
3.3. Soweit schliesslich die Abweisung des Gesuchs um unentgeltliche Rechtspflege und Verbeiständung durch die Vorinstanz gerügt wird, genügt die Beschwerde der Begründungspflicht ebenfalls nicht.
3.3.1. Das Appellationsgericht hat erwogen, dass bereits im ersten Bewilligungs- und Wegweisungsverfahren geprüft worden sei, ob der Beschwerdeführer die Voraussetzungen eines Härtefalls nach Art. 30 Abs. 1 lit. b erfülle; dies sei rechtskräftig verneint worden (vgl. E. 3.2 des angefochtenen Urteils). Aus dem neuen Härtefallgesuch ergebe sich nicht, inwieweit sich die Sachlage seit diesem Entscheid entscheidwesentlich verändert habe; die geltend gemachte Verschlechterung des Gesundheitszustands genüge nicht (vgl. E. 4 des angefochtenen Urteils). In verfahrensrechtlicher Hinsicht sei das Gesuch des Beschwerdeführers zu Recht nicht der Härtefallkommission vorgelegt worden (vgl. E. 3.3 des angefochtenen Urteils). Weil sich der Rekurs zudem nicht substanziiert mit dem angefochtenen Entscheid auseinandersetze, müsse er als aussichtslos qualifiziert werden (vgl. E. 6.2 des angefochtenen Urteils).
3.3.2. Mit diesen Ausführungen setzt sich der Beschwerdeführer nicht auseinander. Mit der blossen Behauptung, im ersten Verfahren sei der Härtefall nach Art. 30 Abs. 1 lit. b AIG nicht geprüft worden, werden die entgegenstehenden Erwägungen der Vorinstanz nicht substanziiert infrage gestellt. Dasselbe gilt, soweit pauschal auf die Veränderung des Gesundheitszustands des Beschwerdeführers verwiesen wird, ohne auf die eingehende Beurteilung der Vorinstanz Bezug zu nehmen. Auch im Hinblick auf die Zuständigkeit der Härtefallkommission lässt die Beschwerde eine substanziierte Auseinandersetzung mit dem vorinstanzlichen Urteil vermissen (vgl. vorne E. 3.1). Und weiter lassen sich der Beschwerde auch zum Vorwurf, der Rekurs habe sich nicht mit dem angefochtenen Entscheid auseinandergesetzt, keine substanziierten Ausführungen entnehmen. Schliesslich wird die im Zusammenhang mit der unentgeltlichen Rechtspflege gerügte Gehörsverletzung (vgl. S. 10 der Beschwerde) nicht näher begründet. Darauf kann nicht eingetreten werden.
4.
Auf die Beschwerde kann aus mehreren Gründen nicht eingetreten werden; dies erfolgt durch den Einzelrichter im vereinfachten Verfahren (Art. 108 Abs. 1 lit. a und b BGG). Ausgangsgemäss sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Sein Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist wegen Aussichtslosigkeit abzuweisen (Art. 64 Abs. 1 und 2 BGG e contrario).
Demnach erkennt der Präsident:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Verfahrensbeteiligten, dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht, Dreiergericht, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 12. April 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Businger