Sachverhalt:
A.
A.A._ (geb. 1964) stammt aus dem Kosovo. Er reiste am 13. April 1993 in die Schweiz ein und stellte ein Asylgesuch. Dieses wurde am 19. November 1993 abgewiesen und A.A._ vorläufig aufgenommen. Nachdem der Bundesrat am 25. Februar 1998 die kollektive vorläufige Aufnahme aufgehoben hatte, wurde A.A._ eine Ausreisefrist bis zum 15. Januar 1999 angesetzt. Am 5. Mai 1998 liess sich A.A._ von seiner im Kosovo lebenden Ehefrau B.A._ scheiden. Diese reiste am 17. August 1998 mit den drei gemeinsamen Söhnen (geb. 1990, 1992 und 1995) und einer angeblich aus einer anderen Beziehung stammenden Tochter (geb. 1997) in die Schweiz ein und erhielt am 12. Februar 2001 Asyl. Am 14. Januar 1999 heiratete A.A._ eine Schweizer Bürgerin und erhielt eine Aufenthaltsbewilligung für den Kanton Basel-Landschaft.
Am 15. April 2005 verurteilte der Ausschuss des Appellationsgerichts des Kantons Basel-Stadt A.A._ in zweiter Instanz wegen Vergewaltigung (begangen am 29. April 2003) zu zwei Jahren und drei Monaten Zuchthaus und zu zwölf Jahren Landesverweisung (diese bedingt aufgeschoben bei einer Probezeit von fünf Jahren). Eine dagegen erhobene staatsrechtliche Beschwerde wies das Bundesgericht mit Urteil 1P.657/2005 vom 18. April 2006 ab, soweit es darauf eintrat. Am 31. Mai 2005 wurde A.A._ bedingt aus dem Strafvollzug entlassen.
Am 6. Februar 2006 gebar die Ex-Ehefrau von A.A._, B.A._, die Zwillinge C.A._ und D.A._. Die Vaterschaft konnte nicht geklärt werden, weil B.A._ angab, sie wisse nicht, wer der Vater sei. Die Ehe zwischen A.A._ und der Schweizer Bürgerin wurde am 16. Mai 2006 geschieden.
B.
Am 24. August 2006 wies das Amt für Migration das Gesuch von A.A._ um Verlängerung der Aufenthaltsbewilligung ab und setzte ihm eine Frist, um das Kantonsgebiet zu verlassen. Dieser Entscheid wurde letztinstanzlich mit Urteil des Kantonsgerichts Basel-Landschaft vom 27. Juni 2007 bestätigt. Die Verfügung des damaligen Bundesamts für Migration (heute: Staatssekretariat für Migration) vom 22. Januar 2010 betreffend Ausdehnung der kantonalen Wegweisung auf das gesamte Gebiet der Schweiz focht A.A._ beim Bundesverwaltungsgericht an, welches das Beschwerdeverfahren am 27. Februar 2013 sistierte.
Während der Prozess vor dem Bundesverwaltungsgericht sistiert war, stellte A.A._ am 8. Juli 2014 beim Amt für Migration ein "Gesuch um Wiedererwägung". Darin beantragte er, "den am 27. Juni 2007 rechtskräftig gewordenen Entscheid aufzuheben und ihm den Verbleib in Baselland und somit in der Schweiz zu gewähren". Das Amt für Migration teilte ihm am 27. August 2014 mit, das Verfahren werde sistiert, bis das Bundesverwaltungsgericht ein Urteil gefällt habe, weil in jenem Verfahren die gleichen Gründe vorgebracht worden seien wie im Wiedererwägungsgesuch.
Am 15. Oktober 2015 nahm das Bundesverwaltungsgericht das Beschwerdeverfahren wieder auf und wies die Beschwerde mit Urteil C-1231/2010 vom 28. Oktober 2015 ab.
C.
Im Auftrag von A.A._ stellte das Institut für Rechtsmedizin der Universität Basel mit Gutachten vom 26. November 2015 fest, dass die Vaterschaft von A.A._ zu den von seiner ersten Ex-Ehefrau B.A._ am 6. Februar 2006 geborenen Zwillingen C.A._ und D.A._ bei einer Wahrscheinlichkeit von mehr als 99.99% praktisch erwiesen sei. Das Amt für Migration erhielt von dieser Tatsache keine Kenntnis.
Am 5. Januar 2016 trat das Amt für Migration auf das Wiedererwägungsgesuch vom 8. Juli 2014 (vgl. oben lit. B) nicht ein mit der Begründung, die Voraussetzungen für eine materielle Behandlung seien nicht gegeben, da keine rechtserheblich veränderte Sachlage vorliege.
Mit Schreiben vom 22. Januar 2016 teilte A.A._ dem Amt für Migration mit, dass er der Vater der Zwillinge sei, und stellte erneut ein Wiedererwägungsgesuch. Das Amt für Migration beantwortete das Begehren am 1. Februar 2016 abschlägig und erliess am 11. Mai 2016 einen formellen Nichteintretensentscheid. Die dagegen erhobene Beschwerde wies der Regierungsrat des Kantons Basel-Landschaft mit Beschluss vom 1. November 2016 ab. Das Kantonsgericht Basel-Landschaft bestätigte diesen Entscheid mit Urteil vom 25. Januar 2017.
D.
A.A._ erhebt am 1. März 2017 Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, das angefochtene Urteil aufzuheben und das Amt für Migration anzuweisen, auf das Wiedererwägungsgesuch einzutreten.
Das Kantonsgericht und das Staatssekretariat für Migration haben auf eine Vernehmlassung verzichtet. Der Regierungsrat schliesst auf Abweisung der Beschwerde. A.A._ hat ausdrücklich auf eine Replik verzichtet.
Das Gesuch um Erteilung der aufschiebenden Wirkung der Beschwerde ist mit Präsidialverfügung vom 28. März 2017 abgewiesen worden. Ein dagegen gerichtetes Wiedererwägungsgesuch von A.A._ hat der Instruktionsrichter am 2. November 2017 abgewiesen.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten steht offen gegen verfahrensabschliessende Entscheide letzter kantonaler Gerichtsbehörden auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die das Bundesrecht oder das Völkerrecht einen Anspruch einräumt (<ref-law>, <ref-law> e contrario, <ref-law>, <ref-law>). Sofern die Zulässigkeit der Beschwerde fraglich erscheint, obliegt es der beschwerdeführenden Partei darzutun, dass die gesetzlichen Voraussetzungen erfüllt sind, und die entsprechenden Tatsachen zu beweisen. Geht es um die Frage, ob eine Ausnahme nach <ref-law> vorliegt, ist die materielle Streitsache massgeblich, unabhängig davon, welchen prozessualen Fortgang das Verfahren vor den Vorinstanzen genommen hat (Nichteintretensentscheid, Wiedererwägungsentscheid etc.).
1.2. Ausgangspunkt des Verfahrens ist die Verfügung des Amts für Migration vom 24. August 2006, mit welcher das Gesuch um Verlängerung der Aufenthaltsbewilligung abgewiesen worden war. Bundesrechtlich besteht ausserhalb des Familiennachzugs kein Anspruch auf Erteilung oder Verlängerung der Aufenthaltsbewilligung (vgl. Art. 33 AuG). Es fragt sich deshalb, ob die Beschwerde zulässig ist.
1.2.1. Der Beschwerdeführer legt dies nicht dar; er scheint davon auszugehen, dass die Beschwerde ohne Weiteres zulässig sei. Nach Massgabe von <ref-law> ist zu prüfen, ob grundsätzlich ein Anspruch auf Familiennachzug oder ein völkerrechtlicher Anspruch auf Erteilung der Aufenthaltsbewilligung besteht.
Die Europäische Menschenrechtskonvention verschafft praxisgemäss keinen Anspruch auf Einreise und Aufenthalt oder auf einen besonderen Aufenthaltstitel (vgl. <ref-ruling> E. 3.2.1; <ref-ruling> E. 4.1.1; <ref-ruling> E. 3.1 S. 285 f.). Sie hindert die Konventionsstaaten nicht daran, die Anwesenheit auf ihrem Staatsgebiet zu regeln und den Aufenthalt ausländischer Personen unter Beachtung überwiegender Interessen des Familien- und Privatlebens gegebenenfalls auch wieder zu beenden (<ref-ruling> E. 3.2.1 mit Hinweisen). Dennoch kann es das in Art. 8 Ziff. 1 EMRK geschützte Recht auf Achtung des Privat- und Familienlebens verletzen, wenn einer ausländischen Person, deren Familienangehörige sich hier aufhalten, die Anwesenheit untersagt und damit deren Zusammenleben vereitelt wird. Das entsprechende Recht ist berührt, wenn eine staatliche Entfernungs- oder Fernhaltemassnahme eine nahe, echte und tatsächlich gelebte familiäre Beziehung einer in der Schweiz gefestigt anwesenheitsberechtigten Person beeinträchtigt, ohne dass es dieser möglich bzw. zumutbar wäre, das Familienleben andernorts zu pflegen (<ref-ruling> E. 2.1 S. 335 f.). Ein gefestigtes Anwesenheitsrecht liegt vor, wenn die betreffende Person das Schweizer Bürgerrecht oder eine Niederlassungsbewilligung besitzt oder über eine Aufenthaltsbewilligung verfügt, die ihrerseits auf einem Rechtsanspruch beruht. Letzteres ist der Fall bei anerkannten Flüchtlingen mit Asyl (<ref-ruling> E. 4.2 S. 342).
1.2.2. Es steht fest, dass der Beschwerdeführer der Vater der am 6. Februar 2006 geborenen Zwillinge C.A._ und D.A._ ist. Im Rahmen der Begründung seiner materiellen Anträge macht der Beschwerdeführer geltend, er wohne seit dem 1. Juli 2014 mit den drei erwachsenen Söhnen, der Ex-Ehefrau B.A._, den Zwillingen und der anderen Tochter seiner Ex-Ehefrau in einem Haus mit acht Zimmern in U._. In den Akten findet sich eine Mutationsmeldung der Einwohnerkontrolle U._ vom 16. Juni 2014, die den Vermerk "Umzug" und die Adresse in U._ enthält. Dies ist zwar kein Beweis, dass der Beschwerdeführer seit Mitte 2014 dort zusammen mit seinen Familienangehörigen lebt. Indessen hat er diesen Umstand schon in seinem Gesuch vom 22. Januar 2016 (damals noch vertreten durch Advokatin Helena Hess) geltend gemacht. Es kann daher für die Eintretensfrage - im Sinn einer (widerlegbaren) Vermutung - von diesem Sachverhalt ausgegangen werden.
Weiter fragt sich, welche Familienangehörigen dem Beschwerdeführereinen Anwesenheitsanspruch verschaffen könnten (ein selbständiger Anspruch gestüzt auf Art. 8 Ziff. 1 EMRK als Recht auf Privatleben [vgl. <ref-ruling> E. 3.2 S. 286] erscheint fraglich und wird auch nicht geltend gemacht [vgl. <ref-law>]). In erster Linie fallen dafür die minderjährigen Kinder in Betracht (umgekehrter Familiennachzug gestützt auf Art. 8 Ziff. 1 EMRK). Ob sie das Schweizer Bürgerrecht besitzen, wie der Beschwerdeführer behauptet, geht aus dem angefochtenen Urteil nicht hervor. Die Vorinstanz hat jedoch verbindlich festgestellt, dass B.A._, die Mutter der Zwillinge, am 12. Februar 2001 Asyl erhalten hat. Es kann daher angenommen werden, dass die Kinder nach ihrer Geburt in die Anwesenheitsberechtigung ihrer Mutter eingeschlossen worden sind und dadurch über ein gefestigtes Anwesenheitsrecht verfügen.
1.3. Bei dieser Ausgangslage verfügt der Beschwerdeführer zumindest über einen potenziellen Anspruch auf Wiedererteilung der Aufenthaltsbewilligung gestützt auf Art. 8 Ziff. 1 EMRK. Die Ausnahme nach <ref-law> greift nicht, weshalb die Beschwerde zulässig ist.
1.4. Die übrigen Sachurteilsvoraussetzungen (Legitimation gemäss <ref-law>, Form gemäss <ref-law> und Frist gemäss <ref-law>) sind erfüllt. Auf die Beschwerde ist einzutreten.
2.
Der Beschwerdeführer rügt vorab eine Verletzung des rechtlichen Gehörs. Er macht geltend, die Vorinstanz hätte ihn vorgängig zur Stellungnahme einladen müssen, da ihre Erwägung, wonach der rechtskräftige Wegweisungsentscheid des Bundesverwaltungsgerichts nur durch eine Revision aufgehoben werden könnte, ein neues rechtliches Argument darstelle.
Der Wegweisungsentscheid ist nicht Gegenstand des vorliegenden Verfahrens (vgl. <ref-law>), weshalb die Rüge nicht einschlägig ist. Es erübrigt sich, näher darauf einzugehen.
3.
3.1. Gegenstand der Verfügung vom 24. August 2006 war die Verlängerung der Aufenthaltsbewilligung des Beschwerdeführers gewesen. Das Gesuch war abgewiesen und die Wegweisung verfügt worden. Nachdem dieser Entscheid am 27. Juni 2007 durch das Kantonsgericht bestätigt worden war, war eine Wiedererwägung von vornherein ausgeschlossen (vgl. Urteil 2C_634/2016 vom 4. Mai 2017 E. 1.1.2). Bei den Gesuchen des Beschwerdeführers vom 8. Juli 2014 (erledigt mit Nichteintretensentscheid vom 5. Januar 2016) und vom 22. Januar 2016 (erledigt mit Nichteintretensentscheid vom 11. Mai 2016, welcher die streitige Verfügung darstellt) handelt es sich nicht um Wiedererwägungsgesuche, sondern um neue Gesuche, welche die (Wieder-) Erteilung einer Aufenthaltsbewilligung zum Gegenstand hatten (bzw. hätten haben sollen).
3.2.
3.2.1. Der Widerruf bzw. die Nichtverlängerung einer Bewilligung führt dazu, dass die bisher ausgeübte Berechtigung in Zukunft nicht mehr ausgeübt werden kann. Grundsätzlich kann in der Folge jederzeit ein neues Gesuch gestellt werden. Wird dieses bewilligt, so lebt damit nicht die frühere, rechtskräftig aufgehobene Bewilligung wieder auf, sondern es handelt sich um eine neue Bewilligung, die voraussetzt, dass im Zeitpunkt ihrer Erteilung die dannzumal geltenden Bewilligungsvoraussetzungen erfüllt sind. Unabhängig davon, ob dies terminologisch als Wiedererwägung oder als neues Gesuch bezeichnet wird, darf das Stellen eines neuen Gesuchs nicht dazu dienen, rechtskräftige Entscheide immer wieder in Frage zu stellen. Die Verwaltungsbehörde ist von Verfassungs wegen nur verpflichtet, auf ein neues Gesuch einzutreten, wenn die Umstände sich seit dem ersten Entscheid wesentlich geändert haben oder wenn der Gesuchsteller erhebliche Tatsachen und Beweismittel namhaft macht, die ihm im früheren Verfahren nicht bekannt waren oder die schon damals geltend zu machen für ihn rechtlich oder tatsächlich unmöglich war oder keine Veranlassung bestand (Urteil 2C_253/2017 vom 30. Mai 2017 E. 4.3; <ref-ruling> E. 2.1 S. 181).
3.2.2. Wenn eine ausländerrechtliche Bewilligung wegen Vorliegens von Widerrufsgründen (Art. 62 bzw. Art. 63 AuG) widerrufen oder nicht verlängert worden ist, schliesst dies die Erteilung einer neuen Bewilligung nicht für alle Zeit aus. Nach der Rechtsprechung kann nach einer Zeitdauer von etwa fünf Jahren ein neues Gesuch gestellt werden, oder auch schon früher, wenn sich die Umstände derart geändert haben, dass eine neue Beurteilung ernstlich in Betracht fällt. Dabei wird in der Regel vorausgesetzt, dass der Gesuchsteller die Schweiz verlassen und sich in seinem Herkunfts- oder Aufenthaltsland bewährt hat (Urteile 2C_253/2017 vom 30. Mai 2017 E. 4.3; 2C_1224/2013 vom 12. Dezember 2014 E. 5.1.2; 2C_1170/2012 vom 24. Mai 2013 E. 3.4.2).
3.3. Aus dem Gesagten erhellt, dass eine Behörde ein neues Gesuch materiell zu behandeln hat, wenn sich die anspruchsrelevante Sachlage seit der letzten rechtskräftigen Beurteilung massgeblich geändert hat; andernfalls tritt sie auf das Gesuch nicht ein. Bringt der Gesuchsteller erstmals eine rechtserhebliche Tatsache vor, die schon während des rechtskräftig abgeschlossenen Verfahrens bestanden hat, hat er darzutun, dass er diese Tatsache damals noch nicht kannte oder hätte kennen sollen bzw. dass es ihm damals rechtlich oder tatsächlich unmöglich war, die Tatsache in das Verfahren einzubringen (vgl. E. 3.2.1). Gelingt ihm dies nicht, kann ein Nichteintretensentscheid gefällt werden.
4.
4.1. Nach den grundsätzlich verbindlichen Feststellungen der Vorinstanz (vgl. <ref-law>) wurden die Zwillinge C.A._ und D.A._ am 6. Februar 2006 geboren. In diesem Zeitpunkt war der Beschwerdeführer von der Kindsmutter geschieden und stand kurz vor der Scheidung von seiner zweiten Ehefrau. Ob er damals Kenntnis von seiner Vaterschaft hatte oder hätte haben können, kann aus heutiger Sicht mit vertretbarem Aufwand nicht mehr festgestellt werden. Es ist daher zu seinen Gunsten davon auszugehen, dass es ihm nicht möglich war, diese Tatsache im Verfahren betreffend Verlängerung der Aufenthaltsbewilligung, welches mit Urteil des Kantonsgerichts Basel-Landschaft vom 27. Juni 2007 rechtskräftig abgeschlossen wurde, vorzubringen.
4.2. Der Beschwerdeführer macht geltend, er lebe seit dem 1. Juli 2014 mit seiner Ex-Ehefrau, deren Tochter, den erwachsenen Söhnen und den minderjährigen Zwillingen zusammen. Im "Wiedererwägungsgesuch" vom 8. Juli 2014 werden indessen die Zwillinge nicht einmal erwähnt. Das Gesuch fokussiert auf die Beziehung des Beschwerdeführers zu seinen (auch damals schon) erwachsenen Söhnen sowie auf seinen Gesundheitszustand. Es wurde am 5. Januar 2016 durch Nichteintreten entschieden.
Wie die Vorinstanz ohne Willkür erwogen hat, erscheint es dennoch nicht glaubhaft, dass der Beschwerdeführer bei der Einreichung des Gesuchs vom 8. Juli 2014 über seine Vaterschaft hinsichtlich der Zwillinge C.A._ und D.A._ nicht unterrichtet war. Daran ändert nichts, dass er erst im Herbst 2015 (wohl nach Erhalt des Urteils des Bundesverwaltungsgerichts vom 28. Oktober 2015) einen Vaterschaftstest machen liess und das Amt für Migration schliesslich am 22. Januar 2016 über das Ergebnis des rechtsmedizinischen Gutachtens vom 26. November 2015 informierte. Ob in diesem Vorgehen ein rechtsmissbräuchliches Verhalten liegt, wie die Vorinstanz erwogen hat, mag dahingestellt bleiben. Entscheidend ist, dass der Beschwerdeführer keine Gründe dafür angeführt hat, warum er erst durch das Gutachten vom 26. November 2015 erfahren haben soll, dass er der Vater der Zwillinge C.A._ und D.A._ ist, obwohl er - seinen Angaben zufolge - seit Juli 2014 mit ihnen und ihrer Mutter zusammenlebt. Bei dieser Sachlage war es ihm sowohl rechtlich als auch tatsächlich möglich, die Vaterschaft zu klären und in das am 8. Juli 2014 anhängig gemachte Verfahren betreffend Wiedererteilung der Aufenthaltsbewilligung einzubringen. Mit Blick auf die Thematik der Neubeurteilung des Gesuchs ist evident, dass die Tatsache der Vaterschaft rechtserheblich war. Indem der Beschwerdeführer es unterliess, diesen Umstand geltend zu machen, nahm er den ersten, hier nicht streitigen Nichteintretensentscheid vom 5. Januar 2016 bewusst in Kauf. Da ein neues Gesuch nicht dazu dienen darf, rechtskräftige Entscheide immer wieder in Frage zu stellen, bestand für die Behörde keine Veranlassung, auf das Gesuch vom 22. Januar 2016 einzutreten. Der Beschwerdeführer hat gestützt auf die Vaterschaft hinsichtlich der Zwillinge C.A._ und D.A._ keinen Anspruch auf Neubeurteilung des am 24. August 2006 abgewiesenen Gesuchs um Verlängerung der Aufenthaltsbewilligung.
5.
5.1. Soweit der Beschwerdeführer geltend macht, sein Gesundheitszustand habe sich drastisch verschlechtert, weshalb der Anspruch auf Erteilung der Aufenthaltsbewilligung neu zu beurteilen sei, ist er nicht zu hören. Der Gesundheitszustand wird im angefochtenen Urteil nicht thematisiert; dennoch macht der Beschwerdeführer keine offensichtlich unrichtige Sachverhaltsdarstellung geltend (vgl. <ref-law>). Es ist daher nicht näher darauf einzugehen (vgl. <ref-law>).
5.2. Der Beschwerdeführer bringt vor, er habe sich seit der Verbüssung der Strafe bewährt, weshalb ein Anspruch auf Neubeurteilung gegeben sei. Wie in E. 1.2.2 dargelegt, kommt eine Wiedererteilung der Aufenthaltsbewilligung nur gestützt auf die Vaterschaft gegenüber den Zwillingen C.A._ und D.A._ im umgekehrten Familiennachzug gemäss Art. 8 Ziff. 1 EMRK in Betracht. Nachdem der Beschwerdeführer aus der Tatsache der Vaterschaft im Rahmen der Neubeurteilung nichts zu seinen Gunsten ableiten kann (vgl. E. 4.2), sticht die Rüge ins Leere.
6.
Zusammenfassend durfte das Amt für Migration das Gesuch um Neubeurteilung vom 22. Januar 2016 mit dem streitigen Nichteintretensentscheid vom 11. Mai 2016 erledigen. Das Urteil der Vorinstanz, welches diesen Entscheid bestätigt, erweist sich somit als rechtens.
7.
Die Beschwerde ist abzuweisen. Der unterliegende Beschwerdeführer trägt die Gerichtskosten (<ref-law>). Es ist keine Parteientschädigung zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten und dem Kantonsgericht Basel-Landschaft, Abteilung Verfassungs- und Verwaltungsrecht, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 6. März 2018
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Zünd
Die Gerichtsschreiberin: Genner