Sachverhalt:
A.
A._ ist Eigentümer des 1'915 m2 grossen Grundstücks Nr. 2416W, Grundbuch Wil, welches in der zweigeschossigen Wohnzone W2 liegt. Die Baukommission Wil erteilte ihm mit Beschluss vom 16. November 2011 die Baubewilligung für den Bau eines Mehrfamilienhauses (MFH 1) mit fünf Wohnungen und Tiefgarage auf dem Grundstück Nr. 2416W. Am 29. August 2012 erteilte sie ihm die Bewilligung für die Erstellung eines zweiten Mehrfamilienhauses (MFH 2) mit fünf Wohnungen ebenfalls auf dem Grundstück Nr. 2416W. Darin wurde festgestellt, dass damit die Ausnutzung von Grundstück Nr. 2416W vollständig ausgeschöpft sei. Mit Verfügung vom 21. Dezember 2012 bewilligte die Baukommission Projektänderungen. Diese Verfügung erwuchs in Rechtskraft. Am 13. Januar 2014 bewilligte die Baukommission weitere Projektänderungen. Diese Bewilligung wurde vom Baudepartement des Kantons St. Gallen am 16. Mai 2014 auf Rekurs hin jedoch aufgehoben, was das Verwaltungsgericht des Kantons St. Gallen am 28. Juni 2016 bestätigte. Dieser Entscheid des Verwaltungsgerichts erwuchs in Rechtskraft.
B.
Am 15. Dezember 2016 ersuchte A._ erneut um Bewilligung von Projektänderungen an den MFH 1 und 2. Die Baukommission erteilte die ersuchte Baubewilligung am 8. Mai 2017 und wies eine von B und C. D._ dagegen erhobene Einsprache ab. Das Baudepartement hiess einen von den unterlegenen Einsprechern gegen die Baubewilligung vom 8. Mai 2017 erhobenen Rekurs mit Entscheid vom 24. August 2018 im Sinn der Erwägungen gut und hob die Bewilligung vollumfänglich auf. Am 13. Mai 2019 wies das Verwaltungsgericht eine von A._ dagegen erhobene Beschwerde ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht und eventualiter mit subsidiärer Verfassungsbeschwerde beantragt A._ Folgendes:
1. Es seien der Entscheid des Verwaltungsgerichts vom 13. Mai 2019, B 2018/206, und der diesem zugrunde liegende Entscheid des Baudepartementes aufzuheben und die Baubewilligung der Baukommission Wil vom 8. Mai 2017 als zu Recht erteilt zu bestätigen.
2. Es sei die Streitsache an die Vorinstanz zu neuem Entscheid über die Kosten- und Entschädigungsfolgen der Verfahren vor Baudepartement und vor Verwaltungsgericht zurückzuweisen.
3. Unter Kosten- und Entschädigungsfolge.
Das Baudepartement, das Verwaltungsgericht und die Beschwerdegegner beantragen Beschwerdeabweisung. Die Politische Gemeinde Wil hat auf eine Vernehmlassung verzichtet. Der Beschwerdeführer hat mit Eingabe vom 20. September 2019 an seinen Anträgen festgehalten.
Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Endentscheid über die Bewilligungsfähigkeit einer Baute. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (vgl. Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG); ein Ausschlussgrund nach Art. 83 BGG liegt nicht vor. Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen, ist durch den angefochtenen Entscheid auch materiell beschwert und damit nach Art. 89 Abs. 1 BGG zur Beschwerde legitimiert. Auch sonst steht einem Sachurteil grundsätzlich nichts entgegen.
1.2.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann auch die Verletzung von Verfassungsrecht gerügt werden (Art. 95 BGG). Damit besteht kein Raum für die zusätzlich erhobene subsidiäre Verfassungsbeschwerde (Art. 113 BGG). Auf diese kann somit nicht eingetreten werden.
2.
Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es prüft die bei ihm angefochtenen Entscheide jedoch grundsätzlich nur auf Rechtsverletzungen hin, die von den Beschwerdeführern geltend gemacht und begründet werden (vgl. Art. 42 Abs. 2 BGG). Die Beschwerde muss sich mit dem angefochtenen Entscheid auseinandersetzen; rein appellatorische Kritik ist unzulässig. Erhöhte Anforderungen an die Begründung gelten, soweit die Verletzung von Grundrechten gerügt wird (Art. 106 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.2 S. 254 mit Hinweisen).
3.
Die Anwendung des kantonalen Rechts überprüft das Bundesgericht grundsätzlich nur auf Vereinbarkeit mit dem Bundesrecht, namentlich mit dem Willkürverbot gemäss Art. 9 BV (vgl. BGE 142 II 369 E. 2.1 S. 372 mit Hinweisen).
4.
Die Vorinstanz kam im angefochtenen Entscheid wie schon das Baudepartement zum Schluss, mit dem geänderten Bauprojekt werde die zulässige Ausnützung des Grundstücks überschritten. Die anrechenbare Geschossfläche dürfe maximal 1'005.38 m2 betragen und sei um 14,42 m2 zu gross. Der Beschwerdeführer geht von einer Überschreitung von lediglich 0,42 m2 aus und rügt in diesem Zusammenhang eine willkürliche und praxiswidrige Anwendung von kantonalem Baurecht (vgl. dazu nachfolgend E. 5), einen Verstoss gegen die Eigentums- bzw. Bestandesgarantie (vgl. dazu nachfolgend E. 6) sowie die Verletzung des Grundsatzes von Treu und Glauben (vgl. dazu nachfolgend E. 7).
5.
Der Beschwerdeführer macht geltend, die Vorinstanz habe Art. 61 des Gesetzes des Kantons St. Gallen vom 6. Juni 1972 über die Raumplanung und das öffentliche Baurecht (BauG/SG) willkürlich und praxiswidrig angewendet. Wende man diese Bestimmung korrekt an, werde die zulässige anrechenbare Geschossfläche lediglich um 0,42 m2 überschritten.
5.1. Zur Festlegung der zulässigen Ausnützung des ersuchten Bauvorhabens kommt unbestrittenerweise noch das inzwischen aufgehobene BauG/SG in der am 1. Januar 2015 massgebenden Fassung zur Anwendung (vgl. Art. 173 des Planungs- und Baugesetzes des Kantons St. Gallen vom 5. Juli 2016 [PBG/SG; sGS 731.1]). Gemäss Art. 61 Abs. 1 BauG/SG ist die Ausnützungsziffer die Verhältniszahl der Summe aller anrechenbaren Geschossflächen zur anrechenbaren Parzellenfläche. In Art. 61 Abs. 2 BauG/SG wird hinsichtlich der anrechenbaren Geschossfläche (aGF) Folgendes festgelegt:
"Zur anrechenbaren Geschossfläche zählen die nutzbaren Geschossflächen einschliesslich Gänge, Treppenhäuser und Mauerquerschnitte. Nicht angerechnet werden:
a) Aussenwandquerschnitte;
b) Keller-, Estrich- und nichtgewerbliche Einstellräume;
c) offene Dachterrassen und Balkone;
d) Wintergärten sowie verglaste Dachterrassen und Balkone bis zu einer Fläche von 20 Prozent der anrechenbaren Geschossflächen;
e) Gemeinschaftsräume in Mehrfamilienhäusern;
f) nutzbare Flächen im Dachgeschoss unter einer lichten Höhe von 1,5 Meter;
g) unterirdische gewerbliche Lagerräume;
h) Liftschächte."
5.2. Die Vorinstanz erwog im angefochtenen Entscheid unter Hinweis auf ihre Rechtsprechung, Steigzonen zählten mit Ausnahme der Liftschächte (vgl. lit. h) zur anrechenbaren Geschossfläche und seien gleich wie Innenwandquerschnitte zu behandeln. Zur Begründung führte sie aus, Steigzonen wie Kamin-, Lüftungs- und Installationsschächte seien im Ausnahmekatalog von Art. 61 Abs. 2 BauG/SG nicht enthalten. In Bezug auf die Ausnützungsberechnung könne es keinen Unterschied machen, ob Leitungen einzeln, etwa in Zwischenwänden, oder in einer Steigzone zusammengefasst durch einen Bau geführt würden. Im Übrigen seien Steigzonen nicht gleich wie Räume für haustechnische Maschinen zu behandeln und könnten sie aufgrund ihrer Erschliessungsfunktion nicht mit Galeriegeschossen gleichgesetzt werden (a.a.O., Ziff. 2.1).
Der Beschwerdeführer wendet ein, gemäss Art. 61 Abs. 2 BauG/SG seien nur Geschossflächen anrechenbar, bei denen es sich um nutzbare Geschossflächen handle bzw. die nutzbar seien. Als nutzbar in diesem Sinne könnten nur Flächen gelten, die unmittelbar zu einem ständigen Aufenthalt von Menschen zu Wohn- oder Arbeitszwecken verwendet werden könnten. Die Auflistung in Art. 61 Abs. 2 BauG/SG sei nicht als Ausnahmekatalog zu betrachten, sondern vielmehr als gegenständliche Präzisierung des Grundsatzes der Nutzbarkeit mit einer Auflistung von Räumen und Flächen, welche ausdrücklich nicht als nutzbar gälten. Dass Flächen von Steigzonen nicht gleich wie Räume für haustechnische Anlagen, die nicht zur nutzbaren Geschossfläche zählten, zu behandeln seien, lasse sich nicht willkürfrei sachlich begründen. Willkürlich sei die vorinstanzliche Auslegung von Art. 61 Abs. 2 BauG/SG auch deshalb, weil Steigzonen in der Stadt Wil und im Kanton St. Gallen bereits während über vier Jahrzehnten praxisgemäss nicht zur anrechenbaren Geschossfläche zählten.
5.3. Der Beschwerdeführer zeigt nicht auf, inwiefern die Auslegung von Art. 61 Abs. 2 BauG/SG, wie sie die Vorinstanz und mit ihr schon vorher das Baudepartement vorgenommen hatte, geradezu willkürlich sein soll. Vielmehr nimmt er lediglich eine andere Auslegung dieser kantonalen Gesetzesbestimmung vor. Dass Art. 61 Abs. 2 BauG/SG so verstanden werden müsste, wonach zur anrechenbaren Geschossfläche nur diejenige Fläche gehören soll, die unmittelbar dem ständigen Aufenthalt von Menschen zu Wohn- oder Arbeitszwecken dient, erscheint keineswegs zwingend. Die Auffassung der Vorinstanz, es mache bei der Ausnützungsberechnung keinen Unterschied, ob Leitungen in Zwischenwänden oder in Steigzonen zusammengefasst durch einen Bau geführt würden, und die Schlussfolgerung, wonach solche Steigzonen gleich wie Innenwandquerschnitte zur anrechenbaren Geschossfläche zu zählen seien, sind vertretbar. Nicht offensichtlich unhaltbar ist sodann die unterschiedliche Behandlung von Steigzonen und haustechnischen Anlagen bei der Berechnung der anrechenbaren Geschossfläche.
Dass die vom Beschwerdeführer kritisierte Auslegung von Art. 61 Abs. 2 BauG/SG dazu führen mag, Leitungen und Rohre bei Neubauten vermehrt in Zwischenwände zu verlegen, was gemäss dem Einwand des Beschwerdeführers höhere Baukosten und einen erschwerten Unterhalt zur Folge habe, lässt diese ebenfalls nicht als willkürlich erscheinen. Würden die Flächen für Steigzonen mit Leitungen und Rohren nicht zur anrechenbaren Geschossfläche gezählt, würde das Gebäudevolumen im Vergleich zu einer Baute, bei der die Leitungen und Rohre in den Wänden verlegt werden, nämlich zunehmen und die Baute somit grösser in Erscheinung treten. Die Vorinstanz konnte sich für die von ihr vorgenommene Auslegung von Art. 61 BauG/SG - wie sie dies in dem von ihr zitierten früheren Entscheid getan hat - auch auf Ziff. 8.2 des Anhangs 1 der interkantonalen Vereinbarung vom 22. September 2005 über die Harmonisierung der Baubegriffe (IVHB) stützen, wonach Funktionsflächen zu den Geschossflächen gezählt werden. Selbst wenn der Kanton St. Gallen der interkantonalen Vereinbarung nicht beigetreten ist, ist der Verweis auf die interkantonale Vereinbarung als zulässiges Auslegungsmittel zu werten.
Die Auffassung der Vorinstanz, Steigzonen fielen mit Ausnahme von Liftschächten unter die gemäss Art. 61 Abs. 2 BauG/SG anrechenbare Geschossfläche, erweist sich im Ergebnis als vertretbar und jedenfalls nicht willkürlich. Damit ist mit der Vorinstanz von einer Überschreitung der zulässigen Geschossfläche um 14,42 m2 auszugehen.
5.4. Auch soweit der Beschwerdeführer im Zusammenhang mit der Anwendung kantonalen Rechts eine unzulässige Praxisänderung rügt, dringt er damit nicht durch. Bei Art. 61 BauG/SG handelt es sich nicht um kommunales, sondern um kantonales Gesetzesrecht, welches von der Vorinstanz einheitlich anzuwenden ist. Die Vorinstanz hat sich zur Anwendung von Art. 61 Abs. 2 BauG/SG im Zusammenhang mit Steigzonen im Urteil B 2015/14 vom 20. Januar 2017 detailliert geäussert. Darauf verweist sie im vorliegend angefochtenen Entscheid (a.a.O., Ziff. 2.1). Dass die Vorinstanz früher einen gegenteiligen Entscheid gefällt hätte, wird vom Beschwerdeführer nicht behauptet, ist auch nicht aktenkundig und damit nicht belegt (vgl. das Urteil 1C_570/2015 vom 15. Juli 2016 E. 2.2).
6.
Der Beschwerdeführer bringt weiter vor, die Annahme einer Überschreitung der zulässigen Ausnützung um 14,42 m2 verletze die Bestandesgarantie gemäss Art. 26 Abs. 1 BV und Art. 77bis BauG/SG bzw. Art. 109 PBG/SG. Er habe für die im Rohbau bereits erstellte Baute eine gültige Bewilligung erhalten. Mit den ersuchten Projektänderungen sei gegenüber dem rechtskräftig bewilligten Bauvorhaben keine Vergrösserung der Fläche der Steigzonen verbunden. Auf die in der rechtskräftigen Baubewilligung vorgenommene Berechnung der anrechenbaren Geschossfläche dürfe nicht mehr zurückgekommen werden.
Aus der Eigentumsgarantie (Art. 26 Abs. 1 BV) und dem Grundsatz des Vertrauensschutzes leitet sich die baurechtliche Bestandes- bzw. Besitzstandsgarantie ab. Diese gewährleistet, dass nach früherem Recht erstellte Bauten oder gemäss früherem Recht zulässige Nutzungen unter neuem Recht fortbestehen dürfen (ALAIN GRIFFEL, Bauen im Spannungsfeld zwischen Eigentumsgarantie und Bauvorschriften, ZBl 2002 S. 181 mit Hinweisen). Diesem Gedanke entspricht die Bestandesgarantie gemäss Art. 77bis BauG/SG bzw. Art. 109 PBG/SG, wonach Bestand und Erneuerung von formell rechtmässig erstellten Bauten und Anlagen innerhalb der Bauzone, die den geltenden Vorschriften oder Plänen widersprechen, gewährleistet sind (vgl. BALTHASAR HEER, St. Gallisches Bau- und Planungsrecht, 2003, S. 215 f.).
Die Vorinstanz hat im angefochtenen Entscheid erwogen, eine rechtskräftige Baubewilligung schliesse nicht aus, dass im Falle eines Projektänderungsgesuchs vor Vollendung der ersuchten Baute die Einhaltung der Bauvorschriften erneut umfassend geprüft würden. Eine Verletzung von Art. 26 Abs. 1 BV oder eine willkürliche Anwendung von Art. 77bis BauG/SG bzw. Art. 109 PBG/SG ist darin nicht zu erblicken, zumal der Beschwerdeführer die rechtskräftig bewilligten Bauten ungehindert realisieren könnte und sich das massgebliche Recht seit der ursprünglichen Bewilligung nicht geändert hat. Wenn dem Beschwerdeführer in der Vergangenheit etwas bewilligt worden ist, was nach der Praxis der Vorinstanz mit den kantonalen Bauvorschriften nicht zu vereinbaren ist, vermittelt ihm dies keinen Anspruch darauf, vor Vollendung der ursprünglich bewilligten Bauten die massgebenden Bauvorschriften im Rahmen eines geänderten Projekts ebenfalls nicht einhalten zu müssen. Der Beschwerdeführer hat somit die Wahl, die ersuchten Bauten so zu vollenden, wie sie ursprünglich bewilligt worden sind, oder ein Gesuch für ein geändertes Projekt zu stellen, welches sämtliche Bauvorschriften einhält.
7.
Sodann macht der Beschwerdeführer geltend, die Vorinstanz habe mit der Zuordnung der Steigzonen zur anrechenbaren Geschossfläche gegen den Grundsatz des Handelns nach Treu und Glauben (Art. 5 Abs. 3 und Art. 9 BV) verstossen. Die Vorinstanz habe sich bereits einmal mit dem umstrittenen Bauvorhaben befasst und zwar anlässlich der von der Baukommission am 13. Januar 2014 bewilligten Projektänderungen. Als das Baudepartement die Bewilligung vom 13. Januar 2014 wegen einer Überschreitung der zulässigen Ausnützung am 16. Mai 2014 aufgehoben habe und dieser Entscheid von der Vorinstanz am 28. Juni 2016 bestätigt worden sei, sei mit keinem Wort darauf hingewiesen worden, dass auch die sogenannten Steigzonen zur anrechenbaren Geschossfläche hinzuzuzählen seien. Im Vertrauen auf die erwähnten Entscheide des Baudepartements und der Vorinstanz habe er das Bauvorhaben überarbeitet und dabei die entsprechenden Erwägungen berücksichtigt. Die von der Baukommission am 8. Mai 2017 für das überarbeitete Bauvorhaben erteilte Bewilligung sei von den Vorinstanzen mit dem völlig neuen Argument und der neuen Begründung aufgehoben worden, dass auch die sogenannten Steigzonen zur anrechenbaren Geschossfläche hinzuzuzählen seien.
Aus Sicht des Beschwerdeführers wäre es gewiss wünschenswert gewesen, wenn er bereits im Verfahren, welches mit dem Entscheid der Vorinstanz vom 28. Juni 2016 abgeschlossen worden ist, darauf hingewiesen worden wäre, dass auch die Steigzonen zur anrechenbaren Geschossfläche hinzuzuzählen sind. Nichtsdestotrotz bilden die Entscheide des Baudepartements vom 16. Mai 2014 und der Vorinstanz vom 28. Juni 2016, mit welchen die Bewilligung für das geänderte Bauvorhaben verweigert wurde, keine Grundlage dafür, dass der Beschwerdeführer darauf vertrauen durfte, das geänderte Bauvorhaben weise neben den in den Entscheiden ausgewiesenen Mängeln nicht auch noch andere rechtliche Mängel auf. Dies zumal der Beschwerdeführer nicht aufzeigt, dass ihm konkrete Zusicherungen bezüglich der Bewilligungsfähigkeit seiner Gesuche gemacht worden wären. Es ist Sache der Bauherrschaft, ein mit den Bauvorschriften vereinbares Baugesuch einzureichen. Wenn die Bewilligungsbehörde die Zustimmung zu einem Baugesuch aus einem bestimmten Grund verweigert, bedeutet dies nicht, dass alle anderen Bauvorschriften eingehalten sind. Noch weniger gilt dies für eine Rechtsmittelbehörde, welche eine erteilte Bewilligung aus einem bestimmten Grund aufhebt. Der Beschwerdeführer dringt mit der Rüge der Verletzung von Art. 5 Abs. 3 und Art. 9 BV somit ebenfalls nicht durch.
8.
Schliesslich macht der Beschwerdeführer geltend, selbst wenn man nach kantonalem Recht von einer Überschreitung der zulässigen Ausnützung in der Höhe von 14,42 m2 ausgehe, erweise sich die Aufhebung der von der Baukommission erteilten Baubewilligung als unverhältnismässig.
8.1. Einerseits weist der Beschwerdeführer in diesem Zusammenhang wiederum auf das rechtskräftig bewilligte ursprüngliche Bauvorhaben und die Entscheide des Baudepartements vom 16. Mai 2014 sowie der Vorinstanz vom 28. Juni 2016 hin und beruft er sich erneut auf den Grundsatz des Handelns nach Treu und Glauben. Insoweit kommt der Rüge der Verletzung des Verhältnismässigkeitsprinzips (Art. 5 Abs. 2 BV) neben den in den E. 5-7 hiervor behandelten Rügen keine eigenständige Bedeutung zu (vgl. BGE 134 I 153 E. 4 S. 156 ff.), weshalb darauf nicht weiter einzugehen bzw. auf das bereits Ausgeführte zu verweisen ist.
8.2. Andererseits bringt der Beschwerdeführer vor, der angebliche Mangel hätte nicht zur Verweigerung der Baubewilligung führen dürfen, sondern mittels einer Auflage zur Reduktion der anrechenbaren Geschossfläche behoben werden können bzw. müssen.
Erfüllt ein Baugesuch die gesetzlichen Anforderungen nicht, ist grundsätzlich der Bauabschlag zu erteilen. Durch Nebenbestimmungen können lediglich untergeordnete Mängel eines Baugesuchs behoben werden. Das Verhältnismässigkeitsprinzip (Art. 5 Abs. 2 BV) kann unter Umständen unabhängig von einer kantonal- oder kommunalrechtlichen Regelung die Anordnung einer Nebenbestimmung als mildere Massnahme zum Bauabschlag gebieten (vgl. Urteil 1C_476/2016 vom 9. März 2017 E. 2.4 mit Hinweisen).
Der Mangel, an dem das Baugesuch gemäss dem angefochtenen Entscheid leidet, ist nicht untergeordneter Natur. Die zulässige anrechenbare Geschossfläche von maximal 1'005.38 m2 wird danach um 14,42 m2 überschritten, was nicht vernachlässigbar ist. Es ist unter den dargelegten Umständen nicht unverhältnismässig, wenn die Vorinstanz vom Erlass einer Auflage zur Reduktion der anrechenbaren Geschossfläche absah und auf einen Bauabschlag erkannte.
9.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich somit als unbegründet und ist abzuweisen. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (vgl. Art. 66 Abs. 1 und Art. 65 BGG). Überdies hat er die Beschwerdegegner für das bundesgerichtliche Verfahren angemessen zu entschädigen (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1.
Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
3.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
4.
Der Beschwerdeführer hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
5.
Dieses Urteil wird den Parteien, der Politischen Gemeinde Wil, dem Baudepartement des Kantons St. Gallen und dem Verwaltungsgericht des Kantons St. Gallen, Abteilung I, schriftlich mitgeteilt.
Lausanne, 3. Juni 2020
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Kneubühler
Der Gerichtsschreiber: Mattle