Sachverhalt:
A.
Am 19. Mai 2015 reichte A._, Eigentümer der Parzelle Nr. xxx in der Gemeinde U._, ein Baugesuch (Projektänderungsgesuch) betreffend den Neubau eines Einfamilienhauses ein. Mit Entscheid vom 14. Juli 2015 bewilligte die Baubewilligungskommission U._ das Gesuch und wies die dagegen gerichteten Einsprachen von B.D._ und C.D._, E.G._ und F.G._ sowie H._ ab.
Gegen den Entscheid der Baubewilligungskommission erhoben E.G._ und F.G._ mit Eingabe vom 9. August 2015, B.D._ und C.D._ mit Eingabe vom 10. August 2015 sowie H._ ebenfalls mit Eingabe vom 10. August 2015 Rekurs beim Departement Bau und Volkswirtschaft des Kantons Appenzell Ausserrhoden. Sie beantragten, der Entscheid der Baubewilligungskommission sei aufzuheben und die Baubewilligung sei zu verweigern. Mit Entscheid vom 13. April 2016 hiess das Departement Bau und Volkswirtschaft die Rekurse gut und hob den Bau- und Einspracheentscheid der Baubewilligungskommission auf.
Dagegen reichte A._ am 17. Mai 2016 drei Beschwerden beim Obergericht des Kantons Appenzell Ausserrhoden ein. Dieses hiess die Beschwerden mit Entscheid vom 28. September 2017 teilweise gut. Es hob die angefochtenen Rekursentscheide auf und wies die Sache zu ergänzender Abklärung und zu neuem Entscheid insofern an die Vorinstanz zurück, als diese die zulasten der Bauparzelle Nr. xxx vorgenommenen Ausnützungstransfers zwar als nicht rechtskonform bezeichnet, es aber unterlassen hatte, auf den begünstigten Parzellen die Wiederherstellung des rechtmässigen Zustandes zu prüfen. Im Übrigen wies es die Beschwerden ab.
B.
A._ führt mit Eingabe vom 5. Januar 2018 Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde gegen das Urteil des Obergerichts in Sachen B.D._ und C.D._ (1C_8/2018), E.G._ und F.G._ (1C_11/2018) sowie H._ (1C_12/2018) an das Bundesgericht. Er beantragt, die Entscheide der Vorinstanz seien aufzuheben und ihm sei die Baubewilligung zu erteilen. Betreffend Neuverlegung der Kosten sei die Angelegenheit an die Vorinstanz zurückzuweisen. Eventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Das Departement Bau und Volkswirtschaft sowie die Baubewilligungskommission der Gemeinde U._ haben in den drei Verfahren auf eine Stellungnahme verzichtet. Das Obergericht beantragt die Abweisung der Beschwerden. E.G._ und F.G._ sowie H._ beantragen ebenfalls die Abweisung der sie betreffenden Beschwerde, soweit darauf einzutreten sei. Der Beschwerdeführer nahm dazu Stellung.

Erwägungen:
1.
1.1. Die drei Beschwerden des Beschwerdeführers richten sich gegen drei beinahe gleichlautende Urteile der Vorinstanz. Auch die Beschwerden sind im Wortlaut weitgehend identisch. Es rechtfertigt sich daher aufgrund des engen Zusammenhangs, die Verfahren, wie vom Beschwerdeführer beantragt, zu vereinigen.
1.2. Rückweisungsentscheide, mit denen die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen wird, schliessen das Verfahren nicht ab und sind daher grundsätzlich samt der darin getroffenen Regelung über Verfahrenskosten und Parteientschädigungen Zwischenentscheide, die - von den hier nicht gegebenen Ausnahmen gemäss <ref-law> - nur unter den Voraussetzungen von <ref-law> beim Bundesgericht angefochten werden können. Anders verhält es sich nur dann, wenn der unteren Instanz, an welche die Sache zurückgewiesen wird, kein Entscheidungsspielraum mehr verbleibt und die Rückweisung nur noch der Umsetzung des oberinstanzlich Angeordneten dient (<ref-ruling> E. 1.2 S. 148 mit Hinweisen).
1.3. Die Beschwerden gegen die vorliegend selbständig eröffneten Zwischenentscheide sind nur zulässig, wenn diese einen nicht wieder gutzumachenden Nachteil bewirken können (<ref-law>) oder wenn die Gutheissung der Beschwerden sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (<ref-law>). Der drohende nicht wieder gutzumachende Nachteil im Sinne von <ref-law> muss rechtlicher Natur sein. Das setzt voraus, dass er sich auch mit einem späteren günstigen Endentscheid nicht oder nicht gänzlich beseitigen lässt. Die blosse Möglichkeit eines nicht wieder gutzumachenden Nachteils rechtlicher Natur genügt. Dagegen reichen rein tatsächliche Nachteile wie die Verfahrensverlängerung oder -verteuerung nicht aus (<ref-ruling> E. 2.5 S. 399 f.; <ref-ruling> E. 6 S. 192; je mit Hinweisen). Nach der Rechtsprechung obliegt es dem Beschwerdeführer darzutun, dass eine dieser beiden Voraussetzungen erfüllt ist, es sei denn, deren Vorliegen springe geradezu in die Augen, ansonsten auf die Beschwerde mangels hinreichender Begründung nicht einzutreten ist (<ref-ruling> E. 1.2 S. 28; <ref-ruling> E. 1.2 S. 47 f.; je mit Hinweisen).
1.4. Der Beschwerdeführer macht geltend, die angefochtenen Zwischenentscheide bewirkten für ihn einen nicht wieder gutzumachenden Nachteil. Die Vorinstanz weise das Departement Bau und Volkswirtschaft an, den nicht rechtskonformen Ausnützungstransfer zulasten seines Grundstücks festzustellen und diesen ins Grundbuch einzutragen. Dadurch erleide er einen widerrechtlichen Eingriff in sein Eigentum. Er könne sein Grundstück nicht wie gewünscht überbauen und müsse einen Wertverlust hinnehmen. Sodann sei es aufgrund ihrer eingeschränkten Kognition weder der Vorinstanz noch dem Bundesgericht möglich, den im Rahmen des Rückweisungsverfahrens festzustellenden Sachverhalt zu überprüfen. Dies habe zur Folge, dass er sich nicht gegen den willkürlichen und widerrechtlichen Eingriff in sein Eigentum zur Wehr setzen könne.
1.5. Diese Einwände sind unbegründet. Entgegen den Ausführungen des Beschwerdeführers hat die Vorinstanz das Departement Bau und Volkswirtschaft nicht angewiesen, eine öffentlich-rechtliche Eigentumsbeschränkung zu seinem Nachteil ins Grundbuch einzutragen. Sie hat das Departement Bau und Volkswirtschaft aufgefordert, die Wiederherstellung des rechtmässigen Zustandes auf den durch den Ausnützungstransfer begünstigten Parzellen zu prüfen und neu über das vom Beschwerdeführer geplante Bauvorhaben zu befinden. Die Vorinstanz hat dabei offengelassen, wie die Wiederherstellung des rechtmässigen Zustandes konkret ausgestaltet werden soll. Demzufolge kann zum jetzigen Zeitpunkt nicht gesagt werden, inwiefern dem Beschwerdeführer durch die Rückweisungen ein nicht wieder gutzumachender Nachteil droht. Da die spätere Anfechtung des vorliegenden Rückweisungsentscheids mit dem Endentscheid noch möglich ist (<ref-law>), verliert der Beschwerdeführer keine Rechte, wenn er die angefochtenen Zwischenentscheide gemäss <ref-law> nicht direkt anfechten kann. Insofern erübrigen sich auch Ausführungen zur Kognition der Vorinstanz respektive des Bundesgerichts.
1.6. Nicht gefolgt werden kann der Auffassung des Beschwerdeführers, es liege im Übrigen auch ein nicht wieder gutzumachender Nachteil vor, da ihm von der Vorinstanz sämtliche Prozesskosten auferlegt worden seien. Gemäss der Rechtsprechung des Bundesgerichts ist der in einem Zwischenentscheid enthaltene Entscheid über die Kosten- und Entschädigungsfolgen nicht geeignet, einen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> zu bewirken. Er kann im Anschluss an den aufgrund der Rückweisung neu ergehenden Endentscheid in der Sache angefochten werden (<ref-law>; <ref-ruling> E. 1.2.2 S. 332 f.).
1.7. Der Beschwerdeführer bringt weiter vor, das Bundesgericht könne in der vorliegenden Sache mit Gutheissung der Beschwerden und der entsprechenden Erteilung der Baubewilligung bzw. Bestätigung des Einspracheentscheids sofort einen Endentscheid herbeiführen.
Entgegen der Darstellung des Beschwerdeführers ist fraglich, ob das Bundesgericht in der vorliegenden Sache mit einer Gutheissung der Beschwerden tatsächlich sofort einen Endentscheid gemäss <ref-law> herbeiführen kann. Diese Frage kann indessen offenbleiben, da <ref-law> als zweite kumulative Voraussetzung verlangt, dass mit der Behandlung der Beschwerde gegen den Zwischenentscheid ein bedeutender Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren erspart würde (vgl. E. 1.3 hiervor). Dies liegt vorliegend nicht auf der Hand und der Beschwerdeführer legt dies auch nicht rechtsgenüglich dar. Er müsste detailliert aufzeigen, welche Tatfragen offen sind und welche weitläufigen Beweiserhebungen in welchem zeitlichen und kostenmässigen Umfang erforderlich sind. Zudem ist unter Aktenhinweis darzulegen, dass die betreffenden Beweise im kantonalen Verfahren bereits angerufen oder entsprechende Anträge in Aussicht gestellt sind (<ref-ruling> E. 2.4.2 S. 633 mit Hinweisen). Der Beschwerdeführer beschränkt sich vorliegend auf die Behauptung, die angeordneten weiteren Abklärungen hätten eine Verfahrensverzögerung mit entsprechenden Kostenfolgen (Verfahrenskosten, Parteientschädigung, Bauteuerung wegen der Bauverzögerung, der Verzinsung der Landerwerbskosten etc.) zur Folge. Damit ist jedoch nicht in genügend konkreter Weise dargetan, dass ein unmittelbarer bundesgerichtlicher Entscheid einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde.
1.8. Da die Voraussetzung eines nicht wieder gutzumachenden Nachteils bei der Anfechtung von Zwischenentscheiden auch für die subsidiäre Verfassungsbeschwerde gilt (vgl. <ref-law>), ist diese vorliegend ebenfalls ausgeschlossen. Auf die allfälligen weiteren Voraussetzungen der subsidiären Verfassungsbeschwerde ist daher nicht einzugehen.
2.
Nach dem Gesagten ist auf die Beschwerden nicht einzutreten.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 und Art. 68 BGG). E.G._ und F.G._ ist keine Parteientschädigung zuzusprechen, da sie nicht anwaltlich vertreten sind (<ref-ruling> E. 4 S. 446 mit Hinweis).

Demnach erkennt das Bundesgericht:
1.
Die Verfahren 1C_8/2018, 1C_11/2018 und 1C_12/2018 werden vereinigt.
2.
Auf die Beschwerden wird nicht eingetreten.
3.
Die Gerichtskosten von insgesamt Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
4.
Der Beschwerdeführer hat B.D._ und C.D._ sowie H._ für das bundesgerichtliche Verfahren mit je Fr. 1'500.-- zu entschädigen.
5.
Dieses Urteil wird den Parteien, der Baubewilligungskommission U._, dem Departement Bau und Volkswirtschaft des Kantons Appenzell Ausserrhoden und dem Obergericht des Kantons Appenzell Ausserrhoden, 4. Abteilung, schriftlich mitgeteilt.
Lausanne, 4. Juli 2018
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Die Gerichtsschreiberin: Sauthier