Sachverhalt:
A.
D.E._ und E.E._ (nachstehend: Bauherren) sind Eigentümer des Grundstücks Nr. 111 des Grundbuchs der Gemeinde Oberhelfenschwil (nachstehend: Baugrundstück). Dieses liegt gemäss dem Zonenplan in der Wohnzone W2.
A.A._ und B.A._ sowie C._ (nachstehend: Nachbarn) sind Eigentümer von an das Baugrundstück angrenzenden Grundstücken.
B.
Am 18. Februar 2014 erteilte die Gemeinde Oberhelfenschwil den Bauherren im Meldeverfahren die Bewilligung, auf dem Baugrundstück für den Bau eines Wohnhauses einen Voraushub vorzunehmen. Diese Bewilligung wurde mit der Auflage erteilt, dass die Baugrube wieder aufgefüllt und dem bestehenden Terrain angepasst werden muss, sofern mit dem Bau nicht bis 31. März 2015 begonnen wird. Der bewilligte Voraushub wurde in der Folge ausgeführt.
Am 3. Juli 2014 reichten die Bauherren bei der Gemeinde Oberhelfenschwil das Gesuch ein, auf dem Baugrundstück die Erstellung eines Zweifamilienhauses mit einer Tiefgarage und einer Photovoltaikanlage zu bewilligen. Dagegen erhoben die Nachbarn öffentlich-rechtliche und privatrechtliche Einsprache. Die Baukommission der Gemeinde Oberhelfenschwil wies am 9. Dezember 2014 die Einsprache ab und erteilte den Bauherren die Baubewilligung. Den dagegen eingereichten Rekurs der Nachbarn wies der Gemeinderat Oberhelfenschwil am 19. Januar 2015 ab. Gegen diesen Entscheid erhoben die Nachbarn Rekurs beim Baudepartement des Kantons St. Gallen. Nach einer vorläufigen Beurteilung durch die Rechtsabteilung des Baudepartements vom 16. April 2015 reichten die Bauherren am 15. Juni 2015 bei der Baukommission Oberhelfenschwil ein Gesuch um Genehmigung eines korrigierten Bauprojekts mit Anpassungen zur Einhaltung der Ausnützungsziffer ein. Am 30. Juni 2015 erhoben die Nachbarn auch gegen das korrigierte Baugesuch öffentlich-rechtliche sowie privatrechtliche Einsprache. Mit Beschluss vom 18. August 2015 wies die Baukommission der Gemeinde Oberhelfenschwil die Einsprache ab und erteilte den Bauherren die Baubewilligung für das korrigierte Bauprojekt. Den dagegen erhobenen Rekurs der Nachbarn wies der Gemeinderat Oberhelfenschwil am 14. September 2015 ab. Dagegen erhoben die Nachbarn Rekurs beim Baudepartement des Kantons St. Gallen. Dieses vereinigte die Rekursverfahren gegen das erste und das korrigierte Baugesuch und hiess mit Entscheid vom 11. April 2016 den ersten Rekurs in Bezug auf die Kosten- und Entschädigungsregelung des Gemeinderats teilweise gut und wies den zweiten Rekurs ab. Dagegen erhoben die Nachbarn Beschwerde, die das Verwaltungsgericht des Kantons St. Gallen mit Entscheid vom 14. Dezember 2017 abwies, soweit darauf einzutreten war.
C.
Die Nachbarn (Beschwerdeführer) erheben Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, das Urteil des Verwaltungsgerichts vom 14. Dezember 2014 aufzuheben und das Baugesuch der Beschwerdegegner abzuweisen. Eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Weiter ersuchten die Beschwerdeführer darum, der Beschwerde die aufschiebende Wirkung zu erteilen. Dieses Gesuch wurde mit Präsidialverfügung vom 16. Februar 2018 abgewiesen.
Die Gemeinde Oberhelfenschwil verzichtet auf eine Stellungnahme zur Beschwerde. Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde. Die Bauherren (Beschwerdegegner) beantragen, die Beschwerde abzuweisen, sofern und soweit darauf einzutreten sei.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Endentscheid des Verwaltungsgerichts im Bereich des Baurechts steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offen (Art. 82 f. BGG; <ref-ruling> E. 2 S. 356). Die Beschwerdeführer haben am vorinstanzlichen Verfahren teilgenommen und sind als Nachbarn beschwerdelegitimiert (Art. 89 Abs. 1 BGG). Da auch die übrigen Sachurteilsvoraussetzungen gegeben sind, ist auf die Beschwerde grundsätzlich einzutreten.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann geltend gemacht werden, der angefochtene Entscheid verletze Bundes- oder Völkerrecht (Art. 95 lit. a und b BGG). Zulässig ist auch die Rüge der Verletzung von kantonalen verfassungsmässigen Rechten sowie von kantonalen Bestimmungen über die politische Stimmberechtigung der Bürger und über Volkswahlen- und Abstimmungen (Art. 95 lit. c und d BGG). Abgesehen davon überprüft das Bundesgericht die Anwendung des kantonalen Rechts nicht als solche. Jedoch kann gerügt werden, diese Anwendung widerspreche dem Bundesrecht, namentlich dem Willkürverbot gemäss Art. 9 BV (<ref-ruling> E. 2.1 S. 372 mit Hinweisen). Nach der Rechtsprechung verstösst ein Entscheid gegen dieses Verbot, wenn er im Ergebnis offensichtlich unhaltbar ist, weil er zum Beispiel eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt. Dass eine andere Lösung ebenfalls als vertretbar erscheint, genügt nicht (<ref-ruling> E. 2.2 S. 72 mit Hinweisen).
1.3. Das Bundesgericht wendet das Bundesrecht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG). Gemäss Art. 106 Abs. 2 BGG prüft es die Verletzung von Grundrechten (vgl. Art. 7-34 BV) jedoch nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist. Das bedeutet, dass das Bundesgericht insoweit nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt (<ref-ruling> E. 2.4; <ref-ruling> E. 2.1 S. 372; je mit Hinweisen). Rügt ein Beschwerdeführer die Verletzung von Art. 9 BV, genügt es daher nicht, wenn er bloss behauptet, der angefochtene Entscheid sei willkürlich. Er hat vielmehr anhand der Erwägungen des angefochtenen Entscheids im Einzelnen aufzuzeigen, inwiefern dieser an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2; <ref-ruling> E. 1.3 S. 262; je mit Hinweisen).
1.4. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich, ist, oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; <ref-ruling> E. 5.1; <ref-ruling> E. 4.2; je mit Hinweisen). Eine entsprechende Willkürrüge ist substanziiert vorzubringen (Art. 106 Abs. 2 BGG; <ref-ruling> E. 5.4 S. 324; <ref-ruling> E. 4.2 S. 233 f.; je mit Hinweisen).
2.
Die Beschwerdeführer machen geltend, die Vorinstanz habe Argumente und Vorbringen bezüglich verschiedener Streitpunkte weder erwähnt noch gewürdigt und damit ihre Begründungspflicht nicht erfüllt, was eine Verletzung des rechtlichen Gehörs darstelle.
Nach der Rechtsprechung zu Art. 29 Abs. 2 BV muss die Begründung die Überlegungen nennen, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt, so dass der Betroffene ihn sachgerecht bei der höheren Instanz anfechten kann. Nicht erforderlich ist dagegen, dass sich die Begründung mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt (<ref-ruling> E. 5.2 S. 236; <ref-ruling> E. 9.2 S. 65; je mit Hinweisen).
Im angefochtenen Urteil hat die Vorinstanz bezüglich der zu beantwortenden Fragen die wesentlichen Überlegungen genannt, von denen sie sich hat leiten lasse. Damit war eine sachgerechte Anfechtung ihres Entscheids möglich, auch wenn sie nicht jedes einzelne Vorbringen des Beschwerdeführers ausdrücklich widerlegte. Die Rügen der Verletzung der Begründungspflicht erweisen sich damit als unbegründet.
3.
Die Vorinstanz führte zusammengefasst aus, die Gemeinderäte Toni Hässig und Walter Rimensberger hätten bezüglich des Rekurses gegen die Baubewilligung in den Ausstand treten müssen, weil sie als Mitglieder der Baukommission bereits vorbefasst gewesen seien. Dennoch habe Toni Hässig sowohl den Rekursentscheid vom 19. Januar 2015 zum ursprünglichen Baugesuch als auch den Rekursentscheid vom 14. September 2015 betreffend das korrigierte Baugesuch in seiner Funktion als Gemeinderatspräsident unterzeichnet. Gemäss dem Protokollauszug der Gemeinderatssitzung vom 14. September 2015 habe jedoch Beat Brändli dieses Traktandum geführt, während Toni Hässig und Walter Rimensberger in den Ausstand getreten seien. Dieser Protokollauszug sei von Beat Brändli unterzeichnet worden. Entgegen der Darstellung der Beschwerdeführer lägen keine Anhaltspunkte dafür vor, dass dieser Protokollauszug nachträglich erstellt worden sei, was eine Urkundenfälschung impliziert hätte. Aufgrund der dargelegten Aktenlage sei das Baudepartement zu Recht von einem Ausstand der Gemeinderäte Toni Hässig und Walter Rimensberger in Bezug auf den Rekursentscheid vom 14. September 2015 ausgegangen.
Die Beschwerdeführer bringen vor, da Toni Hässig als Präsident der Baukommission den Einspracheentscheid und als Präsident des Gemeinderats den Rekursentscheid unterzeichnet habe, sei grundsätzlich davon auszugehen, dass die Ausstandsregeln verletzt worden seien. Zumindest sei ihre Einhaltung äusserst fraglich. Entgegen der Meinung der Vorinstanz werde die Verletzung der Ausstandsregeln durch verschiedene Umstände bestätigt, die darauf schliessen liessen, dass sich der Gemeinderat der Ausstandspflicht bis zur Rüge ihrer Verletzung im Rekurs an das Baudepartement gegen den zweiten Rekursentscheid nicht bewusst gewesen sei und der Gemeinderat daher nachträglich einen tatsachenwidrigen Protokollauszug erstellt habe.
Inwiefern diese Schlussfolgerung zwingend sein soll, zeigen die Beschwerdeführer jedoch nicht auf. Sie begründen damit nicht, bzw. nicht rechtsgenüglich, weshalb die schriftlichen Angaben im vom Gemeinderat Brändli und der Gemeinderatsschreiberin unterzeichneten Protokollauszug und der ausdrücklichen Bestätigung in der Vernehmlassung der Gemeinde im vorinstanzlichen Verfahren entgegen der Feststellung der Vorinstanz offensichtlich unrichtig, d.h. willkürlich, sein sollen. Damit fehlt insoweit eine den Begründungsanforderungen genügende Sachverhaltsrüge (vgl. E. 1.4 hievor).
4.
Die Vorinstanz führte aus, das Protokoll der Gemeinderatssitzung entspreche den gesetzlichen Vorgaben der Protokollierung gemäss Art. 103 des Gemeindegesetzes des Kantons St. Gallen vom 21. April 2009 (GG, sGS 151.2). Die von den Beschwerdeführern neu zur Edition beantragten Wortprotokolle, Anwesenheitslisten und Abstimmungsprotokolle gehörten nicht zum gesetzlich vorgesehenen Protokollinhalt, weshalb es sich erübrige, diese Beweise zu erheben.
Die Beschwerdeführer wenden ein, es sei nicht massgebend, ob der Protokollauszug der Gemeinderatssitzung vom 14. September 2015 den Voraussetzungen von Art. 103 GG entspreche, sondern, ob Toni Hässig und Walter Rimensberger in den Ausstand getreten seien. Mit den beantragten Beweismitteln hätte diese Frage nach Auffassung der Beschwerdeführer geklärt werden können, weshalb die Vorinstanz deren Edition hätte anordnen müssen.
Mit diesen Ausführungen lassen die Beschwerdeführer ausser Acht, dass die Vorinstanz erkennbar davon ausging, die weiteren zur Edition verlangten Protokolle seien, da gesetzlich nicht vorgeschrieben, gar nicht erstellt worden. Inwiefern diese Annahme unhaltbar sein soll, legen die Beschwerdeführer nicht dar. Demnach durfte die Vorinstanz auf die Edition der weiteren Protokolle verzichten, ohne den Beweisführungsanspruch der Beschwerdeführer zu verletzen.
Dies wird dadurch bestätigt, dass nach der Rechtsprechung Ausstandsbegehren nach Treu und Glauben unverzüglich nach Bekanntwerden der Ausstandsgründe zu stellen sind, ansonsten ihre Anrufung als verwirkt gilt (<ref-ruling> E. 8.4.3 S. 275; <ref-ruling> E. 3.2.1 S. 124 mit weiteren Hinweisen; vgl. auch Urteil 1B_512/2017 30. Januar 2018 E. 3). Da Toni Hässig bereits den ersten Rekursentscheid des Gemeinderats unterzeichnete, mussten die Beschwerdeführer annehmen, er habe bei diesem Entscheid mitgewirkt. Sie hätten daher bei der Einreichung ihres Rekurses gegen die zweite, ebenfalls durch Toni Hässig unterzeichnete Baubewilligung nach Treu und Glauben gegen ihn beim Gemeinderat ein Ausstandsbegehren stellen müssen. Da sie dies unterliessen, haben die Beschwerdeführer den erst in ihrem Rekurs an das Baudepartement erhobenen Einwand der Vorbefassung von Toni Hässig verspätet erhoben und damit ohnehin verwirkt.
5.
Nach der Rechtsprechung ist nicht jede mangelhafte Eröffnung schlechthin nichtig mit der Konsequenz, dass die Rechtsmittelfrist nicht zu laufen beginnt. Aus dem Grundsatz, dass den Parteien aus mangelhafter Eröffnung keine Nachteile erwachsen dürfen, folgt vielmehr, dass dem beabsichtigten Rechtsschutz schon dann Genüge getan wird, wenn eine objektiv mangelhafte Eröffnung trotz ihres Mangels ihren Zweck erreicht. Demnach ist nach den konkreten Umständen des Einzelfalls zu prüfen, ob die betroffene Partei durch den gerügten Eröffnungsmangel tatsächlich irregeführt und dadurch benachteiligt worden ist. Richtschnur für die Beurteilung dieser Frage ist der Grundsatz von Treu und Glauben, an welchem die Berufung auf Formmängel in jedem Fall ihre Grenze findet (<ref-ruling> E. 6 S. 253 f.; Urteil 9C_791/2010 vom 10. November 2010 E. 2.2; je mit Hinweisen).
Unter Berufung auf diese Rechtsprechung führte die Vorinstanz aus, die Unterzeichnung des Rekursentscheids vom 19. Januar 2015 durch eine in Ausstand getretene Person stelle zwar einen Eröffnungsmangel dar. Dieser Mangel habe jedoch keine Folgen, weil die Beschwerdeführer aufgrund dieses Mangels keinem Irrtum unterlegen seien und sie auch keinen Nachteil erlitten hätten, da sie gegen diesen Rekursentscheid rechtzeitig das zutreffende Rechtsmittel ergriffen hätten und sie darin alle ihnen opportun erscheinenden Rügen hätten vorbringen können.
Die Beschwerdeführer bringen vor, der Rekursentscheid vom 14. September 2015 sei mangels rechtsgültiger Unterschrift ungültig. Dieser Eröffnungsmangel könne nicht als geheilt angesehen werden.
Mit diesen Ausführungen legen die Beschwerdeführer nicht dar, inwiefern sie durch die Unterzeichnung des Rekursentscheides vom 14. September 2015 einen Nachteil erlitten haben sollen, obwohl sie den Entscheid erhalten haben und frist- und sachgerecht anfechten konnten. Dies ist auch nicht ersichtlich, weshalb die Vorinstanz bundesrechtskonform davon ausgehen durfte, der Eröffnungsmangel sei durch die nachträgliche Mitteilung, dass Toni Hässig und Walter Rimensberger nicht am Entscheid mitgewirkt hatten, geheilt worden.
6.
6.1. Das strittige Bauprojekt ist nach den unangefochtenen Erwägungen der Vorinstanz nach dem alten Gesetz über die Raumplanung und das öffentliche Baurecht des Kantons St. Gallen vom 6. Juni 1972 (aBauG) zu beurteilen. Art. 61 aBauG lautet:
1 Die Ausnützungsziffer ist die Verhältniszahl der Summe aller anrechenbaren Geschossflächen zur anrechenbaren Parzellenfläche.
2 Zur anrechenbaren Geschossfläche zählen die nutzbaren Geschossflächen einschliesslich Gänge, Treppenhäuser und Mauerquerschnitte. Nicht angerechnet werden:
a) Aussenwandquerschnitte;
b) Keller-, Estrich- und nichtgewerbliche Einstellräume;
c) offene Dachterrassen und Balkone;
d) Wintergärten sowie verglaste Dachterrassen und Balkone bis zu einer Fläche von 20 Prozent der anrechenbaren Geschossflächen;
e) Gemeinschaftsräume in Mehrfamilienhäusern;
f) nutzbare Flächen im Dachgeschoss unter einer lichten Höhe von 1,5 Meter;
g) unterirdische gewerbliche Lagerräume;
h) Liftschächte.
6.2. Die Vorinstanz erwog, das Baudepartement habe die Estrichräume zu Recht gemäss Art. 61 Abs. 2 lit. b und f BauG von der anrechenbaren Geschossfläche ausgenommen. Geschossflächen seien "nutzbar", wenn sie ohne eigentliche bauliche Massnahmen als Wohn-, Schlaf- und Arbeitsraum verwendet werden könnten. Bezüglich der wohnhygienischen Anforderungen sei die natürliche Belichtung ausschlaggebend. Gemäss Art. 39 Abs. 2 des Baureglements der Gemeinde Oberhelfenschwil (BauR) seien für Aufenthaltsräume Fensterflächen mit einem Lichtmass von mindestens 10 % der Bodenflächen vorgesehen. Die fraglichen Estrichräume erreichten dieses Mass mit einer Fensterfläche von 2,2 % bzw. 1,4 % der Bodenfläche bei weitem nicht. Räume mit einer derart geringen natürlichen Belichtung seien ungeachtet ihrer Bodenfläche und Raumhöhe nicht zu Wohn-, Schlaf- oder Arbeitszwecken geeignet und daher nicht zu den anrechenbaren Geschossflächen zu zählen. Ob und mit welchen baulichen Vorkehren die Estrichräume zu Wohn-, Schlaf- oder Arbeitszwecken umgenutzt werden könnten, sei nicht zu prüfen, weil die entsprechenden baulichen Massnahmen im Rahmen eines neuen Baugesuchs zu beurteilen wären.
6.3. Die Beschwerdeführer rügen, die Vorinstanz sei willkürlich zum Schluss gekommen, das Dachgeschoss könne aufgrund der ungenügenden natürlichen Belichtung ohne bewilligungspflichtige bauliche Massnahmen nicht zu Wohn- und Arbeitszwecken genutzt werden. Zwar sehe das korrigierte Baugesuch im Dachgeschoss Fensterflächen vor, die den wohnhygienischen Ansprüchen an die natürliche Belichtung grundsätzlich nicht genügten. Dennoch sei das Abstellen auf die ungenügende natürliche Belichtung willkürlich und antiquiert, weil der Estrichraum mit einer Fläche von ca. 124 m2 und einer Höhe des Dachstocks von bis zu 3,82 m heutzutage mit einer künstlichen Belichtung problemlos als Arbeitsraum genutzt werden könne, ohne dass dazu bauliche Massnahmen erforderlich seien. Hinzu komme, dass Art. 40 BauR zulasse, dass Werkstätten auch unterirdisch angeordnet werden dürften, wenn sie einwandfreie künstliche Beleuchtungs- und Belüftungseinrichtungen aufwiesen. Wenn Werkstätten unter diesen Bedingungen zur anrechenbaren Geschossfläche gehörten, müsse dies auch für mögliche Arbeitsräume im Dachgeschoss gelten.
6.4. Gemäss Art. 61 Abs. 2 lit. b aBauG werden Estrichräume nicht zur anrechenbaren Geschossfläche gerechnet. Unter einem Estrichraum im Sinne dieser Bestimmung kann in vertretbarer Weise ein Dachboden bzw. Dachraum verstanden werden, der namentlich aufgrund ungenügender natürlicher Belichtung für Wohn-, Schlaf- und Arbeitszwecke nicht geeignet ist. Von einem solchen Estrichraum ist die für die genannten Zwecke nutzbare Fläche im Dachgeschoss zu unterscheiden, welche gemäss Art. 61 Abs. 2 lit. f BauG über einer lichten Höhe von 1,5 Meter an die Geschossfläche angerechnet wird. Demnach verfiel die Vorinstanz nicht in Willkür, wenn sie die strittigen Räume im Dachgeschoss, die für Wohn-, Schlaf- und Arbeitszwecke anerkanntermassen ungenügend natürlich belichtet sind, gemäss Art. 61 Abs. 2 lit. b aBauG als nicht anrechenbare Estrichräume qualifizierte. Daran vermag nichts zu ändern, dass Art. 40 BauR die unterirdische Anordnung von Werkstätten mit einwandfreien künstlichen Beleuchtungs- und Belüftungseinrichtungen zulässt, weil diese Bestimmung eine solche Beleuchtung für Wohn-, Schlaf- und Arbeitsräume im Dachgeschoss nicht zulässt.
7.
Im vorinstanzlichen Verfahren machten die Beschwerdeführer geltend, die Tiefgarage sei zur anrechenbaren Geschossfläche zu zählen, weil anzunehmen sei, dass der Beschwerdegegner darin Fahrzeuge aus seinem Gewerbebetrieb abstellen und Abstellplätze an Dritte vermieten werde.
Die Vorinstanz führte aus, in der Tiefgarage dürften keine Fahrzeuge aus dem Gewerbebetrieb des Beschwerdegegners abgestellt werden, weil dies eine Zweckänderung darstelle, für die ein Baubewilligungsverfahren erforderlich wäre. Die blosse Vermietung von Abstellplätzen (für private Zwecke) stelle keine gewerbliche Nutzung dar. Soweit Parkfelder in der Wohnzone als zonenkonform bewilligungsfähig seien, seien sie nach Art. 61 Abs. 2 lit. b aBauG nicht als nutzbare Geschossfläche anzurechnen. Der Beweisantrag auf Einholung der Steuerakten der Beschwerdegegner sei unbehelflich, weil Einnahmen aus der Vermietung von Abstellplätzen steuerliches Einkommen darstellten, aber bezüglich der gewerblichen Nutzung im Sinne des Baurechts keine Aussagen machten.
Die Beschwerdeführer machen geltend, die Vorinstanz hätte die Frage der gewerblichen Nutzung durch die Einholung der Steuerunterlagen der Beschwerdegegner klären müssen, weil aus diesen Unterlagen hervorgehe, ob der Beschwerdegegner nach wie vor Einkommen als Lastwagenchauffeur im Bausektor mit eigenen Lastwagen erziele. Dies würde darauf schliessen lassen, dass er die Garage für seine gewerblichen Zwecke nutzen werde.
Mit diesen Ausführungen widerlegen die Beschwerdeführer die vorinstanzliche Angabe nicht, dass die Beschwerdegegner die Garage gemäss der Baubewilligung nicht für gewerbliche Zwecke - wie z.B. für das Parkieren gewerblich genutzter Lastwagen - benutzen dürfen. Ob dennoch mit einer baurechtswidrigen Nutzung zu rechnen sei, ist daher bezüglich der strittigen Baubewilligung nicht erheblich, weshalb die Vorinstanz diesbezüglich keine Beweise erheben musste.
8.
Die Vorinstanz erachtete die Einholung eines Gutachtens zur Verletzung des Verunstaltungsverbots als nicht notwendig, weil das Gericht diese rechtliche Frage aufgrund der Verfahrensakten und der entsprechenden Fotografien beurteilen könne.
Die Beschwerdeführer wenden ein, ob das Bauvorhaben in die bestehende Siedlung mit eher kleinen Wohnhäusern hineinpasse, sei eine Sachfrage, die durch einen Gutachter mit entsprechender Fachkunde beantwortet werden müsse. Erst nach Klärung dieser Sachfrage könne das Gericht die Rechtsfrage, ob das Verunstaltungsverbot von Art. 93 BauG verletzt werde, beantworten. Die Vorinstanz habe daher mit dem Verzicht auf das beantragte Gutachten das rechtliche Gehör der Beschwerdeführer verletzt.
Diese Rüge ist unbegründet, da die Beschwerdeführer nicht substanziiert darlegen, inwiefern die Beurteilung der Rechtsfrage der möglichen Verletzung eines blossen Verunstaltungsverbots unter den gegebenen Umständen besondere Fachkenntnisse erfordern würden, was auch nicht ersichtlich ist.
9.
9.1. Nach einer in Baubewilligungsverfahren angewandten Praxis beginnt für zu Unrecht nicht ins Verfahren einbezogene Personen die Anfechtungsfrist grundsätzlich erst mit der tatsächlichen Kenntnisnahme des Entscheids zu laufen. Aus Gründen der Rechtssicherheit und nach dem Grundsatz von Treu und Glauben dürfen diese Personen die Kenntnisnahme bzw. den Beginn des Fristenlaufs nicht beliebig hinauszögern, wenn sie auf irgendeine Weise vom Erlass der sie berührenden Entscheidung Kenntnis erhielten (<ref-ruling> E. 4.2 S. 312 f. mit Hinweisen). Vielmehr haben sie diesfalls darum besorgt zu sein, das Dispositiv und die Begründung des Entscheids zu erfahren. Unterlassen sie dies, beginnt für sie die Rechtsmittelfrist zur Anfechtung des Entscheids ab dem Tag zu laufen, an dem sie bei der Vornahme der zumutbaren Schritte vom Entscheid hätten Kenntnis nehmen können (vgl. <ref-ruling> E. 1.3 S. 232; <ref-ruling> E. 3 S. 93 f.; Urteil 1C_256/2017 vom 11. Januar 2018 E. 2.1 mit weiteren Hinweisen).
9.2. In Übereinstimmung mit dieser Rechtsprechung führte die Vorinstanz aus, die Verletzung der Anzeige- und Mitteilungspflicht bei vereinfachten Baubewilligungsverfahren führe nicht zur Nichtigkeit der Baubewilligung. Diese Verletzung führe nur dazu, dass die Einsprache- und Rekursmöglichkeiten der übergangenen Personen erst zu laufen beginne, wenn sie vom entsprechenden Entscheid auf andere Weise Kenntnis erhalten hätten. Der Voraushub sei im Meldeverfahren am 18. Februar 2014 bewilligt und in der Folge ausgeführt worden, wovon die Beschwerdeführer als unmittelbare Nachbarn sichere Kenntnis gehabt hätten. Sie hätten sich daraufhin bezüglich der entsprechenden Baubewilligung erkundigen können und müssen. Dies hätten sie unterlassen, da sie gegen die Bewilligung des Voraushubs erst am 6. August 2014 Einsprache erhoben hätten. Diese Einsprache sei verspätet erfolgt, weshalb die Aushubbewilligung in Rechtskraft erwachsen sei und nicht mehr Gegenstand des vorliegenden Verfahrens bilde.
9.3. Die Beschwerdeführer wenden ein, obwohl die Vorinstanz davon ausgehe, die Rechtsmittelfrist bezüglich der Aushubbewilligung habe mit der Kenntnis der Aushubarbeiten zu laufen begonnen, habe sie nicht festgestellt, wann diese Arbeiten in Angriff genommen worden seien. Damit stehe der Beginn der Rechtsmittelfrist zur Anfechtung der Aushubbewilligung nicht fest, weshalb die vorinstanzliche Schlussfolgerung der verspäteten Anfechtung willkürlich sei.
9.4. Zwar trifft zu, dass im angefochtenen Urteil der Beginn und das Ende der Aushubarbeiten nicht ausdrücklich genannt werden. Die Vorinstanz ging jedoch erkennbar davon aus, dass die Beschwerdeführer nach der Kenntnis der Aushubarbeiten die Möglichkeit gehabt hätten, die entsprechende Baubewilligung einzusehen und die mit ihrer Kenntnis beginnende Rechtsmittelfrist wesentlich vor dem 6. August 2014 abgelaufen wäre. Inwiefern diese Feststellung willkürlich sein soll, legen die Beschwerdeführer nicht dar, zumal sie nicht geltend machen, sie hätten von den Aushubarbeiten so spät Kenntnis erhalten, dass eine frühere Anfechtung der entsprechenden Bewilligung nicht möglich gewesen wäre. Demnach durfte die Vorinstanz bundesrechtskonform annehmen, die Beschwerdeführer hätten die Bewilligung des Voraushubs mit ihrer Einsprache vom 6. August 2014 verspätet angefochten, weshalb diese Bewilligung nicht Streitgegenstand bilde.
10.
Gemäss Art. 685 Abs. 1 ZGB darf der Eigentümer bei Grabungen und Bauten die nachbarlichen Grundstücke nicht dadurch schädigen, dass er ihr Erdreich in Bewegung bringt oder gefährdet oder vorhandene Vorrichtungen beeinträchtigt.
Die Vorinstanz trat auf die von den Beschwerdeführern vorgebrachte Rüge der Verletzung von Art. 685 ZGB nicht ein, weil sie annahm, die Vorbringen zur entsprechenden Schädigung würden sich alle auf den am 18. Februar 2014 rechtskräftig bewilligten Voraushub und nicht auf die strittige Baubewilligung beziehen. Zudem könne eine privatrechtliche Klage auch nach der Auflagefrist eingereicht und die bauhindernde Wirkung über Massnahmen im summarischen Verfahren erreicht werden.
Die Beschwerdeführer rügen, die vorinstanzliche Feststellung, dass sich ihre Vorbringen zur Schädigung nach Art. 685 ZGB nur auf die rechtskräftige Aushubbewilligung vom 18. Februar 2014 beziehen, sei falsch. Da die Aushub- und die Baubewilligung im gewissen Sinne eine Einheit bildeten, müssten sie die Verletzung von Art. 685 ZGB in beiden Bewilligungsverfahren rügen können. Da die Vorinstanz die Verletzung von Art. 685 ZGB - anders als die unteren kantonalen Instanzen - nicht geprüft habe, hätte sie die Baukommission anweisen müssen, den Beschwerdeführern gestützt auf Art. 84 Abs. 3 aBauG eine Frist von 14 Tagen anzusetzen, innert der sie das Verfahren auf dem Zivilrechtsweg einzuleiten hätten. Es sei willkürlich, wenn die Vorinstanz auf die Rüge der Verletzung von Art. 685 ZGB nicht eintrete und sie den Beschwerdeführern gleichzeitig verweigere, ihre entsprechenden Rechte im zivilrechtlichen Verfahren wahrnehmen zu können. Auch wenn eine privatrechtliche Klage nach der Auflagefrist eingereicht werden könne, würden die Beschwerdeführer in den ihnen durch Art. 84 Abs. 3 aBauG gewährten Rechten unrechtmässig eingeschränkt, weshalb die Vorinstanz diese Bestimmung willkürlich nicht angewandt habe.
Mit diesen Ausführungen gelingt es den Beschwerdeführern nicht, die vorinstanzliche Feststellung zu widerlegen, die Rüge der Verletzung von Art. 685 ZGB beziehe sich einzig auf den Aushub bzw. die rechtskräftige Aushubbewilligung. Sie machen bloss sinngemäss geltend, diese Rüge müsse auch im Verfahren betreffend die Baubewilligung für die Errichtung der Bauten zugelassen werden, weil sie im Meldeverfahren betreffend den Erlass der Aushubbewilligung nicht habe vorgebracht werden können. Dieser Einwand trifft jedoch nicht zu, weil die Beschwerdeführer nach der Kenntnisnahme der Aushubarbeiten die entsprechende Bewilligung hätten einsehen und anfechten können (vgl. E. 9 hievor). Da sich die Rüge der Verletzung von Art. 685 ZGB auf den rechtskräftig bewilligten und bereits ausgeführten Voraushub bezieht, war die Vorinstanz nicht gehalten, den Beschwerdeführern gestützt auf Art. 84 Abs. 3 aBauG eine Frist von 14 Tagen anzusetzen, innert welcher sie das Verfahren auf dem Zivilrechtsweg einzuleiten hätten. Die Rüge der willkürlichen Nichtanwendung dieser Norm erweist sich daher als unbegründet.
11.
11.1. Die Bewilligung des Voraushubs vom 18. Februar 2014 wurde mit der Auflage erteilt, dass die Baugrube wieder aufgefüllt und dem bestehenden Gelände angepasst werden muss, sofern mit dem Bau nicht bis 31. März 2015 begonnen wird. Gestützt auf diese Auflage verlangten die Beschwerdeführer im vorinstanzlichen Verfahren die Wiederauffüllung der Baugrube. Zur Begründung führten sie an, die Verpflichtung zur Wiederherstellung des ursprünglichen Zustands der Baugrube nach dem 31. März 2015 entstehe auch dann, wenn bis zu diesem Termin mit dem Bau des Wohnhauses infolge von Einsprachen und Rechtsmitteln gegen das Baugesuch nicht begonnen werden konnte.
11.2. Die Vorinstanz ging davon aus, diese Auslegung könne aufgrund der aufschiebenden Wirkung der Rechtsmittel in der Verwaltungsrechtspflege nicht dem Sinn und Zweck der angerufenen Auflage entsprechen, zumal nach allgemeiner Lebenserfahrung das Einsprache- und Rechtsmittelverfahren in Bausachen nicht innert Jahresfrist rechtskräftig entschieden werden könnte. Entscheidend sei, dass die Beschwerdegegner mit der Einreichung des Baugesuchs vom 3. Juli 2014 der angerufenen Auflage Rechnung getragen hätten und sie mit den entsprechenden Bauarbeiten wegen der Ergreifung von Rechtsmitteln durch die Beschwerdeführer nicht hätten beginnen können. Die von den Beschwerdeführern gelten gemachte Auslegung sei daher offensichtlich sinnwidrig.
11.3. Die Beschwerdeführer rügen, die Vorinstanz habe die strittige Auflage willkürlich einseitig zu Gunsten der Beschwerdegegner ausgelegt. Der Zweck der Auflage habe darin bestanden, dass die mit dem Aushub entstehende Baugrube nicht während längerer Zeit offen bleibe und damit eine Gefahr der Absenkung des Hanges schaffen könne. Wenn nach der allgemeinen Erfahrung Einsprache- und Rechtsmittelverfahren nicht innert Jahresfrist erledigt werden könnten, hätte die Baubewilligungsbehörde bei der Festlegung der Frist bis zum 31. März 2015 berücksichtigt, dass die Erteilung der rechtskräftigen Baubewilligung länger dauern könne. Zudem habe die Vorinstanz die nach der allgemeinen Erfahrung mögliche Bauverzögerung durch die Ergreifung von Rechtsmitteln willkürlich einseitig zu Lasten der Beschwerdeführer ausgelegt, da das ursprüngliche Bauvorhaben gemäss einer vorläufigen Beurteilung der Rechtsabteilung des Baudepartements baurechtswidrig gewesen und danach von den Beschwerdegegnern abgeändert worden sei. Das von den Beschwerdeführern angestrengte Einsprache- und Rekursverfahren gegen das ursprüngliche Bauvorhaben sei daher erfolgreich gewesen, weshalb die dadurch bewirkte Verzögerung des Baubeginns nicht zu Lasten der Beschwerdeführer hätte berücksichtigt werden dürfen.
11.4. Entgegen der Meinung der Beschwerdeführer bezweckt die Verpflichtung zur Wiederherstellung des ursprünglichen Zustands, wenn mit dem Bau nach dem Ablauf etwa eines Jahres nach der Erteilung der Aushubbewilligung nicht begonnen wird, nicht zwingend, das Absenken des Terrains um die Baugrube zu verhindern, da diese Grube unabhängig von der Dauer ihres Bestands gesichert und abgestützt werden muss, um eine Schädigung nach Art. 685 Abs. 1 ZGB zu verhindern. Der Zweck der strittigen Auflage kann daher in vertretbarer Weise darin erblickt werden, die Bauherren dazu anzuhalten, das Bauvorhaben zügig in Angriff zu nehmen und den Baubeginn nicht grundlos hinauszuzögern. Die Vorinstanz konnte somit willkürfrei annehmen, der Zweck für die in der Auflage verlangte Wiederauffüllung der Baugrube komme nicht zum Tragen, weil der Baubeginn bis zum 31. März 2015 durch Einsprachen und Rekurse der Beschwerdeführer ohne Verschulden der Bauherrn verhindert wurde. Daran vermag nichts zu ändern, dass das Baudepartement die Beschwerdegegner im Rekursverfahren erfolgreich aufforderte, ihr Bauvorhaben abzuändern. Da das ursprüngliche Bauvorhaben von der kommunalen Baubehörde bewilligt worden war, kann willkürfrei verneint werden, dass die Beschwerdegegner den Baubeginn durch die Einreichung eines offensichtlich baurechtswidrigen Baugesuchs schuldhaft verzögerten.
11.5. Da die Vorinstanz nicht in Willkür verfiel, wenn sie annahm, gemäss dem Zweck der strittigen Auflage könne gestützt darauf die Wiederauffüllung der Baugrube nicht verlangt werden, kommt ihrer Eventualerwägung, es wäre auch unverhältnismässig, im jetzigen Verfahrensstand die Zuschüttung der Baugrube zu verlangen, keine entscheiderhebliche Bedeutung zu. Auf die gegen diese Erwägung gerichtete Kritik der Beschwerdeführer ist deshalb nicht einzutreten.
12.
Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten den unterliegenden Beschwerdeführern aufzuerlegen (Art. 66 Abs. 1 BGG). Diese haben zudem den Beschwerdegegnern unter solidarischer Haftbarkeit eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 1, 2 und 4 BGG i.V.m. Art. 66 Abs. 5 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 4'000.-- werden den Beschwerdeführern auferlegt.
3.
Die Beschwerdeführer haben die Beschwerdegegner für das bundesgerichtliche Verfahren unter solidarischer Haftbarkeit mit Fr. 3'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien, der Politischen Gemeinde Oberhelfenschwil, dem Baudepartement des Kantons St. Gallen und dem Verwaltungsgericht des Kantons St. Gallen, Abteilung I, schriftlich mitgeteilt.
Lausanne, 6. Juli 2018
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Der Gerichtsschreiber: Gelzer