Sachverhalt:
A.
Mit Verfügung vom 8. Juni 2016 sprach die IV-Stelle des Kantons Zug A._ bei einem Invaliditätsgrad von 42 % rückwirkend ab 1. Januar 2015 eine Viertelsrente zu.
B.
Die dagegen mit dem Antrag auf Zusprechung einer ganzen, eventuell einer halben Invalidenrente erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zug mit Entscheid vom 24. November 2016 ab. Abweichend von der IV-Stelle ging es zwar davon aus, dass A._ ein unterdurchschnittliches Einkommen erzielen würde, wäre er nicht invalid geworden. Um diesem Umstand Rechnung zu tragen, nahm es bei der Invaliditätsbemessung mittels Einkommensvergleichs eine Parallelisierung der Vergleichseinkommen vor, gelangte aber auch dabei zum Schluss, dass der für einen Anspruch auf eine halbe Invalidenrente erforderliche Invaliditätsgrad von 50 % nicht erreicht werde.
C.
A._ lässt dagegen Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Begehren, es sei ihm in Abänderung des angefochtenen Entscheides ab 1. Januar 2015 eine halbe Invalidenrente zuzusprechen.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das kantonale Gericht verweist auf den angefochtenen Entscheid, ohne sich zur Sache nochmals materiell zu äussern. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzungen gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. <ref-law>) - vorinstanzliche Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
2.1. Gerügt wird in der Beschwerdeschrift einzig der vorgenommene Einkommensvergleich. Beanstandet wird dabei die von der Vorinstanz - anders als von der Verwaltung - konkret zur Anwendung gebrachte Rechtsprechung zur Parallelisierung der Vergleichseinkommen (vgl. die dazu publizierten Urteile in <ref-ruling>, 140 V 41, 139 V 592,135 V 297, 134 V 322). Insoweit hat das kantonale Gericht die für die Beurteilung des streitigen Rentenanspruches (<ref-law>) - namentlich die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der Einkommensvergleichsmethode (<ref-law>) - massgebenden gesetzlichen Bestimmungen zutreffend dargelegt. Darauf wird verwiesen.
2.2.
2.2.1. Anders als die mit der Invaliditätsbemessung betraute IV-Stelle ist das kantonale Gericht - wie der Beschwerdeführer auch - zum Schluss gelangt, dass die ohne gesundheitliche Beeinträchtigung mutmasslich erzielten Einkünfte (Valideneinkommen) deutlich unter den branchenüblichen Ansätzen bei Bauarbeitern liegen, so dass beim Einkommensvergleich eine Parallelisierung der Vergleichseinkommen vorzunehmen ist. Dies ist von der Verwaltung zu Unrecht ausser Acht gelassen worden. Festgestellt hat die Vorinstanz, dass der Beschwerdeführer im Gesundheitsfall einen Jahreslohn von Fr. 56'104.- realisieren würde. Der vom Bundesamt für Statistik im Rahmen seiner periodisch durchgeführten Lohnstrukturerhebung (LSE) ermittelte Tabellenwert betrug im Baugewerbe im Jahr 2012 (LSE 2012) monatlich Fr. 5'430.-. Angepasst an eine branchenübliche wöchentliche Arbeitszeit im Jahr 2014 von 41,5 Stunden und den Lohnindex 2014 (2'220 gegenüber noch 2'188 im Jahr 2012) ergab sich somit ein Monatslohn von Fr. 5'716.01 und ein Jahreslohn von Fr. 68'592.21. Bei der vom Beschwerdeführer geltend gemachten Normalarbeitszeit von 41,9 Stunden wären es jährlich Fr. 69'253.34. Das für den Beschwerdeführer als Zwischenresultat vorerst ermittelte Valideneinkommen von jährlich Fr. 56'104.- liegt damit 18,20 % unter der branchenüblichen Entlöhnung von Fr. 68'592,21. Bei der geltend gemachten Normalarbeitszeit von wöchentlich 41,9 Stunden betrüge die Unterdurchschnittlichkeit 18,98 %.
2.2.2. Dies hat nach der Rechtsprechung zur Folge, dass entweder der trotz gesundheitlicher Beeinträchtigung unbestrittenermassen zumutbare Jahresverdienst von Fr. 32'602.- (Invalideneinkommen) um den 5 % übersteigenden Prozentsatz der Unterdurchschnittlichkeit von 18,20 %, mithin um 13,20 % auf Fr. 28'298.53 herabzusetzen ist. Ein Vergleich des Valideneinkommens von Fr. 56'104.- mit den Invalideneinkommen von Fr. 28'298.53 ergibt einen Invaliditätsgrad von 49,56 %, mithin ein Ergebnis, das - nach Aufrundung (vgl. <ref-ruling>) - bei einem Invaliditätsgrad von 50 % die beantragte Gewährung einer halben Invalidenrente rechtfertigt. Ginge man - wie der Beschwerdeführer will - von einer Normalarbeitszeit von 41,9 Wochenstunden aus, wäre das Invalideneinkommen um 13,98 % (18,98 % - 5 %) auf Fr. 28'044.24 herabzusetzen. Verglichen mit dem Valideneinkommen von Fr. 56'104.- ergäbe sich ein Invaliditätsgrad von 50,01 %, was wiederum zu einem Invaliditäsgrad von 50 % und damit zu einem Anspruch auf eine halbe Invalidenrente führen würde.
Verglichen mit dem Valideneinkommen von Fr. 56'104.- ergibt sich also ein Invaliditätsgrad von 49,56 %, gerundet somit 50 %. Damit ist die Beschwerde gutzuheissen. Der Beschwerdeführer hat ab. 1. Januar 2015 Anspruch auf eine halbe Invalidenrente. Es erübrigt sich, die umstrittene Normalarbeitszeit im Baugewerbe im Jahre 2014 (E. 2.2.1 hiervor) genauer zu klären, da das Ergebnis keine Auswirkungen auf den Ausgang des Verfahrens zeitigen würde. Ebenso befasst sich das Bundesgericht nicht mit den vom Beschwerdeführer vergleichsweise angeführten Berechnungsvarianten.
2.2.3. Wie die Rechtsprechung festgehalten hat, führt es zum selben Ergebnis, wenn das Valideneinkommen von Fr. 56'104.- um die prozentuale Unterdurchschnittllichkeit des Valideneinkommens gegenüber branchenüblichen Löhnen (hier: 18,20 %) - soweit sie 5 % übersteigt (hier also 13,20 % ausmacht) - angehoben wird (<ref-ruling> E. 4.1 S. 325 f.). Dies hat die Vorinstanz denn auch gemacht. Allerdings ist ihr dabei ein Fehler unterlaufen. Sie hat das Valideneinkommen von Fr. 56'104.- um 13,20 % erhöht, was - nach ihrer Rechnung aufgerundet - Fr. 63'510.- (113,2 % von Fr. 56'104.-) ergab. Verglichen mit dem Invalideneinkommen von Fr. 32'602.- resultierte so ein Invaliditätsgrad von 48,66 %, was für die Zusprache einer halben Invalidenrente nicht genügt.
Richtig betrachtet handelt es sich beim Betrag von Fr. 56'104.- indessen um den bereits um die Unterdurchschnittlichkeit des Valideneinkommens - soweit sie 5 % übersteigt - also um 13,20 % auf 86,80 % reduzierten Betrag. Die Fr. 56'104.- sind deshalb im Zuge der Parallelisierung von 86,80 % auf 100 % zu erhöhen und nicht - wie dies die Vorinstanz gemacht hat - von 100 % auf 113,2 %. Von 86,8 % auf 100 % erhöht ergeben sich Fr. 64'635.94. Verglichen mit dem unbestrittenen Invalideneinkommen von Fr. 32'602.- führt auch dies zu einem Invaliditätsgrad von 49,56 %. Es resultiert also genau derselbe Invaliditätsgrad, der schon mittels Herabsetzung des Invalideneinkommens ermittelt worden ist (E. 2.2.2 hiervor). Aufgerundet ergibt also auch diese Berechnung Anspruch auf eine halbe Invalidenrente. Nicht beizupflichten ist demnach der Argumentation des Beschwerdeführers, wonach es nicht zutreffe, dass die Parallelisierung der Vergleichseinkommen - wie dies praxisgemäss geschieht - entweder auf Seiten des Valideneinkommens durch eine entsprechende Heraufsetzung des effektiv erzielten Einkommens, allenfalls durch Abstellen auf statistische Werte, oder aber auf Seiten des Invalideneinkommens durch eine entsprechende Herabsetzung des statistischen Wertes erfolgen könne. Dies trifft - wie gezeigt - zu.
3.
Bei diesem Ausgang des Verfahrens sind die Gerichtskosten (Art. 65 Abs. 1 und Abs. 4 lit. a BGG) von der Beschwerdegegnerin als unterliegender Partei zu tragen (<ref-law>). Diese hat dem obsiegenden Beschwerdeführer überdies für das bundesgerichtliche Verfahren eine Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG). Für das kantonale Verfahren wird die Vorinstanz die Kosten- und Entschädigungsfolgen entsprechend dem Ausgang des letztinstanzlichen Prozesses neu festzusetzen haben (Art. 67 und 68 Abs. 5 Satz 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Zug, Sozialversicherungsrechtliche Kammer, vom 24. November 2016 und die Verfügung der IV-Stelle des Kantons Zug vom 8. Juni 2016 werden dahingehend abgeändert, dass der Beschwerdeführer ab 1. Januar 2015 Anspruch auf eine halbe Invalidenrente hat.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 16. August 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Krähenbühl