Sachverhalt:
A.
Der 1970 geborene A._ war seit 19. Februar 2001 bei der B._ AG als Bauarbeiter ohne abgeschlossene Berufsausbildung angestellt. Im Juni 2004 diagnostizierten die Ärzte ein malignes intestinales B-Zell-Lymphom, worauf A._ sich am 15. Juni 2005 zum Leistungsbezug bei der IV-Stelle Schaffhausen anmeldete. Nach Abklärung der medizinischen und beruflichen Verhältnisse sprach ihm die IV-Stelle ab 1. Mai 2005 eine ganze Invalidenrente zu. Im Rahmen einer ersten Revision reduzierte die IV-Stelle mit Verfügung vom 18. Januar 2012 die Rente auf eine Dreiviertelsrente und stützte sich hierbei wesentlich auf den Bericht vom 17. Mai 2011 des Dr. med. C._, FMH Facharzt für Allgemeine Medizin, der dem Versicherten eine 40%ige Arbeitsfähigkeit in einer leidensangepassten Tätigkeit attestierte. Im Rahmen einer weiteren Revision fand am 21. Januar 2015 eine Untersuchung durch den Regionalen Ärztlichen Dienst (RAD) statt. Gestützt darauf hob die IV-Stelle die Rente nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 7. September 2015 per Ende Oktober 2015 auf.
B.
Mit Entscheid vom 12. Januar 2018 wies das Obergericht des Kantons Schaffhausen die von A._ hiergegen erhobene Beschwerde ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, der kantonale Entscheid sei aufzuheben und es sei ihm eine halbe Rente, allenfalls eine Viertelsrente zuzusprechen; eventualiter sei die Sache an die Vorinstanz zurückzuweisen.
Während die IV-Stelle auf Beschwerdeabweisung schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
1.2. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>).
2.
Streitig ist, ob die Vorinstanz Bundesrecht verletzt hat, als sie die revisionsweise Aufhebung der Invalidenrente per Ende Oktober 2015 bestätigte.
3.
3.1. Das kantonale Gericht hat die gesetzlichen Bestimmungen und die von der Rechtsprechung entwickelten Grundsätze zur Rentenrevision (<ref-law> [SR 830.1]; <ref-ruling> E. 3 S. 132) und zum revisionsrechtlich massgebenden Vergleichszeitraum (<ref-ruling> E. 5.4 S. 114) zutreffend dargelegt, worauf verwiesen wird.
3.2. Im bundesgerichtlichen Verfahren ist zusätzlich zu berücksichtigen, dass die Frage, ob sich eine Arbeits (un) fähigkeit in einem bestimmten Zeitraum in einem rentenrevisionsrechtlich erheblichen Sinne verändert hat, eine Tatfrage darstellt (u.a. Urteile 9C_195/2017 vom 27. November 2017 E. 2.2, 8C_743/2012 vom 4. Februar 2013 E. 2.2 mit Hinweis), die einer letztinstanzlichen Berichtigung oder Ergänzung nur im gesetzlichen Rahmen von <ref-law> zugänglich ist (vgl. E. 1.1 hiervor). Insoweit hat auch die Fragestellung, ob im Einzelfall eine substanzielle Veränderung der Faktenlage oder aber lediglich eine - im revisionsrechtlichen Kontext unbeachtliche (Urteil 8C_972/2009 vom 27. Mai 2010 E. 3.2, nicht publ. in: <ref-ruling>, aber in: SVR 2011 IV Nr. 1 S. 1) - abweichende Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhalts vorliegt, tatsächlichen Charakter (Urteil 8C_475/2012 vom 25. Oktober 2012 E. 3). Ist die Vorinstanz somit gestützt auf eine willkürfreie Würdigung von Beweisen und konkreten Umständen und in Anwendung des zutreffenden Beweismasses zum Schluss gelangt, dass ein Sachverhalt als erstellt angesehen werden kann, ist das Bundesgericht an dieses Beweisergebnis grundsätzlich gebunden (vgl. <ref-ruling> E. 3 S. 220 ff., insb. E. 3b am Ende S. 223; Urteil 8C_743/2012 vom 4. Februar 2013 E. 2.2 mit diversen Hinweisen).
4.
4.1. Vorab ist festzustellen, dass im Gegensatz zum vorinstanzlichen Verfahren der Beschwerdeführer im bundesgerichtlichen Verfahren nicht beantragt, ihm sei weiterhin eine Dreiviertelsrente der Invalidenversicherung zu gewähren. Vielmehr stellt er den Antrag, ihm sei (lediglich) eine halbe Invalidenrente, allenfalls eine Viertelsrente zuzusprechen. Damit anerkennt er selber, dass sich die tatsächlichen Verhältnisse wesentlich verändert haben, und dass mithin ein Revisionsgrund im Sinne von <ref-law> vorliegt. Gleichzeitig bestreitet er allerdings in der Begründung seiner Beschwerde das Vorliegen eines Revisionsgrunds, womit er sich in Widerspruch zum gestellten Rechtsbegehrens setzt. Wie es sich im Einzelnen damit verhält, kann mit Blick auf die nachstehenden Erwägungen offenbleiben.
4.2. Unbestrittenermassen wird der relevante Vergleichszeitraum durch die letzte rechtskräftige materielle Rentenverfügung vom 18. Januar 2012 und der rentenaufhebenden Verfügung vom 7. September 2015 definiert. Uneinigkeit besteht demgegenüber hinsichtlich der Frage, wie sich die gesundheitlichen Verhältnisse zwischen den beiden genannten Daten entwickelt haben. Sowohl die Vorinstanz als auch die IV-Stelle bejahten eine erhebliche Gesundheitsbesserung, wogegen der Beschwerdeführer eine wesentliche Veränderung seines Gesundheitszustandes seit der letzten Rentenrevision im Januar 2012 bestreitet.
4.3. Am 21. Januar 2015 fand eine allgemeinmedizinisch/internistische Untersuchung durch den RAD-Arzt, Dr. med. D._, Facharzt für Allgemeine Innere Medizin, statt. In seinem Bericht hielt dieser fest, dass gegenüber der letzten medizinischen Untersuchung eine deutliche Stabilisierung sowie eine Befund- und Beschwerdebesserung eingetreten sei. Bezüglich des im Juni 2004 erstmals diagnostizierten Lymphoms sei der Versicherte beschwerdefrei. Zehn Jahre nach Abschluss der Therapie sei die letzte Nach- und Kontrolluntersuchung vor ca. einem Jahr, inklusive radiologischer Untersuchungen erfolgt, ohne einen krankhaften Befund festzustellen. Nach Dezember 2004 habe keine Chemotherapie mehr stattgefunden. Als Diagnosen mit Auswirkung auf die Arbeitsfähigkeit bestünden eine chronische Hepatitis B, die derzeit nicht therapiebedürftig sei, ein rezidivfreier Status nach behandeltem Lymphom, seit 2007 in anhaltender Remission. An dieser Beurteilung hielt der RAD-Arzt mit Bericht vom 28. August 2015 fest.
4.4. Die näheren Abklärungen im Rahmen der zweiten Rentenrevision haben gezeigt, dass von Seiten der Tumorerkrankung sich eine wesentliche Verbesserung im Sinne einer anhaltenden Remission eingestellt hat. Soweit der Beschwerdeführer eine willkürliche Sachverhaltsfeststellung erblickt und sich auf die Einschätzung des Hausarztes, Dr. med. C._, beruft, der ihn aufgrund nicht objektivierbarer intestinaler Schmerzen als vollständig arbeitsunfähig deklariert, ist ihm nicht zu folgen. So geht insbesondere das Argument fehl, dass im letzten Revisionsverfahren noch ohne weiteres auf den Bericht des Hausarztes abgestellt wurde. Dazu legte die Vorinstanz nachvollziehbar und begründet dar, weshalb den Berichten des RAD-Arztes im Hinblick auf die Beurteilung der Restarbeitsfähigkeit der Vorzug zu gewähren ist. Im Übrigen ist auf die bundesgerichtliche Rechtsprechung hinzuweisen, wonach für die Annahme einer willkürlichen und damit gegen <ref-law> verstossenden Sachverhaltsfeststellung nicht genügt, wenn eine vom kantonalen Gericht abweichende Beweiswürdigung vertretbar oder gar vorzuziehen wäre (<ref-ruling> E. 4.1 S. 133; <ref-ruling> E. 3.1 S. 153 mit Hinweisen).
4.5. Schliesslich liegt entgegen dem Ansinnen des Beschwerdeführers auch keine Rechtsverweigerung vor, wenn die Vorinstanz - zumindest implizit - mit der IV-Stelle in antizipierter Beweiswürdigung von der Anordnung einer zusätzlichen ärztlichen Begutachtung absieht (vgl. dazu <ref-ruling> E. 3 S. 165). Wie die Vorinstanz willkürfrei feststellte, wurde vorliegend die medizinische Sachlage ausreichend abgeklärt. Insbesondere befindet sich in den Akten ein Bericht vom 23. Mai 2013 des Dr. med. E._, FMH Facharzt für Hämatologie, der ein vom Beschwerdeführer befürchtetes Rezidiv des vor neun Jahren diagnostizierten B-Zell-Lymphoms nach klinischer und serologischen Untersuchungen ausschliessen konnte. Demzufolge verletzte die Vorinstanz kein Bundesrecht, als sie ab dem 21. Januar 2015 eine erhebliche Verbesserung des Gesundheitszustandes - im Sinne einer seit zehn Jahren anhaltenden und vollständigen Remission - feststellte.
5.
Gemäss den willkürfreien Feststellungen der Vorinstanz liegt demzufolge spätestens ab 21. Januar 2015 eine wesentliche Verbesserung des Gesundheitszustands vor. Damit ist ein Revisionsgrund nach <ref-law> zu bejahen und der Rentenanspruch des Versicherten für die Zukunft neu zu prüfen. Gestützt auf den beweiskräftigen Bericht des RAD-Arztes vom 21. Januar 2015 ist spätestens seit diesem Zeitpunkt von einer Arbeitsfähigkeit von 80 % in einer leidensangepassten Tätigkeit auszugehen. Gegen den von der IV-Stelle vorgenommenen Einkommensvergleich, der einen Invaliditätsgrad von 23 % und somit ein rentenausschliessendes Einkommen ergibt (<ref-law>), macht der Beschwerdeführer wie bereits im vorinstanzlichen Verfahren keine Einwände geltend, womit es sein Bewenden hat (E. 1.1 zuvor). Demzufolge ist festzustellen, dass die Vorinstanz kein Bundesrecht verletzt hat, als sie die rentenaufhebende Verfügung vom 7. September 2015 bestätigte. Die Beschwerde ist folglich abzuweisen.
6.
Dem Ausgang des Verfahrens entsprechend hat der unterliegende Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Juli 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Elmiger-Necipoglu