Sachverhalt:
A.
Der 1975 geborene A._, als Bodenleger tätig, zog sich bei Unfällen vom 5. August 2002 und 20. August 2004 Verletzungen im Bereich des linken Kniegelenks und an der Halswirbelsäule (HWS) zu, für welche die Schweizerische Unfallversicherungsanstallt (SUVA), bei der er gegen Unfälle versichert war, die gesetzlichen Leistungen erbrachte. Mit Verfügung vom 17. Januar 2007 sprach ihm die SUVA auf der Grundlage einer Erwerbsunfähigkeit von 47 % ab 1. März 2006 eine Invalidenrente der Unfallversicherung zu. Am 19. August 2005 hatte sich A._ unter Hinweis auf Beschwerden im Bereich der HWS bei der Invalidenversicherung zum Leistungsbezug angemeldet. Gestützt auf Abklärungen in medizinischer und erwerblicher Hinsicht sowie nach Beizug der Akten der SUVA sprach die IV-Stelle des Kantons Zürich dem Versicherten mit Verfügung vom 20. November 2008 rückwirkend ab 1. August 2005 bei einem Invaliditätsgrad von 50 % eine halbe Invalidenrente zu. Im Rahmen einer von Amtes wegen eingeleiteten Rentenrevision holte die IV-Stelle ein polydisziplinäres Gutachten der MEDAS Zentralschweiz vom 27. März 2012 ein. Mit Verfügung vom 8. Mai 2014 hob sie die Verfügung vom 20. November 2008 wiedererwägungsweise auf und setzte die bisher ausgerichtete halbe Invalidenrente ab 1. Juli 2014 auf eine Viertelsrente herab, wobei sie den Invaliditätsgrad nunmehr auf 43 % festsetzte.
B.
Die hiegegen eingereichte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 27. August 2015 ab, hob die Verfügung vom 8. Mai 2014 nach vorgängiger Androhung einer reformatio in peius und Einräumung der Gelegenheit zur Stellungnahme, wovon der Versicherte am 20. Oktober 2014 Gebrauch gemacht hatte, auf und erkannte, dass A._ ab 1. Juli 2014 keinen Anspruch auf eine Invalidenrente mehr habe.
C.
Mit Beschwerde in öffentlich rechtlichen Angelegenheiten lässt A._ beantragen, unter Aufhebung des vorinstanzlichen Entscheids, sei die IV-Stelle zu verpflichten, ihm weiterhin eine halbe Rente, eventuell eine Viertelsrente der Invalidenversicherung, auszurichten.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Gemäss Art. 53 Abs. 2 in Verbindung mit <ref-law> und <ref-law> kann der Versicherungsträger auf formell rechtskräftige Verfügungen oder Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist. Die Wiedererwägung dient der Korrektur einer anfänglich unrichtigen Rechtsanwendung einschliesslich unrichtiger Feststellung im Sinne der Würdigung des Sachverhalts.
Das Erfordernis der zweifellosen Unrichtigkeit ist in der Regel erfüllt, wenn eine Leistungszusprache aufgrund falsch oder unzutreffend verstandener Rechtsregeln erfolgt ist oder wenn massgebliche Bestimmungen nicht oder unrichtig angewandt wurden. Anders verhält es sich, wenn der Wiedererwägungsgrund im Bereich materieller Anspruchsvoraussetzungen liegt, deren Beurteilung notwendigerweise Ermessenszüge aufweist. Erscheint die Beurteilung einzelner Schritte bei der Feststellung solcher Anspruchsvoraussetzungen (Invaliditätsbemessung, Arbeitsunfähigkeitsschätzung, Beweiswürdigung, Zumutbarkeitsfragen) vor dem Hintergrund der Sach- und Rechtslage, wie sie sich im Zeitpunkt der rechtskräftigen Leistungszusprechung darbot, als vertretbar, scheidet die Annahme zweifelloser Unrichtigkeit aus. Zweifellos ist die Unrichtigkeit, wenn kein vernünftiger Zweifel daran möglich ist, dass die Verfügung unrichtig war. Es ist nur ein einziger Schluss - derjenige auf die Unrichtigkeit der Verfügung - denkbar (SVR 2010 IV Nr. 5 S. 10, 8C_1012/2008; Urteile 9C_215/2015 vom 10. Juni 2015, 9C_135/2014 vom 14. Mai 2014, 9C_629/2013 vom 13. Dezember 2013, 9C_339/2010 vom 30. November 2010 E. 3, 9C_760/2010 vom 17. November 2010 E. 2 und 9C_575/2007 vom 18. Oktober 2007 mit Hinweisen).
Um wiedererwägungsweise auf eine verfügte Leistung zurückkommen zu können, genügt es nicht, wenn ein einzelnes Anspruchselement rechtswidrig festgelegt wurde. Vielmehr hat sich die Leistungszusprache auch im Ergebnis als offensichtlich unrichtig zu erweisen. So muss etwa, damit eine zugesprochene Rente wegen einer unkorrekten Invaliditätsbemessung wiedererwägungsweise aufgehoben werden kann - nach damaliger Sach- und Rechtslage - erstellt sein, dass eine korrekte Invaliditätsbemessung hinsichtlich des Leistungsanspruchs zu einem andern Ergebnis geführt hätte (<ref-ruling> E. 3.1 S. 79).
3.
3.1. Die Vorinstanz sieht die Wiedererwägungsvoraussetzungen als erfüllt, weil die IV-Stelle beim Einkommensvergleich, welcher der Verfügung vom 20. November 2008 zu Grunde lag, im Widerspruch zur Rechtsprechung als hypothetisches Einkommen ohne Invalidität (Valideneinkommen) das Einkommen herangezogen habe, das der Beschwerdeführer als Selbstständigerwerbender während einer kurzen Zeit - von Februar bis August 2004 - erzielte, was keine hinreichende Grundlage darstelle. Als zweifellos unrichtig erachtete das kantonale Gericht die Verfügung vom 20. November 2008 auch insofern, als darin das Invalideneinkommen gestützt auf Tabellenlöhne laut Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) bemessen wurde. Auf Grund der Anlehre und der langen Berufserfahrung als Bodenleger hätte er stattdessen dem Anforderungsniveau 3 (Berufs- und Fachkenntnisse vorausgesetzt) zugeordnet werden müssen. Eine korrekte Bemessung anhand von Tabellenlöhnen hätte einen Invaliditätsgrad von 36 % ergeben (Valideneinkommen Fr. 90'000.-; Invalideneinkommen [nach einem leidensbedingten Abzug von 20 %] Fr. 58'012.-; Erwerbseinbusse Fr. 31'988.-).
3.2. Der Beschwerdeführer macht geltend, er habe vor Gründung seiner eigenen Gesellschaft (GmbH) jahrelang in der Unternehmung seines Bruders gearbeitet und Einkünfte in vergleichbarer Höhe wie als Selbstständigerwerbender erzielt. Von zweifelloser Unrichtigkeit der ursprünglichen Verfügung hinsichtlich der Bemessung des Valideneinkommens könne daher nicht die Rede sein. Mit Bezug auf das Invalideneinkommen fehle im angefochtenen Entscheid eine Begründung dafür, weshalb die Wahl des Anforderungsniveaus 4 der Tabellenlöhne gemäss ursprünglicher Verfügung zweifellos unrichtig gewesen sein soll. Die Arbeit als Bodenleger könne er invaliditätsbedingt nicht mehr ausüben. Im Weiteren verfüge er über keine Anlehre. Die Wiedererwägungsvoraussetzungen seinen daher nicht gegeben. Die Vorinstanz habe eine voraussetzungslose Neuprüfung des Rentenanspruchs vorgenommen und sei auf diese Weise zu einem Invaliditätsgrad von 36 % gelangt, der keinen Anspruch begründe.
3.3. Die Voraussetzungen für die Wiedererwägung einer formell rechtskräftigen Verfügung, wie sie vom Bundesgericht in ständiger Rechtsprechung umschrieben werden (E. 2 hievor), sind im vorliegenden Fall nicht erfüllt. Es trifft zwar zu, dass die ursprüngliche Invalitätsbemessung der Verwaltung gewisse Fragen aufwirft, wie die Vorinstanz festgestellt hat. Die Tatsache, dass die IV-Stelle für die Verfügung vom 20. November 2008 als Valideneinkommen das Einkommen herangezogen hat, das der Beschwerdeführer während einer kurzen Zeitspanne selbstständiger Erwerbstätigkeit verdient hat, bewirkte jedoch keine zweifellose Unrichtigkeit der damaligen Rentenverfügung. Dem Lohnausweis für die Steuererklärung der B._ GmbH vom 31. Dezember 2003 ist zu entnehmen, dass der Versicherte im Jahr 2003 einen Bruttolohn von Fr. 102'916.- erzielt hat, während er im Jahr 2002 gemäss dem entsprechenden Lohnausweis Fr. 98'490.- verdient hat. Diese Beträge liegen nicht wesentlich unter dem von der IV-Stelle in der Verfügung vom 20. November 2008 als massgebendes Valideneinkommen betrachteten Lohn von Fr. 104'000.-. Von zweifelloser Unrichtigkeit der Verfügung kann unter diesem Gesichtswinkel somit nicht gesprochen werden. Dass in der Verfügung vom 20. November 2008 das Invalideneinkommen des Beschwerdeführers gestützt auf die Tabellenlöhne gemäss Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) festgelegt wurde, vermag entgegen den Ausführungen der Vorinstanz ebenfalls keine Wiedererwägung der rechtskräftigen Verfügung zu begründen. Wie der Beschwerdeführer zu Recht einwendet, verfügt er über keine reguläre Berufsausbildung. Der Umstand, dass er eine lange Erfahrung als Bodenleger aufweist, lässt das Abstellen auf Anforderungsniveau 4 nicht als zweifellos unrichtig erscheinen, zumal er gerade diese Erwerbstätigkeit aus gesundheitlichen Gründen nicht mehr auszuüben vermag. Dass der Einkommensvergleich seinerzeit auch mit anderen Zahlen hätte durchgeführt werden können, wie sie die Vorinstanz als massgeblich erachtet hat, ist nicht ausgeschlossen, genügt jedoch nicht, um die ursprüngliche Verfügung als zweifellos unrichtig erscheinen zu lassen. Die Invaliditätsbemessung erscheint vor dem Hintergrund der Sach- und Rechtslage, wie sie sich im Zeitpunkt der rechtskräftigen Leistungszusprechung gemäss Verfügung vom 20. November 2008 darbot, als vertretbar (E. 2 hievor).
4.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden IV-Stelle aufzuerlegen (<ref-law>). Diese hat dem Beschwerdeführer überdies eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 27. August 2015 und die Verfügung der IV-Stelle des Kantons Zürich vom 8. Mai 2014 werden aufgehoben.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 21. Januar 2016
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Glanzmann
Der Gerichtsschreiber: Widmer