Citation: 9C_236/2014 E.

Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A.________ beantragen, in Aufhebung des vorinstanzlichen Entscheides sei ihm ab 1. Juni 2010 eine halbe, eventualiter eine Viertelsrente der Invalidenversicherung zuzusprechen. Subeventuell sei das kantonale Gericht anzuweisen, damit diese - nach Durchführung eines neuen Einkommensvergleiches - über seinen Rentenanspruch erneut entscheide. Die IV-Stelle des Kantons Zürich schliesst auf Abweisung der Beschwerde. Kantonales Gericht und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.