Sachverhalt:
A.
Der 1951 geborene K._ war seit 1973 als Primarlehrer in X._ angestellt. Am 17. Mai 2010 meldete er sich bei der Invalidenversicherung für berufliche Integration/Rente an und erklärte, an Erschöpfungszuständen mit Tinnitus sowie an Konzentrations- und Wortfindungsstörungen zu leiden. Gestützt auf die beigezogenen psychiatrischen Berichte und weitere Unterlagen sprach die IV-Stelle Zug K._ mit Verfügung vom 27. Juni 2011 für die Zeit vom 1. November 2010 bis 31. Januar 2011 bei einem Invaliditätsgrad von 50 % eine halbe Invalidenrente zu. Auf Beschwerde des Versicherten hin und nach Eingang eines Obergutachtens des Psychiaters Dr. med. I._, vom 18. August 2011 anerkannte die IV-Stelle den Anspruch von K._ auf eine unbefristete halbe Invalidenrente ab 1. November 2010, hob die angefochtene Verfügung am 27. Oktober 2011 pendente lite auf und erliess am 10. April 2012 eine entsprechende neue Verfügung. Das Verwaltungsgericht des Kantons Zug schrieb das Verfahren mit Verfügung vom 31. Oktober 2011 zufolge Gegenstandslosigkeit als erledigt vom Geschäftsverzeichnis ab.
B.
Gegen die Verfügung vom 10. April 2012 liess der Kanton Zürich, vertreten durch die Finanzdirektion, diese vertreten durch die BVK Personalvorsorge des Kantons Zürich, Beschwerde einreichen. Er stellte den Antrag, unter Aufhebung der angefochtenen Verfügung sei festzustellen, dass K._ keinen Anspruch auf eine Rente der Invalidenversicherung hat. Mit Entscheid vom 27. Juni 2013 hiess das Verwaltungsgericht des Kantons Zug die Beschwerde gut und hob die angefochtene Verfügung vom 10. April 2010 auf mit der Feststellung, dass der Versicherte keinen Anspruch auf eine Invalidenrente habe.
C.
K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, unter Aufhebung des vorinstanzlichen Entscheids sei ihm eine unbefristete halbe Invalidenrente zuzusprechen; eventuell sei die Sache zu weiteren Abklärungen an das kantonale Gericht zurückzuweisen; subeventuell sei ihm eine befristete Invalidenrente von mindestens 50 % zuzusprechen.
Die IV-Stelle schliesst auf Gutheissung der Beschwerde, soweit damit Leistungen geltend gemacht würden, die mit der Verfügung vom 10. April 2012 übereinstimmen. Der als Mitbeteiligter zur Vernehmlassung eingeladene Kanton Zürich beantragt, die Beschwerde sei abzuweisen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Einleitend bestreitet der Versicherte die Beschwerdelegitimation der BVK (des Kantons Zürich) im kantonalen Beschwerdeverfahren. Dieser Einwand ist unbegründet. Laut <ref-law> ist zur Beschwerde berechtigt, wer durch die angefochtene Verfügung oder den Einspracheentscheid berührt ist und ein schutzwürdiges Interesse an deren Aufhebung oder Änderung hat. Gemäss <ref-ruling> E. 5.1 und 5.2 S. 156 f. erfüllen Personen sowie grundsätzlich auch Versicherungsträger oder Behörden, welche nicht Adressaten der Verfügung sind, die Legitimationsvoraussetzungen nach <ref-law>, wenn sie (kumulativ) einerseits ein tatsächliches, beispielsweise wirtschaftliches Interesse und andererseits eine hinreichende Beziehungsnähe resp. eine Betroffenheit von genügender Intensität aufweisen. Dies trifft im Falle einer Beschwerdeerhebung "contra Adressat" hinsichtlich des anfechtungswilligen Versicherungsträgers zu, wenn ihm gegenüber die dem Rentenentscheid zugrunde liegende Invaliditätsbemessung Verbindlichkeitswirkung entfaltet, was für die Vorsorgeeinrichtung gegenüber einer Rentenverfügung der Invalidenversicherung in der Regel zutrifft. Der Umstand, dass die BVK nicht nur die obligatorischen Leitungen nach BVG, sondern auch weitergehende Leistungen nach Reglement versichert, ändert entgegen den Ausführungen in der Beschwerde nichts. Soweit die Vorsorgeeinrichtung Leistungen aus der obligatorischen beruflichen Vorsorge zu erbringen hat und rechtsgültig in das IV-Verfahren einbezogen wurde, ist sie an die Invaliditätsbemessung der Invalidenversicherung gebunden (<ref-ruling> E. 3.2 S. 4; Urteile 8C_3/2013 vom 24. Juli 2013 und 9C_858/2010 vom 17. Mai 2011).
3.
3.1. Nach der Rechtsprechung kommt einer anhaltenden somatoformen Schmerzstörung (ICD-10 F45.4) ebenso wie grundsätzlich sämtlichen pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebildern ohne nachweisbare organische Grundlage (<ref-ruling> E. 3.2.3 S. 283) nur ausnahmsweise invalidisierender, d.h. einen Rentenanspruch begründender Charakter zu (<ref-law> sowie Art. 3 Abs. 1 und Art. 6 ATSG; grundlegend <ref-ruling>). Entscheidend ist, ob und inwiefern die versicherte Person über psychische Ressourcen verfügt, die es ihr erlauben, trotz den subjektiv erlebten Schmerzen einer Arbeit nachzugehen (<ref-ruling> E. 2.2.4 S. 355; <ref-ruling> E. 4b/cc in fine und E. 5a S. 299 unten). Umstände, die bei Vorliegen eines solchen Krankheitsbildes die Verwertung der verbliebenen Arbeitskraft auf dem Arbeitsmarkt als unzumutbar erscheinen lassen können, sind: Eine Komorbidität im Sinne eines vom Schmerzgeschehen losgelösten eigenständigen psychischen Leidens von erheblicher Schwere, Intensität, Ausprägung und Dauer, chronische körperliche Begleiterkrankungen mit mehrjährigem Krankheitsverlauf bei unveränderter oder progredienter Symptomatik ohne längerfristige Remission, sozialer Rückzug, ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn), unbefriedigende Ergebnisse von konsequent durchgeführten Behandlungen (auch mit unterschiedlichem therapeutischem Ansatz) und gescheiterte Rehabilitationsmassnahmen bei vorhandener Motivation und Eigenanstrengung der versicherten Person (<ref-ruling> E. 4.2.2 S. 71; <ref-ruling> E. 2.2.3 S. 353 ff.; Urteil 9C_1061/2009 vom 11. März 2010 E. 5.4.3.1.1). Umgekehrt sprechen u.a. eine erhebliche Diskrepanz zwischen den geschilderten Schmerzen und dem gezeigten Verhalten oder der Anamnese, die Angabe intensiver in der Umschreibung vager Schmerzen oder behauptete schwere Einschränkungen im Alltag bei weitgehend intaktem psychosozialen Umfeld gegen das Vorliegen eines invalidisierenden Gesundheitsschadens (<ref-ruling> E. 2.1 S. 51; Urteil 9C_736/2011 vom 7. Februar 2012 E. 1.1).
3.2. Unabdingbare Grundlage für die Beurteilung der Rechtsfrage, ob und gegebenenfalls inwieweit einer versicherten Person unter Aufbringung allen guten Willens trotz ihrer Schmerzen die Verwertung ihrer verbleibenden Arbeitskraft zumutbar ist oder nicht, bilden die fachärztlichen Stellungnahmen zum psychischen Gesundheitszustand und zu dem aus medizinischer Sicht (objektiv) vorhandenen Leistungspotenzial (<ref-ruling> E. 2.2.5 S. 355). Bei ihrer Einschätzung der psychischen Ressourcen des Exploranden, mit den Schmerzen umzugehen, haben die begutachtenden Ärzte notwendigerweise auch die in E. 3.1 hievor genannten Kriterien zu beachten (<ref-ruling> E. 7.1.3 S. 213; <ref-ruling> E. 2.2.4 S. 355) und sich daran zu orientieren (Ulrich Meyer, Die Rechtsprechung zur Arbeitsunfähigkeitsschätzung bei somatoformen Schmerzstörungen, in: Medizin und Sozialversicherung im Gespräch, 2006, S. 221). Insbesondere haben sie sich dazu zu äussern, ob eine psychische Komorbidität gegeben ist oder weitere Umstände vorliegen, welche die Schmerzbewältigung behindern (SVR 2008 IV Nr. 23 S. 71, I 683/06 E. 2.2). Nicht erforderlich ist, dass sich eine psychiatrische Expertise in jedem Fall über jedes einzelne der genannten Kriterien ausspricht; massgeblich ist eine Gesamtwürdigung der Situation (SVR 2005 IV Nr. 6 S. 21, I 457/02 E. 7.4 mit Hinweis, nicht publ. in: <ref-ruling>). Gestützt darauf haben die rechtsanwendenden Behörden zu prüfen, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine im Hinblick auf eine erwerbliche Tätigkeit nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung zu erlauben (Urteil 9C_482/2010 vom 21. September 2010 E. 4.3). Die Prüfung schliesst die Beurteilung der Frage ein, inwiefern die ärztliche Einschätzung der psychisch bedingten Arbeitsunfähigkeit invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mitberücksichtigt (Urteile 9C_651/2009 vom 7. Mai 2010 E. 5.1 und 9C_1040/2010 vom 6. Juni 2011 E. 3.4.1; nicht publizierte E. 4.2 von <ref-ruling>).
4.
4.1. Gemäss Gutachten des Psychiaters Dr. med. I._ vom 18. August 2011 leidet der Beschwerdeführer an einer undifferenzierten Somatisierungsstörung (ICD-10 F45.1) unter dem Erscheinungsbild eines Erschöpfungssyndroms (273) bei Status nach Anpassungsstörung mit Angst und depressiver Reaktion gemischt. Die diagnostizierte undifferenzierte Somatisierungsstörung gehört zum Symptomenkomplex der somatoformen Störungen (Urteil 8C_663/2010 vom 15. November 2010 E. 5.2.5). Die vorstehend zitierte Rechtsprechung (E. 3 hievor) ist somit im vorliegenden Fall anwendbar.
4.2. Weder Obergutachter Dr. med. I._, auf dessen Angaben in der Expertise vom 18. August 2011 sich die Vorinstanz zur Hauptsache stützt, noch RAD-Arzt Dr. med. R._ (im Psychiatrischen Konsilium vom 19. Oktober 2011) äussern sich zu den nach der Rechtsprechung massgebenden Kriterien (<ref-ruling> E. 2.2.3 S. 353 ff.), wozu sie indessen gehalten gewesen wären (E. 3.2 hievor). Da aus den fachärztlichen Stellungnahmen nicht ersichtlich ist, ob Umstände vorliegen, welche den Umgang mit den Schmerzen behindern, lässt sich aus Sicht der rechtsanwendenden Behörde nicht beurteilen, ob der Versicherte über psychische Ressourcen verfügt, die es ihm gestatten, trotz der subjektiv erlebten Schmerzen eine Erwerbstätigkeit zu verrichten. Der rechtserhebliche medizinische Sachverhalt ist daher unvollständig abgeklärt, weshalb das Bundesgericht nicht an die tatbeständlichen Feststellungen des kantonalen Gerichts gebunden ist (E. 1 hievor). Die Sache ist zu zusätzlichen Abklärungen an die Vorinstanz zurückzuweisen, welche zweckmässigerweise Obergutachter Dr. med. I._ mit der Ergänzung seiner Expertise vom 18. August 2011 hinsichtlich der Kriterien, welche gegebenenfalls die Verwertung der verbliebenen Arbeitskraft auf dem Arbeitsmarkt als unzumutbar erscheinen lassen, beauftragen wird. Gestützt auf die vervollständigte Expertise wird das Verwaltungsgericht über die Beschwerde neu entscheiden.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden IV-Stelle aufzuerlegen (<ref-law>). Diese hat dem Beschwerdeführer überdies eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1und 2 BGG). Die Verfahrensbeteiligten nach <ref-law> haben keine Parteistellung (nicht publizierte E. 8 von <ref-ruling>), weshalb dem Kanton Zürich keine Gerichtskosten zu überbinden sind.

Demnach erkennt das Bundesgericht:
1.
In teilweiser Gutheissung der Beschwerde wird der angefochtene Entscheid vom 27. Juni 2013 aufgehoben. Die Sache wird an das Verwaltungsgericht des Kantons Zug zurückgewiesen, damit es, nach erfolgter Abklärung im Sinne der Erwägungen, über die Beschwerde neu entscheide.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Kanton Zürich, vertreten durch die Finanzdirektion des Kantons Zürich, diese vertreten durch die BVK Personalvorsorge des Kantons Zürich, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 26. März 2014
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Widmer