Sachverhalt:
A.
Die Staatsanwaltschaft Höfe Einsiedeln, handelnd durch Staatsanwalt B._, führte ein Strafverfahren gegen A._ und verurteilte ihn mit Strafbefehl vom 25. September 2015 bzw. 23. Oktober 2015 wegen verschiedener Strassenverkehrsdelikte zu einer Busse von Fr. 1'000.--.
B.
Am 17. April 2016 erstattete A._ Strafanzeige gegen Staatsanwalt B._. Nachdem die Kantonspolizei Schwyz A._ und die fallführende Staatsanwältin Alexandra Haag zwei Zeugen befragt hatten, eröffnete Letztere ein Strafverfahren gegen Staatsanwalt B._ wegen Verletzung des Amtsgeheimnisses, versuchten Amtsmissbrauchs und eventualiter versuchter Nötigung. Am 21. Juli 2016 überwies Staatsanwältin Alexandra Haag die Akten der Oberstaatsanwaltschaft des Kantons Schwyz mit dem Begehren, es sei ein ausserordentlicher Staatsanwalt einzusetzen. Daraufhin stellte die Oberstaatsanwaltschaft beim Kantonsgericht Schwyz mit Eingabe vom 18. August 2016 u.a. das Gesuch, für sämtliche ordentlich gewählten Staatsanwälte des Kantons, Staatsanwälte der Bezirke, den stellvertretenden Oberstaatsanwalt und die Oberstaatsanwältin sei infolge Befangenheit der Ausstand zu bewilligen. Mit Schreiben vom 30. August 2016 verlangte auch A._ den Ausstand aller kantonalen Staatsanwälte und Oberstaatsanwälte. Das Kantonsgericht bewilligte mit Beschluss vom 29. September 2016 nur den Ausstand für den stellvertretenden Oberstaatsanwalt des Kantons Schwyz; im Übrigen wies es das Gesuch ab.
C.
Mit Beschwerde in Strafsachen vom 1. November 2016 an das Bundesgericht beantragt A._, der Beschluss des Kantonsgerichts sei aufzuheben und die Sache an dieses zurückzuweisen.
B._ (Beschwerdegegner) und das Kantonsgericht liessen sich vernehmen, ohne einen förmlichen Antrag zu stellen. Die Oberstaatsanwaltschaft führt aus, mit Blick auf einen geordneten und zügigen Fortgang des Vorverfahrens stelle sich die Frage, ob dem Antrag des Beschwerdeführers nicht stattzugeben sei. Der Beschwerdeführer hält in der Replik an seinen Anträgen fest.

Erwägungen:
1.
1.1. Beim angefochtenen Entscheid handelt es sich um einen selbstständig eröffneten Zwischenentscheid über ein Ausstandsbegehren in einer Strafsache (Art. 78 Abs. 1 und Art. 92 Abs. 1 BGG). Das Kantonsgericht Schwyz hat als letzte und einzige kantonale Instanz entschieden (<ref-law> i.V.m. <ref-law>). Der Beschwerdeführer ist als Privatkläger gemäss Art. 81 Abs. 1 lit. b Ziff. 5 BGG zur Beschwerde befugt, wenn der angefochtene Entscheid sich auf die Beurteilung seiner Zivilansprüche auswirken kann. Unbekümmert um die fehlende Legitimation in der Sache selbst kann er die Verletzung von ihm zustehenden Verfahrensrechten geltend machen, deren Missachtung eine formelle Rechtsverweigerung darstellt (<ref-ruling> E. 1.1 S. 5; <ref-ruling> E. 2 S. 250). Auf das Rechtsmittel ist grundsätzlich einzutreten.
1.2. Mit der Beschwerde an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), prüft die bei ihm angefochtenen Entscheide aber grundsätzlich nur auf Rechtsverletzungen hin, die vom Beschwerdeführer geltend gemacht und begründet werden (vgl. <ref-law>).
Soweit dieser am Anfang seiner Rechtsschrift Ausführungen zum Sachverhalt macht und diesen ergänzt, zeigt er nicht in rechtsgenüglicher Weise auf, inwiefern die Feststellungen der Vorinstanz offensichtlich unrichtig oder unvollständig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen und inwiefern deren Berichtigung für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Auf die Beschwerde ist insoweit nicht einzutreten.
1.3. Der Beschwerdeführer beantragt in seiner Rechtsmittelschrift allein die Aufhebung des angefochtenen Entscheids. Er erfüllt damit an sich die Voraussetzung von <ref-law> nicht, wonach die Eingabe an das Bundesgericht einen Antrag in der Sache enthalten muss. Die Rechtsprechung lässt es allerdings genügen, dass ausdrücklich nur ein kassatorisches Begehren gestellt wird, wenn sich aus der Begründung ergibt, was mit der Beschwerde angestrebt wird (<ref-ruling> E. 1.3 S. 317; <ref-ruling> E. 1.4.1 S. 414 f.). Dieser Anforderung genügt die Beschwerdebegründung, denn es geht aus ihr hervor, dass die im Strafverfahren gegen B._ fallführende Staatsanwältin Alexandra Haag in den Ausstand zu versetzen ist.
2.
2.1. Gemäss <ref-law> tritt eine in einer Strafbehörde tätige Person in den Ausstand, wenn sie aus anderen Gründen, insbesondere wegen Freundschaft oder Feindschaft mit einer Partei oder deren Rechtsbeistand, befangen sein könnte. Bei dieser Bestimmung handelt es sich um eine Generalklausel, die alle Ausstandsgründe erfasst, welche in Art. 56 lit. a-e StPO nicht ausdrücklich vorgesehen sind. Sie entspricht <ref-law> und Art. 6 Ziff. 1 EMRK. Danach hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter ohne Einwirken sachfremder Umstände entschieden wird. Die Rechtsprechung nimmt Voreingenommenheit und Befangenheit an, wenn Umstände vorliegen, die bei objektiver Betrachtung geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Es ist nicht auf das subjektive Empfinden einer Partei abzustellen. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen. Für die Ablehnung ist nicht erforderlich, dass der Richter tatsächlich befangen ist (<ref-ruling>78 E. 3.2.1 S. 179; <ref-ruling> E. 5.1 S. 328; <ref-ruling> E. 2.1 S. 144 f.; je mit Hinweisen).
Nach der Rechtsprechung vermögen besondere Gegebenheiten hinsichtlich des Verhältnisses zwischen einem Richter und einer Partei bzw. deren Vertreter den objektiven Anschein der Befangenheit des Ersteren zu begründen und daher dessen Ausstand zu gebieten. In solchen Situationen kann die Voreingenommenheit des Richters indessen nur bei Vorliegen spezieller Umstände angenommen werden. Erforderlich ist, dass die Intensität und Qualität der beanstandeten Beziehung vom Mass des sozial Üblichen abweicht (Urteil 1C_474/2014 vom 9. Februar 2015 E. 3.1), wie z.B. beim Vorliegen von Kameraderie (zum Ganzen: Urteil 1B_55/2015 vom 17. August 2015 E. 3.4).
2.2. Hinsichtlich der Unparteilichkeit des Staatsanwalts im Sinne von Unabhängigkeit und Unbefangenheit kommt <ref-law> ein mit <ref-law> weitgehend übereinstimmender Gehalt zu (<ref-ruling>78 E. 3.2.2 S. 180). Auch ein Staatsanwalt kann abgelehnt werden, wenn Umstände vorliegen, die objektiv geeignet sind, den Anschein der Befangenheit zu erwecken (<ref-ruling> E. 2b S. 198 f. mit Hinweisen). Das gilt allerdings nur für das Vorverfahren. Die Staatsanwaltschaft hat sich jeden unlauteren Vorgehens zu enthalten und sowohl die belastenden als auch die entlastenden Umstände zu untersuchen. Sie darf keine Partei zum Nachteil einer anderen bevorteilen (BGE <ref-ruling> E. 2.2.1 S. 145 mit Hinweisen).
2.3. Der Beschwerdeführer erblickt einen Ausstandsgrund darin, dass sich der Beschwerdegegner und Staatsanwältin Alexandra Haag duzten und gut befreundet seien. Dabei verkennt er aber, dass gemäss den für das Bundesgericht verbindlichen Sachverhaltsfeststellungen der Vorinstanz (<ref-law>) zwischen diesen beiden Personen keine Freundschaft besteht. Indem er das Gegenteil behauptet, stellt er lediglich seine eigene Sicht der Dinge dar, ohne sich substanziiert mit den tatsächlichen Feststellungen des Kantonsgerichts auseinanderzusetzen und darzulegen, inwiefern diese offensichtlich unrichtig sein sollen. Dies ist auch nicht ersichtlich, betont Staatsanwältin Alexandra Haag in der Stellungnahme vom 24. November 2016 doch ausdrücklich, dass sie kein freundschaftliches Verhältnis zum Beschwerdegegner pflege und ihn ausserhalb des beruflichen Umfelds nicht kenne. Aus diesem Schreiben geht ferner hervor, dass sie das Gesuch um Einsetzung eines ausserordentlichen Staatsanwalts entgegen der Auffassung des Beschwerdeführers nicht wegen Befangenheit gestellt habe, sondern weil der Beschwerdeführer ihr "ein übergrosses Misstrauen" entgegen bringe. Dies wird sie aber nicht davon abhalten, im Rahmen des Vorverfahrens sowohl den belastenden als auch den entlastenden Tatsachen mit gleicher Sorgfalt nachzugehen, weshalb der Ausgang des Strafverfahrens weiterhin offen erscheint. Staatsanwältin Alexandra Haag bringt denn auch selber vor, sie sei durchaus im Stande, das Verfahren gegen den Beschwerdegegner mit der gebotenen Neutralität zu führen. Sodann ist - wie aus der vorerwähnten Rechtsprechung erhellt - der Umstand allein, dass der Beschwerdegegner und Staatsanwältin Alexandra Haag per Du verkehren, nicht ausstandsbegründend. Dies räumt der Beschwerdeführer denn auch in seiner Rechtsschrift ein.
2.4. Nicht gefolgt werden kann dem Beschwerdeführer ferner, soweit er vorbringt, Staatsanwältin Alexandra Haag sei befangen, weil sie anlässlich seiner Einvernahme nur den Beschwerdegegner entlastende Fragen gestellt habe und nicht bereit gewesen sei, den von ihm angebotenen Verbindungsnachweis der Swisscom zu den Akten zu nehmen. Diese Einwände scheitern bereits daran, dass den Verfahrensakten keine Hinweise auf eine Einvernahme des Beschwerdeführers durch Staatsanwältin Alexandra Haag entnommen werden können. Abgesehen davon stellen sie - wie auch das Vorbringen, wonach sich Staatsanwältin Alexandra Haag in den Einvernahmen der Zeugen nicht neutral verhalten habe - neue Tatsachen dar, zu deren Geltendmachung nicht erst der Entscheid der Vorinstanz Anlass gab. Vielmehr hätten sie bereits in der Stellungnahme vom 30. August 2016 vor dem Kantonsgericht vorgebracht werden können, weshalb sie vorliegend ohne Beachtung bleiben müssen (<ref-law>). Im Übrigen ist bei der Anwendung von <ref-law> entscheidendes Kriterium, ob bei objektiver Betrachtungsweise der Ausgang des Verfahrens noch als offen erscheint. Wird der Ausstandsgrund aus materiellen oder prozessualen Rechtsfehlern abgeleitet, so sind diese nur wesentlich, wenn sie besonders krass sind oder wiederholt auftreten, so dass sie einer schweren Amtspflichtverletzung gleichkommen und sich einseitig zulasten einer Partei auswirken (<ref-ruling>78 E. 3.2.3 S. 180; <ref-ruling> E 2.3 S. 146). Inwiefern dies hier zutreffen sollte, wird weder in rechtsgenüglicher Weise dargetan noch ist dies ersichtlich. Ausserdem geht es im Ausstandsverfahren nicht darum, die Leitung der Strafuntersuchung bzw. die Zweckmässigkeit der Beweismassnahmen des Beschwerdegegners zu überprüfen. Bei der Abnahme beantragter Beweise handelt es sich um prozessuale Entscheide, die für sich allein keinen Ausstandsgrund zu begründen vermögen (vgl. Urteil 1B_214/2015 vom 1. September 2015 E. 3.2).
3.
Die Beschwerde erweist sich demnach als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (<ref-law>). Dem Beschwerdegegner ist kein nennenswerter Aufwand entstanden, weshalb keine Parteientschädigung auszurichten ist (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, der Oberstaatsanwaltschaft des Kantons Schwyz und dem Kantonsgericht Schwyz schriftlich mitgeteilt.
Lausanne, 7. Februar 2017
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Die Gerichtsschreiberin: Pedretti