Sachverhalt:
A. A.a Die SIX Swiss Exchange AG, Zürich, (Beschwerdeführerin) bzw. ihr Regulatory Board bewilligte am 7. Mai 2009 ein Gesuch der X._ AG um Dekotierung. Dagegen erhob A._ (Beschwerdegegner), der an der X._ AG mit über 3 % des Aktienkapitals beteiligt ist, eine Beschwerde bei der internen Beschwerdeinstanz der Beschwerdeführerin, die mit Entscheid vom 31. August 2009 abgewiesen wurde. Als Rechtsmittelinstanz wurde das in den Allgemeinen Geschäftsbedingungen der Beschwerdeführerin verankerte Schiedsgericht (nachfolgend SIX Schiedsgericht) genannt.
A.b Mit Schreiben vom 28. September 2009 leitete der Beschwerdegegner beim SIX Schiedsgericht das Schiedsverfahren ein. Da die Beschwerdeführerin weder die vom Beschwerdegegner vorgeschlagene Schiedsvereinbarung unterzeichnete, noch sich auf das Verfahren einliess, beschränkte das Schiedsgericht das Verfahren in der Folge auf die Frage seiner Zuständigkeit und bejahte diese mit Zwischenentscheid vom 11. März 2010.
B. Die Beschwerdeführerin erhob am 12. April 2010 Nichtigkeitsbeschwerde beim Obergericht des Kantons Zürich mit dem Antrag, es sei der Zwischenentscheid vom 11. März 2010 aufzuheben und die Unzuständigkeit des SIX Schiedsgerichts bezüglich der vorliegenden Streitsache festzustellen.
Das Obergericht des Kantons Zürich wies die Nichtigkeitsbeschwerde mit Zirkular-Erledigungsbeschluss vom 18. August 2010 ab, soweit es darauf eintrat.
C. Mit Beschwerde in Zivilsachen beantragt die Beschwerdeführerin dem Bundesgericht, es sei der Zirkular-Erledigungsbeschluss des Obergerichts des Kantons Zürich vom 18. August 2010 aufzuheben und es sei die Zuständigkeit des Schiedsgerichts zu verneinen.
Der Beschwerdegegner beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
D. Mit Verfügung vom 14. Oktober 2010 erteilte das Bundesgericht der Beschwerde aufschiebende Wirkung.
Erwägungen:
1. 1.1 Angefochten ist der Entscheid eines oberen kantonalen Gerichts, das als Rechtsmittelinstanz im Sinne von Art. 3 lit. f des Konkordats vom 27. März 1969 über die Schiedsgerichtsbarkeit (KSG) eine Nichtigkeitsbeschwerde gegen einen Schiedsentscheid abgewiesen hat. Es handelt sich beim angefochtenen Entscheid der Vorinstanz um einen kantonal letztinstanzlichen (Art. 75 BGG), selbständig eröffneten Zwischenentscheid über die Zuständigkeit, gegen den nach Art. 92 Abs. 1 BGG die Beschwerde zulässig ist. Die Vorinstanz ging von einem Fr. 30'000.-- übersteigenden Streitwert aus (vgl. Art. 74 Abs. 1 lit. b BGG), was auch der Beschwerdegegner nicht in Frage stellt. Auch die übrigen Sachurteilsvoraussetzungen sind erfüllt und auf die Beschwerde ist grundsätzlich einzutreten.
1.2 Das Bundesgericht überprüft nur den Entscheid der Kassationsinstanz, nicht auch den Schiedsspruch selbst (BGE 133 III 634 E. 1.1.1 S. 636). Ein Entscheid in der Sache selbst nach Art. 107 BGG kommt unter anderem in Betracht, wenn die Beschwerde wegen Unzuständigkeit des Schiedsgerichts (vgl. Art. 36 lit. b KSG) gutgeheissen wird (BGE 133 III 634 E. 1.1.2 S. 636).
2. Die Beschwerdeführerin rügt hinsichtlich der von der Vorinstanz bejahten Zuständigkeit des SIX Schiedsgerichts unter anderem eine Verletzung von Art. 164 BV, Art. 8 und 9 des Bundesgesetzes vom 24. März 1995 über die Börsen und den Effektenhandel (Börsengesetz, BEHG; SR 954.1) sowie Art. 4 und 6 KSG.
2.1 Die Vorinstanz bestätigte die Erwägung des SIX Schiedsgerichts, wonach das Kotierungsreglement (nachfolgend KR) von der Beschwerdeführerin auf Grundlage einer vom Bund delegierten Rechtsetzungskompetenz in Anwendung von Art. 8 BEHG erlassen worden sei. Nach dieser Bestimmung sei die Beschwerdeführerin berechtigt und verpflichtet, im öffentlichen Interesse bestimmte Vorschriften über die Kotierung bzw. Dekotierung zu erlassen und gegenüber jedermann gleich anzuwenden. Entsprechend sei das Kotierungsreglement öffentlich-rechtlicher Natur und weise zumindest in Bezug auf Fragen der (De-)Kotierung Rechtssatzcharakter auf.
Die Vorinstanz legte weiter Art. 62 Abs. 2 des geltenden Kotierungsreglements der Beschwerdeführerin aus. Dieses sieht Folgendes vor:
"Entscheide und Vorentscheide des Regulatory Board können innert 20 Börsentagen nach Zustellung oder Veröffentlichung an die Beschwerdeinstanz weitergezogen werden.
Die Entscheidungen der Beschwerdeinstanz können ihrerseits innert 20 Börsentagen an das Schiedsgericht der SIX Swiss Exchange weitergezogen werden."
Die Vorinstanz untersuchte, ob das SIX Schiedsgericht in korrekter Auslegung von Art. 62 Abs. 2 KR gefolgert habe, dass sich auch der Beschwerdegegner an das Schiedsgericht wenden könne. Dies sei zu bejahen, womit diese Bestimmung als höherrangiges Bundesrecht dem KSG, das dem kantonalen Recht angehört, vorgehe. Eine schriftliche Schiedsvereinbarung nach Art. 4 und Art. 6 KSG werde damit entbehrlich, da Art. 62 Abs. 2 KR eine solche Vereinbarung ersetze. Entsprechend bejahte die Vorinstanz die Zuständigkeit des vom Beschwerdegegner angerufenen SIX Schiedsgerichts.
Die Vorinstanz untersuchte, ob das SIX Schiedsgericht in korrekter Auslegung von Art. 62 Abs. 2 KR gefolgert habe, dass sich auch der Beschwerdegegner an das Schiedsgericht wenden könne. Dies sei zu bejahen, womit diese Bestimmung als höherrangiges Bundesrecht dem KSG, das dem kantonalen Recht angehört, vorgehe. Eine schriftliche Schiedsvereinbarung nach Art. 4 und Art. 6 KSG werde damit entbehrlich, da Art. 62 Abs. 2 KR eine solche Vereinbarung ersetze. Entsprechend bejahte die Vorinstanz die Zuständigkeit des vom Beschwerdegegner angerufenen SIX Schiedsgerichts.
2.2 2.2.1 Die Beschwerdeführerin hat mit ihrem Kotierungsreglement nach Art. 8 Abs. 1 BEHG Vorschriften über die Zulassung von Effekten zum Handel erlassen. Diese reglementarischen Bestimmungen stellen einen wichtigen Teil der börslichen Selbstregulierung dar (MARK-OLIVER BAUMGARTEN/MARTIN LANZ, in: Basler Kommentar, Börsengesetz/Finanzmarktaufsichtsgesetz/, 2. Aufl. 2010, N. 1 zu Art. 8 BEHG; ROLF H. WEBER, Börsenrecht, 2001, N. 2 zu Art. 8 BEHG; ROLF WATTER/DIETER DUBS, Bedeutung und Zukunft der Selbstregulierung im Kapitalmarktrecht, Der Schweizer Treuhänder, 79/2005 S. 746; PETER NOBEL, Schweizerisches Finanzmarktrecht und internationale Standards, 3. Aufl. 2010, § 10 Rz. 10 ff.). Sie bedürfen nach Art. 4 Abs. 2 BEHG der Genehmigung der Eidgenössischen Finanzmarktaufsicht (FINMA).
Die Rechtsnatur des Kotierungsreglements ist umstritten. Nach einem Teil der Lehre handelt es sich dabei um eine privatrechtliche Vereinbarung, die nur zwischen den Teilnehmern der Börse wirkt (DANIEL DAENIKER/STEFAN WALLER, in: Basler Kommentar, Börsengesetz/Finanzmarktaufsichtsgesetz, 2. Aufl. 2010, N. 13 f. zu Art. 4 BEHG; ROLF H. WEBER/JEAN-MARC SCHALLER, Rechtliche Aspekte der Selbstkotierung einer Börsen-AG, SJZ 99/2003 S. 371 f.; WEBER, a.a.O., N. 8 zu Art. 4 BEHG; MARKUS RUFFNER, Gesteuerte Selbstregulierung der Börsen, in: Christian Meier-Schatz [Hrsg.], Das neue Börsengesetz der Schweiz, 1996, S. 55) bzw. um ein privates Reglement eigener Art, dem sich der Emittent mit seiner Zustimmung im Rahmen des Kotierungsgesuchs unterwirft (CAROLINE MÖHRLE, Delisting, 2006, Rz. 96; DIESELBE, Delisting - ausgewählte Aspekte, in: Thomas U. Reutter/Thomas Werlen [Hrsg.], Kapitalmarkttransaktionen II, 2007, S. 39). Nach anderer Ansicht, die vom SIX Schiedsgericht und der Vorinstanz geteilt wird, handelt es sich beim Kotierungsreglement um Rechtsnormen, die von der Börse im Rahmen einer Delegation von Rechtsetzungsbefugnissen erlassen werden (PETER BÖCKLI, Schweizer Aktienrecht, 4. Aufl. 2009, § 7 Rz. 15 S. 773; PETER NOBEL, Aktien- und Börsenrecht: Vielfalt und Einheit, SZW 2008 S. 182; DIETER ZOBL/STEFAN KRAMER, Schweizerisches Kapitalmarktrecht, 2004, Rz. 138; PETER HSU, Ad-hoc-Publizität, 2000, S. 271 ff.; ROLF WATTER/PAULA REICHENBERG, La responsabilité des sociétés cotées en bourse liée à leurs communications financières défaillantes, AJP 2005 S. 980 f.; WATTER/DUBS, a.a.O., S. 747; ANDREAS RÖTHELI/JACQUES IFFLAND, La décotation, SZW 2004 S. 309 ff.).
Selbst wenn die Ansicht des SIX Schiedsgerichts sowie der Vorinstanz zutreffen sollte, dass es sich beim Kotierungsreglement der Beschwerdeführerin, das in Art. 62 Abs. 2 für die Anfechtung von Entscheiden der internen Beschwerdeinstanz die Zuständigkeit des SIX Schiedsgerichts vorsieht, grundsätzlich um Normen des Bundesrechts handelt, wäre eine normative Geltung dieser Verfahrensbestimmung gegenüber jedermann von vornherein nur denkbar, sofern bei deren Erlass die Voraussetzungen der Gesetzesdelegation eingehalten wurden. Erforderlich wäre für die auf diese Weise statuierte Zuständigkeit des SIX Schiedsgerichts nach Art. 164 Abs. 2 BV jedenfalls insbesondere, dass sich die Übertragung der Rechtsetzungsbefugnis an die Beschwerdeführerin auf eine Grundlage in einem Erlass der Gesetzesstufe stützen kann (Art. 164 Abs. 2 BV; HÄFELIN/HALLER/KELLER, Schweizerisches Bundesstaatsrecht, 7. Aufl. 2008, Rz. 1890; vgl. auch CHRISTOPH ERRASS, Kooperative Rechtssetzung, 2010, Rz. 340 f.; PIERRE TSCHANNEN, in: Bernhard Ehrenzeller und andere [Hrsg.], Die Schweizerische Bundesverfassung, 2. Aufl. 2008, N. 33 ff. zu Art. 164 BV).
Anzufügen bleibt, dass es sich bei einem derart gesetzlich verankerten Spruchkörper trotz dessen Bezeichnung nicht um ein eigentliches Schiedsgericht im Sinne von Art. 1 Abs. 1 KSG handeln würde, sondern um ein gesetzlich vorgesehenes Spezialgericht, zumal die Schiedsgerichtsbarkeit auf privater Abrede beruht (BGE 125 I 389 E. 4a S. 390; BERNHARD BERGER/FRANZ KELLERHALS, International and Domestic Arbitration in Switzerland, 2. Aufl. 2010, Rz. 4; LALIVE/POUDRET/REYMOND, Le droit de l'arbitrage interne et international en Suisse, 1989, N. 1.2 zu Art. 1 KSG S. 27 sowie N. 1.1 zu Art. 4 KSG S. 45; MAX GULDENER, Schweizerisches Zivilprozessrecht, 3. Aufl. 1979, S. 594 ff.; vgl. auch FELIX R. EHRAT/DANIEL C. PFIFFNER, in: Basler Kommentar, Internationales Privatrecht, 2. Aufl. 2007, N. 10 zu Art. 176 IPRG).
2.2.2 Die Vorinstanz leitete die Kompetenz der Beschwerdeführerin zum Erlass von Vorschriften über die Voraussetzungen sowie das Verfahren der Kotierung bzw. Dekotierung aus Art. 8 BEHG ab. Diese Bestimmung sieht insbesondere vor, dass die Börse ein Reglement über die Zulassung von Effekten zum Handel erlässt (Abs. 1), das bestimmte Vorschriften zu enthalten (Abs. 2) und international anerkannten Standards Rechnung zu tragen hat (Abs. 3). Die Vorinstanz geht davon aus, dass Art. 8 BEHG die Übertragung einer Rechtsetzungsbefugnis zur Einsetzung eines Schiedsverfahrens mit einschliesse. Sie lässt dabei jedoch unberücksichtigt, worauf die Beschwerdeführerin zu Recht hinweist, dass der Rechtsweg im Zusammenhang mit der Kotierung bzw. Dekotierung von Effekten in Art. 9 BEHG gesetzlich geregelt ist. Art. 9 Abs. 1 BEHG sieht vor, dass die Börse eine unabhängige Beschwerdeinstanz bestellt, die unter anderem bei Verweigerung sowie bei Widerruf der Effektenzulassung angerufen werden kann. Dabei regelt die Börse die Organisation und das Verfahren dieser unabhängigen Beschwerdeinstanz, wobei die Organisationsstruktur, die Verfahrensvorschriften und die Ernennung der Mitglieder der Genehmigung durch die FINMA bedürfen (Art. 9 Abs. 2 BEHG).
Nach Durchführung des Beschwerdeverfahrens steht nach Art. 9 Abs. 3 BEHG die Klage beim Zivilrichter offen. Im Gegensatz zum Beschwerdeverfahren sieht das Gesetz für das Verfahren vor dem Zivilrichter keine Regelungskompetenz der Börse vor. Der Rechtsweg nach Durchführung des börseninternen Beschwerdeverfahrens, das nach Art. 9 Abs. 3 BEHG einen bundesrechtlichen Eingriff in das kantonale Zivilprozessrecht im Sinne einer Prozessvoraussetzung darstellt (WEBER, a.a.O., N. 11 zu Art. 9 BEHG; BAUMGARTEN/LANZ, a.a.O., N. 9 zu Art. 9 BEHG), ist damit abschliessend geregelt. Eine Befugnis der Börse zur Abänderung des gesetzlich vorgesehenen Rechtswegs lässt sich der Bestimmung entgegen der Ansicht des Beschwerdegegners nicht entnehmen. Mangels Rechtsetzungskompetenz für diesen Bereich kann Art. 62 Abs. 2 KR, der für die Anfechtung nach Ausschöpfung des internen Instanzenzugs generell die Zuständigkeit des SIX Schiedsgerichts vorsieht, von vornherein keine normative Geltung gegenüber jedermann und unabhängig von einer entsprechenden vertraglichen Vereinbarung zukommen. Dabei kann es auch nicht darauf ankommen, dass eine Zuständigkeit des SIX Schiedsgerichts für die Zulassung von Effekten und deren Streichung aus Sicht des Beschwerdegegners wünschbar wäre bzw. ihm durch die Möglichkeit, das Schiedsgericht anzurufen, kein Nachteil entstehen würde. Ebenso wenig erheblich ist für die Frage der allgemeinen Geltung der erwähnten reglementarischen Bestimmung, ob die Emittentenerklärung, mit der die Emittenten die Zuständigkeit des SIX Schiedsgerichts schriftlich anerkennen (vgl. Art. 45 Ziff. 4 KR), eine wirksame Schiedsvereinbarung darstellt.
Selbst wenn die übrigen Bestimmungen des Kotierungsreglements grundsätzlich als Rechtsnormen des Bundesrechts einzuordnen wären, wie dies die Vorinstanz erwog, könnte Art. 62 Abs. 2 KR den nach Art. 9 Abs. 3 BEHG gesetzlich vorgesehenen Rechtsweg nicht abändern und daher auch den Abschluss einer Schiedsvereinbarung nicht ersetzen.
3. Auch wenn der im Kotierungsreglement der Beschwerdeführerin vorgesehenen Zuständigkeit des SIX Schiedsgerichts keine materielle Gesetzeskraft zukommt, wäre das angerufene Schiedsgericht nach Ansicht des Beschwerdegegners gleichwohl aufgrund einer Schiedsabrede gemäss Art. 6 KSG zuständig.
3.1 Während das SIX Schiedsgericht mit ausführlicher Begründung erwog, weshalb zwischen den Parteien keine nach den Regeln des KSG gültige Schiedsabrede zustande kam, prüfte die Vorinstanz das Vorliegen einer Schiedsabrede nicht, da sie eine solche - wie sich gezeigt hat zu Unrecht - für entbehrlich erachtete.
Der Beschwerdegegner stellt sich auf den Standpunkt, dass Art. 6 Abs. 2 KSG, nach dem sich eine formgültige Schiedsabrede aus einer schriftlichen Erklärung des Beitritts zu einer juristischen Person ergeben kann, sofern diese Erklärung ausdrücklich auf die in den Statuten oder in einem sich darauf stützenden Reglement enthaltene Schiedsklausel Bezug nimmt, über seinen Wortlaut hinaus auch auf den vorliegenden Fall anwendbar sei. Die Bestimmung sei auch auf die zu beurteilende Konstellation zugeschnitten, zumal es einer Börse nach Art. 8 Abs. 4 BEHG versagt sei, hinsichtlich der Zulassung von Effekten gesonderte Vereinbarungen abzuschliessen. Dem aufgrund von Art. 1 BEHG einzuhaltenden Grundsatz der Gleichbehandlung könne letztlich nur Nachachtung verschafft werden, indem nach Art. 8 Abs. 1 BEHG ein Reglement und darin das Schiedsgericht vorgesehen werde, "d.h. genau gleich wie bei einer juristischen Person, deren Statuten eine Schiedsklausel enthalten". Da auch der Beschwerdegegner als Anleger Adressat der entsprechenden Reglementsbestimmungen sei, habe er mit seiner Anrufung des Schiedsgerichts vom 28. September 2009 und seiner Eingabe vom 4. Dezember 2009 erklären dürfen, dass er diese Schiedsklausel akzeptiere.
Eine Zuständigkeit sei jedoch nicht nur in entsprechender Anwendung von Art. 6 Abs. 2 KSG gegeben, sondern auch aufgrund von Art. 6 Abs. 1 KSG, zumal nach Ziff. 2.3.2 der damals geltenden Geschäftsordnung der Zulassungsstelle der Beschwerdeführerin, die für den Erlass des Kotierungsreglements zuständig gewesen sei, Beschlüsse hätten protokolliert und das Protokoll unterschrieben werden müssen, was auch nach den heute anwendbaren Bestimmungen gelte. Unter Art. 6 Abs. 1 KSG genüge es bereits, wenn die im Kotierungsreglement enthaltene Offerte zum Abschluss einer Schiedsvereinbarung schriftlich angenommen werde. Seine Annahme der angeblichen Offerte sei auch in diesem Fall durch Anrufung des SIX Schiedsgerichts erfolgt.
Eine Zuständigkeit sei jedoch nicht nur in entsprechender Anwendung von Art. 6 Abs. 2 KSG gegeben, sondern auch aufgrund von Art. 6 Abs. 1 KSG, zumal nach Ziff. 2.3.2 der damals geltenden Geschäftsordnung der Zulassungsstelle der Beschwerdeführerin, die für den Erlass des Kotierungsreglements zuständig gewesen sei, Beschlüsse hätten protokolliert und das Protokoll unterschrieben werden müssen, was auch nach den heute anwendbaren Bestimmungen gelte. Unter Art. 6 Abs. 1 KSG genüge es bereits, wenn die im Kotierungsreglement enthaltene Offerte zum Abschluss einer Schiedsvereinbarung schriftlich angenommen werde. Seine Annahme der angeblichen Offerte sei auch in diesem Fall durch Anrufung des SIX Schiedsgerichts erfolgt.
3.2 3.2.1 Die Argumentation des Beschwerdegegners zugunsten einer entsprechenden Anwendung von Art. 6 Abs. 2 KSG überzeugt nicht. Die Einleitung des Schiedsverfahrens durch den Beschwerdegegner ist nicht mit der Erklärung des Beitritts zu einer juristischen Person vergleichbar, die der genannten Bestimmung zugrunde liegt. Der Beschwerdegegner steht als Aktionär der dekotierten Emittentin X._ AG nicht in einem Mitgliedschaftsverhältnis zur Beschwerdeführerin. Die Einleitung des Schiedsverfahrens bezweckte einzig die Beschreitung des Rechtswegs hinsichtlich der Dekotierung der X._ AG und war in keiner Weise auf die Begründung einer Mitgliedschaft oder eines mitgliedschaftsähnlichen Verhältnisses zur Beschwerdeführerin gerichtet. Inwiefern mit der Einleitung des Schiedsverfahrens ein über dasjenige zwischen Verfahrensparteien hinausgehendes besonderes Verhältnis zur Beschwerdeführerin begründet worden wäre, das allenfalls eine entsprechende Anwendung von Art. 6 Abs. 2 KSG rechtfertigen könnte, ist nicht ersichtlich. Die blosse Einleitung des Schiedsverfahrens vermochte demnach keinen Abschluss eines Schiedsvertrags über den zu diesem Zeitpunkt bereits bestehenden Rechtsstreit zwischen den Parteien zu bewirken.
Nach Feststellung des SIX Schiedsgerichts, die unangefochten blieb, hatte der Beschwerdegegner der Beschwerdeführerin mit Brief vom 16. September 2009 den Abschluss einer Schiedsvereinbarung vorgeschlagen, was diese jedoch ablehnte. Das Schiedsverfahren wurde am 28. September 2009 eingeleitet. Die Beschwerdeführerin hatte dem Beschwerdegegner demnach vor Einleitung des Schiedsverfahrens zu erkennen gegeben, mit ihm keine Schiedsvereinbarung in Bezug auf den bereits entstandenen Rechtsstreit abschliessen zu wollen. Entsprechend bestand in diesem Zeitpunkt auch keine gegenüber dem Beschwerdegegner bindende Offerte, die von ihm hätte angenommen werden können.
3.2.2 Letzteres gilt auch hinsichtlich der Behauptung des Beschwerdegegners, es sei eine Schiedsvereinbarung nach Art. 6 Abs. 1 KSG zustande gekommen. Angesichts der beschriebenen Umstände kann in den Bestimmungen des Kotierungsreglements, die eine Zuständigkeit des SIX Schiedsgerichts vorsehen, kein Angebot erblickt werden, den bereits entstandenen Rechtsstreit über die Dekotierung der X._ AG dem Schiedsgericht zu unterbreiten, das der Beschwerdegegner mit der Einleitung des Schiedsverfahrens hätte annehmen können.
Wie bereits das Schiedsgericht zutreffend ausführte, erfüllte das Kotierungsreglement ausserdem die erforderliche Schriftform (Art. 6 Abs. 1 KSG i.V.m. Art. 13 ff. OR) nicht, da es diesem Dokument an der eigenhändigen Unterschrift der zeichnungsberechtigten Personen der Beschwerdeführerin fehlt (vgl. LALIVE/POUDRET/REYMOND, a.a.O., N. 1 zu Art. 6 KSG S. 56 f.). Daran ändert auch das in der Beschwerdeantwort erhobene Vorbringen nichts, nach den anwendbaren Verfahrensbestimmungen der Beschwerdeführerin sei der Beschluss über den Erlass des Kotierungsreglements protokolliert und das Protokoll unterzeichnet worden, zumal sich dieses Protokoll selbst nach den Darlegungen des Beschwerdegegners nicht an ihn als Erklärungsempfänger richtete. Nichts zugunsten des Beschwerdegegners ableiten lässt sich im Übrigen aus Art. 358 der Schweizerischen Zivilprozessordnung vom 19. Dezember 2008 (Zivilprozessordnung, ZPO; AS 2010 1739 ff.), der für die Schiedsvereinbarung neben der Schriftform eine andere Form genügen lässt, die den Nachweis durch Text ermöglicht, zumal diese Bestimmung noch nicht in Kraft ist (vgl. zudem übergangsrechtlich Art. 407 ZPO).
Schliesslich lässt sich auch aus der unzutreffenden Rechtsmittelbelehrung der internen Beschwerdeinstanz der Beschwerdeführerin nichts zugunsten des Beschwerdegegners ableiten. Das SIX Schiedsgericht erachtete es als erstellt, dass der unzutreffende Hinweis im Entscheid der Beschwerdeinstanz vom 31. August 2009 im konkreten Fall beim Beschwerdegegner keine entsprechenden Erwartungen erweckte. Der Beschwerdegegner schlug der Beschwerdeführerin mit Schreiben vom 16. September 2009 vielmehr den Abschluss einer Schiedsvereinbarung vor, was diese jedoch ablehnte. Diese tatsächlichen Feststellungen blieben in der Folge unangefochten. Berechtigte Erwartungen des Beschwerdegegners hinsichtlich des Zustandekommens einer Schiedsvereinbarung lassen sich folglich auch nicht auf die unzutreffende Rechtsmittelbelehrung stützen.
4. Die Zuständigkeit des SIX Schiedsgerichts lässt sich weder auf den Rechtssatzcharakter der entsprechenden Bestimmung des Kotierungsreglements noch auf eine gültige Schiedsvereinbarung stützen. Nach Art. 9 Abs. 3 BEHG ist für die vorliegende Rechtsstreitigkeit vielmehr der Zivilrichter zuständig. Die Vorinstanz hat die Nichtigkeitsbeschwerde der Beschwerdeführerin demnach zu Unrecht abgewiesen. Der Entscheid der Vorinstanz vom 18. August 2010 ist daher in Gutheissung der Beschwerde aufzuheben und das SIX Schiedsgericht für unzuständig zu erklären.
5. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdegegner kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid der Vorinstanz vom 18. August 2010 wird aufgehoben.
2. Es wird festgestellt, dass das SIX Schiedsgericht für die zu beurteilende Streitsache nicht zuständig ist.
3. Die Gerichtskosten von Fr. 5'000.-- werden dem Beschwerdegegner auferlegt.
4. Der Beschwerdegegner hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 1. Dezember 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Leemann