Sachverhalt:
A. A.a Gegen X._ ist seit der Anklageerhebung vom 1. März 2010 beim Bezirksgericht Bremgarten ein Strafverfahren wegen Verdachts auf mehrfache Widerhandlung gegen das Betäubungsmittelgesetz durch widerrechtlichen Umgang mit Betäubungsmitteln in der Eigenschaft als Medizinalperson sowie wegen mehrfacher Widerhandlung gegen das Gesundheitsgesetz durch verbotene Selbstdispensation hängig. Am 14. Juni 2010 fand vor der Gerichtspräsidentin II des Bezirksgerichts Bremgarten die Hauptverhandlung statt. Der Verteidiger von X._ gab seine Plädoyernotizen vorweg ab. Nachdem er während der Verhandlung ein Ausstandsgesuch gegen die Gerichtspräsidentin und die Gerichtsschreiberin gestellt hatte, wurde die Verhandlung abgebrochen und der Ausstandsantrag dem Obergericht des Kantons Aargau überwiesen, ohne dass es zum Plädoyer kam.
A.b Am 9. März 2011 wies die Beschwerdekammer in Strafsachen des Obergerichts das Ausstandsbegehren ab, soweit sie darauf eintrat.
A.c Am 7. Juni 2011 ordnete die Gerichtspräsidentin II des Bezirksgerichts Bremgarten ein medizinisches Gutachten an, das am 15. Februar 2012 erstattet und gleichentags den Parteien zugestellt wurde. Am 28. März 2012 liess sich X._ dazu vernehmen.
A.d Mit Eingabe vom 22. Mai 2012 stellte X._ ein zweites Ausstandsgesuch gegen die Gerichtspräsidentin II des Bezirksgerichts Bremgarten, Y._, und die fragliche Gerichtsschreiberin, Z._. Das Ausstandsbegehren wurde im Wesentlichen damit begründet, das Gericht habe in unzulässiger und Treu und Glauben verletzender Weise Unterlagen des Verteidigers, insbesondere die Plädoyernotizen, zurückbehalten, diesen Vorgang im Protokoll falsch festgehalten und die Unterlagen dem Gutachter weitergegeben, der sie für sein Gutachten verwendet habe. Daraus ergebe sich der Anschein der Befangenheit.
A.e Am 5. Juni 2012 trat das Obergericht des Kantons Aargau, Beschwerdekammer in Strafsachen, auf das Ausstandsbegehren von X._ nicht ein.
A.f Mit Urteil vom 21. September 2012 hiess das Bundesgericht eine Beschwerde von X._ aus formellen Gründen (Verletzung des Anspruchs auf rechtliches Gehör) gut, hob den Entscheid des Obergerichts vom 5. Juni 2012 auf und wies die Sache zur Neubeurteilung an das Obergericht zurück (Verfahren 1B_407/2012).
A.g Nach ergänzendem Verfahren wies das Obergericht des Kantons Aargau, Beschwerdekammer in Strafsachen, am 15. November 2012 das Ausstandsbegehren ab, soweit es darauf eintrat.
B. Mit Beschwerde in Strafsachen vom 7. Januar 2013 an das Bundesgericht beantragt X._, den Entscheid des Obergerichts vom 15. November 2012 aufzuheben und den Ausstand der Gerichtspräsidentin II Y._ und der Gerichtsschreiberin Z._ anzuordnen; eventuell sei die Sache zur Neubeurteilung an das Obergericht zurückzuweisen.
C. Die Oberstaatsanwaltschaft und das Obergericht, Beschwerdekammer in Strafsachen, des Kantons Aargau haben auf Stellungnahmen verzichtet. Das Bezirksgericht Bremgarten, Gerichtspräsidentin Y._ und Gerichtsschreiberin Z._ haben sich innert Frist nicht vernehmen lassen.

Erwägungen:
1. 1.1 Gemäss Art. 78 Abs. 1 in Verbindung mit Art. 80 und Art. 92 Abs. 1 BGG steht gegen kantonal letztinstanzliche Entscheide über den Ausstand von Magistratspersonen im Strafprozess und weiteren Beteiligten auf Behördenseite, die in die Entscheidfindung einbezogen sind, wie namentlich Gerichtsschreiber direkt die Beschwerde in Strafsachen an das Bundesgericht offen. Die Person, die den Ausstand beantragt und am vorinstanzlichen Verfahren teilgenommen hat, ist nach <ref-law> zur Beschwerde berechtigt (vgl. das Urteil des Bundesgerichts 1B_263/2012 vom 8. Juni 2012 E. 1). Der Beschwerdeführer erfüllt diese Voraussetzungen. Auf die im Übrigen frist- und formgerecht erhobene Beschwerde ist somit einzutreten.
1.2 Mit der Beschwerde an das Bundesgericht kann, von hier nicht interessierenden Ausnahmen abgesehen, nur die Verletzung von Bundesrecht, Völkerrecht und kantonalen verfassungsmässigen Rechten (vgl. Art. 95 lit. a-c BGG) sowie die offensichtlich unrichtige Feststellung des Sachverhaltes (vgl. <ref-law>) gerügt werden. Das Bundesgericht prüft nur die vom Beschwerdeführer erhobenen und begründeten Rügen (vgl. <ref-law> sowie <ref-ruling> E. 1.4 S. 254 f.). Im vorliegenden Fall rügt der Beschwerdeführer zulässigerweise die Verletzung von Bundesrecht und von Völkerrecht, namentlich der Strafprozessordnung, der Bundesverfassung sowie der Europäischen Menschenrechtskonvention.
2. <ref-law> zählt verschiedene Gründe auf, die zum Ausstand von in einer Strafbehörde tätigen Personen führen. Nach <ref-law> trifft dies namentlich aus anderen (als den in lit. a-e der gleichen Bestimmung genannten) Gründen zu, insbesondere wenn die in der Strafverfolgung tätige Person wegen Freundschaft oder Feindschaft mit einer Partei oder deren Rechtsbeistand befangen sein könnte. <ref-law> konkretisiert die Verfassungsbestimmung von <ref-law> sowie Art. 6 Ziff. 1 EMRK. Danach hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter unter Einschluss weiterer am Entscheid wesentlich beteiligten Gerichtspersonen wie insbesondere Gerichtsschreiber ohne Einwirken sachfremder Umstände entschieden wird. <ref-law> soll zu der für einen korrekten und fairen Prozess erforderlichen Offenheit des Verfahrens im Einzelfall beitragen und damit ein gerechtes Urteil ermöglichen. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen. Solche Umstände können entweder in einem bestimmten Verhalten der betreffenden Gerichtsperson oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein (vgl. Urteil des Bundesgerichts 6B_814/2011 vom 30. August 2012, zur Publikation vorgesehen; <ref-ruling> E. 3.4 S. 116; Urteil 1B_703/2011 vom 3. Februar 2012 E. 2.3 und 2.4; analog für den Ausstand eines Staatsanwalts <ref-ruling>). Bei der Anwendung von <ref-law> ist entscheidendes Kriterium, ob bei objektiver Betrachtungsweise der Ausgang des Verfahrens noch als offen erscheint (MARKUS BOOG, in: Niggli/Heer/Wiprächtiger [Hrsg.], Basler Kommentar, Schweizerische Strafprozessordnung, 2011, N. 38 zu <ref-law>). Wird der Ausstandsgrund aus materiellen oder prozessualen Rechtsfehlern abgeleitet, so sind diese nur wesentlich, wenn sie besonders krass sind und wiederholt auftreten, sodass sie einer schweren Amtspflichtverletzung gleichkommen und sich einseitig zulasten einer der Prozessparteien auswirken; andernfalls begründen sie keinen hinreichenden Anschein der Befangenheit (BOOG, a.a.O., N. 59 zu <ref-law>; vgl. auch <ref-ruling> E. 3b S. 404; Urteil des Bundesgerichts 1B_34/2011 vom 16. Februar 2011 E. 2.3.2). Nach <ref-law> ist das Ausstandsgesuch ohne Verzug zu stellen, sobald die betroffene Partei vom Ausstandsgrund Kenntnis hat, wobei die den Ausstand begründenden Tatsachen glaubhaft zu machen sind.
3. Die Vorinstanz begründete ihren für den Beschwerdeführer negativen Entscheid mit zwei Argumenten: Erstens erachtete sie sein Ausstandsgesuch als verspätet, und zweitens verneinte sie, dass bei den beiden Gerichtspersonen, um deren Ausstand der Beschwerdeführer ersucht, der Anschein von Befangenheit oder der Voreingenommenheit besteht. Im Ergebnis wies das Obergericht daher die bei ihm eingereichte Beschwerde ab, soweit es darauf eintrat. Der Beschwerdeführer beanstandet dieses Dispositiv mit der Begründung, entweder sei wegen Verspätung auf das Gesuch nicht einzutreten oder dann sei dieses mangels Ausstandsgrundes in der Sache abzuweisen gewesen. Eine Kombination von beidem sei ausgeschlossen, weshalb das angefochtene Urteil unklar bzw. fehlerhaft sei. Indessen geht aus diesem mit genügender Klarheit hervor, dass die Vorinstanz dem Ansinnen des Beschwerdeführers aus doppeltem Grund nicht Folge leistete. In erster Linie erachtete sie das Gesuch als verspätet. Ergänzend beurteilte sie dieses als unbegründet. Mit dem gewählten Dispositiv unterstrich das Obergericht diese zweifache Begründung. Darin liegt kein Verstoss gegen massgebliches Bundesrecht. Entgegen dem weiteren Einwand des Beschwerdeführers prüfte das Obergericht sodann die inhaltliche Begründetheit des Ausstandsgesuchs in genügendem Umfang und erweisen sich die entsprechenden Ausführungen im angefochtenen Entscheid als ausreichend. Daraus geht nämlich in nachvollziehbarer Weise hervor, weshalb dem Ausstandsbegehren keine Folge geleistet wurde, was dem Beschwerdeführer durchaus ermöglichte, das Urteil des Obergerichts angemessen anzufechten.
4. 4.1 Der angefochtene Entscheid erweist sich als rechtmässig, wenn einer der zwei Gründe, die zur Ablehnung des Ausstandsbegehrens führten, vor Bundesrecht standhält. Es rechtfertigt sich daher, die auf den ersten Blick kompliziertere Frage der Rechtzeitigkeit der Gesuchseinreichung zumindest vorerst offen zu lassen, und vorweg die inhaltliche Begründetheit des Ausstandsgesuchs zu überprüfen.
4.2 Im Wesentlichen bringt der Beschwerdeführer zunächst vor, die mit seinem Fall befasste Gerichtspräsidentin habe bereits im Jahre 2010 bei der Behandlung seines ersten Ausstandsgesuchs die Befragung in sehr tendenziöser Art und Weise vorgenommen. Bei der Verhandlung vom 14. Juni 2012 habe sie den Beschwerdeführer sodann mit auf privaten Erkundigungen beruhenden Erkenntnissen konfrontiert. Weiter habe er erst von der Vorinstanz im Rahmen eines Wiedererwägungsgesuchs Einsicht in die Handprotokolle der Verhandlungen erhalten. Hauptsächlich begründet der Beschwerdeführer sein Ausstandsbegehren aber damit, dass die Gerichtspräsidentin und die beteiligte Gerichtsschreiberin die von seinem Rechtsvertreter an der Verhandlung vom 14. Juni 2010 eingereichten Plädoyernotizen in Kopie bei den Akten behalten hätten, obwohl er ihre vollständige Rückgabe verlangt hatte, was ihm zugesichert worden sei, und die Notizen in der Folge mit den Akten zum Gutachter gelangten, der daraus ausführlich zitiert habe. Insgesamt belege all dies die Voreingenommenheit bzw. Befangenheit der Gerichtspräsidentin und der Gerichtsschreiberin ihm gegenüber.
4.3 Dass sich die fraglichen Gerichtspersonen dem Beschwerdeführer gegenüber tendenziös verhalten hätten, ist durch nichts belegt. Auch er selbst vermag seine entsprechende Behauptung durch keine konkreten Hinweise zu unterlegen. Was eventuelle private Erkundigungen betrifft, so gilt dafür dasselbe wie für eine allenfalls fragwürdige Ablage der Plädoyernotizen in den Verfahrensakten. Wie das Obergericht dazu richtig festgehalten hat, könnte dies höchstens allenfalls als fehlerhafte Verfahrenshandlung beurteilt werden. Ein Anschein von Befangenheit oder Voreingenommenheit lässt sich daraus hingegen nicht ableiten. Die Vorgänge sind protokolliert bzw. dokumentiert, auch dass die Plädoyernotizen nicht verlesen wurden, und können im Strafverfahren beanstandet werden. Worin eine Amtsgeheimnisverletzung bzw. ein eigentlicher Verstoss gegen Amtspflichten liegen soll, vermag der Beschwerdeführer nicht darzutun. Soweit ein prozessualer Fehler vorliegen sollte, begründet dies für sich noch nicht den Anschein der Befangenheit oder Voreingenommenheit. Wie dargelegt (vgl. E. 2), bedürfte es dafür wiederholter besonders krasser Verfahrensfehler, die einer schweren Amtspflichtverletzung gleichkommen und sich einseitig zulasten einer der Prozessparteien auswirken. Das trifft bei den vom Beschwerdeführer geltend gemachten Mängeln, selbst wenn es sich um Verfahrensfehler handeln sollte, jedenfalls nicht zu.
4.4 Die Abweisung des Ausstandsgesuchs in der Sache verstösst demnach nicht gegen Bundesrecht unter Einschluss der Bundesverfassung und der Europäischen Menschenrechtskonvention. Unter diesen Umständen braucht nicht mehr geprüft zu werden, ob die Vorinstanz überdies zu Recht davon ausging, der Beschwerdeführer habe das Ausstandsbegehren zu spät gestellt.
5. Die Beschwerde erweist sich als unbegründet und ist abzuweisen.
Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1, Art. 65 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Bezirksgericht Bremgarten, der Oberstaatsanwaltschaft des Kantons Aargau und dem Obergericht des Kantons Aargau, Beschwerdekammer in Strafsachen, schriftlich mitgeteilt.
Lausanne, 11. März 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Der Gerichtsschreiber: Uebersax