Sachverhalt:
A. Am Kantonsgericht Zug sind zwischen X._ und A._ ein Scheidungsverfahren und ein Verfahren über vorsorgliche Massnahmen während des Scheidungsprozesses hängig. Bereits im Jahre 2005 hatte zwischen den Parteien in Brasilien ein Trennungsverfahren stattgefunden. Mit Eingabe vom 24. November 2009 stellte X._ bei der 1. Abteilung des Kantonsgerichts ein Ausstandsbegehren gegen Kantonsrichterin Y._, die Referentin im Scheidungsverfahren und Einzelrichterin im Massnahmeverfahren ist. Mit Beschluss vom 11. Januar 2010 wies das Kantonsgericht das Ausstandsbegehren ab.
B. Gegen diesen Beschluss erhob X._ am 25. Januar 2010 Beschwerde bei der Justizkommission des Obergerichts des Kantons Zug. Mit Urteil vom 24. März 2010 wies das Obergericht die Beschwerde ab.
C. Am 26. April 2010 hat X._ (fortan: Beschwerdeführer) gegen dieses Urteil Beschwerde an das Bundesgericht erhoben. Er beantragt, das angefochtene Urteil aufzuheben und festzustellen, dass Kantonsrichterin Y._ (fortan: Beschwerdegegnerin) verpflichtet sei, in den Ausstand zu treten. Zudem ersucht er um aufschiebende Wirkung, wobei sich sein Gesuch dem Wortlaut nach nur auf das Massnahmeverfahren bezieht.
Sowohl die Beschwerdegegnerin wie auch das Obergericht haben in ihren Vernehmlassungen auf Abweisung des Gesuchs um aufschiebende Wirkung geschlossen. Mit Präsidialverfügung vom 17. Mai 2010 ist aufschiebende Wirkung für das Scheidungs- und das Massnahmeverfahren gewährt worden (<ref-law>).
Mit einem Schreiben vom 14. Juni 2010 hat sich der Beschwerdeführer erneut an das Bundesgericht gewandt, worin er sich über die Führung eines weiteren Verfahrens vor Kantonsgericht Zug durch einen anderen Richter beklagt.
In der Sache sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1. 1.1 Der angefochtene Entscheid betrifft den Ausstand eines Richters. Dabei handelt es sich um einen selbständig eröffneten Zwischenentscheid im Sinne von <ref-law>. Bei einem Zwischenentscheid folgt der Rechtsweg demjenigen der Hauptsache (Urteil 5A_108/2007 vom 11. Mai 2007 E. 1.2). In der Hauptsache geht es um eine Scheidung sowie um vorsorgliche Massnahmen während des Scheidungsverfahrens. Ein Scheidungsverfahren stellt eine Zivilsache dar (<ref-law>), welche dem Streitwerterfordernis (<ref-law>) nicht unterliegt (Urteil 5A_452/2009 vom 18. September 2009 E. 1.2 zur Zuständigkeit im nämlichen Scheidungsverfahren). Auch das Verfahren auf Erlass vorsorglicher Massnahmen während des Scheidungsverfahrens (<ref-law>) stellt eine Zivilsache dar. Der genaue Prozessgegenstand lässt sich den eingereichten Akten nicht entnehmen. Offen ist deshalb, ob das Massnahmeverfahren einzig vermögensrechtliche Fragen betrifft oder sich auch auf die offenbar umstrittene Kinderzuteilung bezieht. Selbst wenn es einzig vermögensrechtliche Fragen betreffen sollte und damit streitwertabhängig wäre, dürfte der erforderliche Streitwert aufgrund der ungewissen Dauer der Massnahmen erreicht sein (<ref-law>). Die Qualifikation der Beschwerde ist in Bezug auf das Massnahmeverfahren allerdings nicht von ausschlaggebender Bedeutung, da so oder anders einzig Verfassungsrügen vorgebracht werden können (unten E. 1.2). Die rechtzeitig eingereichte Beschwerde ist nach dem Gesagten insgesamt als Beschwerde in Zivilsachen zu behandeln.
1.2 Sinngemäss macht der Beschwerdeführer eine Verletzung von <ref-law> (Anspruch auf ein unabhängiges und unparteiisches Gericht) geltend. Soweit sich der angefochtene Ausstandsentscheid auf das Massnahmeverfahren bezieht, kann ohnehin nur die Verletzung verfassungsmässiger Rechte gerügt werden, da die Beschwerdegründe im Beschwerdeverfahren gegen Zwischenentscheide nicht weiter gehen als im Hauptverfahren (<ref-law>; Urteil 5A_108/2007 vom 11. Mai 2007 E. 1.2).
Wird die Verletzung von Grundrechten geltend gemacht, gilt eine qualifizierte Rügepflicht (<ref-law>). Das Bundesgericht prüft eine solche Rüge nur, wenn sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-ruling> E. 1.6 S. 130; <ref-ruling> E. 3.2 S. 88; je mit Hinweisen). Es muss klar und detailliert anhand der Erwägungen des angefochtenen Entscheides dargelegt werden, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-ruling> E. 6 S. 397 mit Hinweis); auf rein appellatorische Kritik am angefochtenen Entscheid ist nicht einzutreten (<ref-ruling> E. 3.1 S. 399; <ref-ruling> E. 2 S. 591 f.).
2. Nach <ref-law> hat der Einzelne Anspruch darauf, dass seine Sache von einem unabhängigen und unparteiischen Gericht ohne Einwirken sachfremder Umstände entschieden wird (<ref-ruling> E. 2 S. 15 mit Hinweis). Die Garantie des verfassungsmässigen Richters ist verletzt, wenn bei objektiver Betrachtungsweise Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen (<ref-ruling> E. 2 S. 15; <ref-ruling> E. 3.4 S. 116 mit Hinweisen). Voreingenommenheit und Befangenheit in diesem Sinne werden nach der Rechtsprechung angenommen, wenn im Einzelfall anhand aller tatsächlichen und verfahrensrechtlichen Umstände Gegebenheiten vorliegen, die geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Da Befangenheit ein innerer, schwer nachweisbarer Zustand ist, braucht sein tatsächliches Vorliegen nicht bewiesen zu werden. Es genügt vielmehr, wenn Umstände bestehen, die den Anschein der Befangenheit und die Gefahr der Voreingenommenheit zu begründen vermögen. Solche Umstände können namentlich in einem bestimmten Verhalten des Richters begründet sein. Auf das bloss subjektive Empfinden einer Partei kann bei dieser Beurteilung allerdings nicht abgestellt werden. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen (<ref-ruling> E. 2.1 S. 240 mit Hinweisen).
Verfahrensmassnahmen eines Richters als solche, seien sie richtig oder falsch, vermögen im Allgemeinen keinen objektiven Verdacht der Befangenheit des Richters zu erregen, der sie verfügt hat (<ref-ruling> E. 3b/bb S. 158 mit Hinweis; Urteil 5P.280/2006 vom 5. Dezember 2006 E. 3.2). Dasselbe gilt für einen allenfalls materiell falschen Entscheid (<ref-ruling> E. 3b S. 404). Anders liegt es nur, wenn besonders krasse oder wiederholte Irrtümer vorliegen, die als schwere Verletzung der Richterpflichten bewertet werden müssen (<ref-ruling> E. 3a S. 138; <ref-ruling> E. 3b S. 404; Urteil 1P.760/2004 vom 10. Februar 2005 E. 3.1). In diesem Zusammenhang ist zu beachten, dass Verfahrensverstösse im dafür vorgesehenen Rechtsmittelverfahren zu rügen sind und grundsätzlich nicht als Begründung für die Verletzung von <ref-law> herangezogen werden können (<ref-ruling> E. 3b/bb S. 158 f. mit Hinweis; Urteil 5P.280/2006 vom 5. Dezember 2006 E. 3.2 mit Hinweisen).
3. Der Beschwerdeführer leitet die Befangenheit der Kantonsrichterin aus verschiedenen Umständen, insbesondere ihrer Verfahrensführung ab.
3.1 Er bringt zunächst vor, die Beschwerdegegnerin habe sich anlässlich der Verhandlung vom 26. September 2007 zur Aussage hinreissen lassen, dass einer von beiden (d.h. der Parteien) lüge. Die Vorinstanz hat diesbezüglich festgehalten, dass sich der Beschwerdeführer bereits mit den Ausführungen der ersten Instanz nicht genügend auseinandersetze. Diese habe erwogen, eine solche Bemerkung finde sich nicht im Protokoll und würde sich zudem - falls sie gemacht worden sei - nicht alleine gegen den Beschwerdeführer richten. Darauf geht der Beschwerdeführer in seiner Beschwerde an das Bundesgericht nicht ein. Er beruft sich allerdings auf die Stellungnahme der Beschwerdegegnerin zuhanden der ersten Instanz, aus welcher er ableitet, sie bestreite gar nicht, eine entsprechende Bemerkung gemacht zu haben. Dies ist aus mehreren Gründen unbehelflich: Einerseits setzt er sich nach wie vor nicht damit auseinander, dass die angebliche Bemerkung nicht alleine gegen ihn, sondern gegen beide Verfahrensparteien gerichtet gewesen wäre. Andererseits ergibt die Lektüre der Stellungnahme der Beschwerdegegnerin, dass sie entgegen der Interpretation des Beschwerdeführers bestreitet, eine solche Aussage gemacht zu haben.
3.2 Der Beschwerdeführer leitet die Befangenheit der Beschwerdegegnerin des Weiteren daraus ab, dass es versäumt worden sei, dem Schweizerischen Institut für Rechtsvergleichung die Klageschrift des Beschwerdeführers vom 2. Februar 2005 im brasilianischen Trennungsverfahren zuzustellen. Die Vorinstanz hat zu diesem Argument zunächst festgehalten, dem Institut sei die Klageschrift mit Schreiben vom 22. April 2008 zugestellt worden. Damit setzt sich der Beschwerdeführer nicht auseinander. Stattdessen geht er einzig auf die zusätzliche Erwägung der Vorinstanz ein, wonach diese Klageschrift zudem in Fussnote 20 auf Seite 9 des Gutachtens erwähnt worden sei. Er beschränkt sich dabei allerdings auf ein unvollständiges Zitat dieser Fussnote, woraus er entnehmen will, dass das Institut die Klageschrift dennoch nie erhalten hat. Da im Zitat wesentliche Teile fehlen, kann er daraus jedoch nichts zu seinen Gunsten ableiten. Weil er nicht substantiiert bestreitet, dass die Klageschrift ans Institut abgeschickt wurde, ist im Übrigen nicht ersichtlich und auch nicht dargetan, inwiefern ein allfälliger Verlust auf dem Transport die Befangenheit der Beschwerdegegnerin zur Folge haben könnte.
3.3 Der Beschwerdeführer kritisiert die Behandlung des privaten Rechtsgutachtens von Rechtsanwalt B._ durch die Beschwerdegegnerin. Dabei ist nicht mehr strittig, dass sich dieses Gutachten tatsächlich in den Akten des Massnahmeverfahrens befindet, wie die Vorinstanz festgestellt hat.
Der Beschwerdeführer bringt aber vor, aus dem Gutachten von Rechtsanwalt B._ ergebe sich, dass die Frage der Ehegattenalimente sowohl für den Trennungs- wie den Scheidungsfall bereits von einem brasilianischen Gericht rechtskräftig beurteilt worden sei. Indem die Beschwerdegegnerin dies aber nicht zur Kenntnis nehme, sondern weitere Beweismassnahmen über seine finanziellen Verhältnisse anordne, zeige sich ihre Voreingenommenheit und dass sie sich bereits ein Urteil gebildet habe. Die Vorinstanz hat diesbezüglich erwogen, beim Gutachten B._ handle es sich um ein Privatgutachten und damit um eine blosse Parteibehauptung, was vom Beschwerdeführer nicht kritisiert wird. Gemäss Obergericht sei weiter nachvollziehbar, dass die Beschwerdegegnerin die Einrede der res iudicata nicht zum Gegenstand eines Vorentscheides erhoben habe, weshalb sich daraus keine mangelnde Neutralität ableiten lasse. Der Beschwerdeführer beschränkt sich in diesem Punkt auf die Meinung, ein Vorentscheid wäre geboten gewesen, da der Schutz seiner Privatsphäre vorgehe, wenn tatsächlich eine res iudicata vorliege. Er stellt damit den Schutz seiner Privatsphäre über die prozessökonomischen Erwägungen der Vorinstanz (Verkomplizierung bzw. Verlangsamung des ohnehin bloss summarischen Massnahmeverfahrens), ohne sich mit Letzteren auseinanderzusetzen. Darauf kann nicht eingetreten werden.
Die Befangenheit der Beschwerdegegnerin leitet der Beschwerdeführer schliesslich daraus ab, dass er am 22. April 2008 dem Kantonsgericht Antrag auf eine Oberexpertise gestellt habe, welcher bis heute nicht gutgeheissen worden sei. Damit bringt er unzulässigerweise neue Tatsachenbehauptungen vor (<ref-law>) und ist deshalb nicht zu hören.
3.4 Des Weiteren sieht der Beschwerdeführer in der Handhabung der Anhörung der beiden Kinder C._ und D._ am 23. September 2009 durch die Beschwerdegegnerin einen Nachweis ihrer Befangenheit. Er behauptet, die Befragung sei einseitig ausgefallen, da alle Fragen die Beziehungssituation zwischen ihm und den Kindern in Frage gestellt hätten, keine hingegen die Beziehung zwischen der Mutter und den Kindern. Er übergeht damit allerdings die vorinstanzliche Feststellung, dass die Kinder zu allen Tatsachenbehauptungen befragt worden seien, hinsichtlich derer die Anhörung beantragt worden sei, und dass diese Behauptungen sowohl von der Mutter in ihrem Gesuch vom 23. September 2009 wie auch vom Beschwerdeführer in seiner Gesuchsantwort vom 4. September 2009 aufgestellt worden seien. Was der Beschwerdeführer dagegen vorbringt, ist rein appellatorisch, zeigt er doch nicht im Ansatz auf, inwiefern die Beschwerdegegnerin seine Behauptungen bei der Anhörung ausser Acht gelassen haben soll.
3.5 Der Beschwerdeführer kritisiert die vorinstanzliche Beurteilung, dass die Abweisung des Antrags auf Verschiebung der Parteibefragung vom 5. November 2009 keine Befangenheit der Beschwerdegegnerin demonstriere. Anlass des Verschiebungsgesuchs bildete offenbar die Mandatsniederlegung seines Rechtsvertreters. Der Beschwerdeführer scheint in diesem Zusammenhang die vorinstanzliche Feststellung zu bezweifeln, dass er die Mandatsbeendigung durch sein eigenes Verhalten provoziert habe. Die diesbezüglichen Tatsachenfeststellungen sind für das Bundesgericht allerdings verbindlich (<ref-law>) und eine willkürliche Sachverhaltsfeststellung ist nicht behauptet.
3.6 Hinsichtlich der Parteibefragung vom 5. November 2009 wirft der Beschwerdeführer der Beschwerdegegnerin des Weiteren vor, seine Protokollberichtigungsanträge seien ungenügend berücksichtigt worden. Die Vorinstanz hat festgestellt, dass aufgrund des Berichtigungsbegehrens Korrekturen vorgenommen worden seien. Dazu sei sogar die digitale Tonaufnahme überprüft worden. Die Rüge, die Beschwerdegegnerin habe sich geweigert, wesentliche Aussagen zu Protokoll zu nehmen, sei unsubstantiiert, da der Beschwerdeführer nicht angebe, um welche Aussagen es sich konkret handeln soll. In Bezug auf diesen letzten Punkt beruft sich der Beschwerdeführer auf das Verbot des überspitzten Formalismus, da er in seiner Protokollberichtigungseingabe aufgezeigt habe, was zu berichtigen oder zu ändern sei. Allerdings wird mit seinen Ausführungen nicht klar, ob der Vorwurf des überspitzten Formalismus die Beschwerdegegnerin oder die Vorinstanz trifft, d.h. ob der Beschwerdeführer rügt, die Begründungsanforderungen bezüglich der Protokollberichtigungseingabe oder bezüglich der Beschwerde an das Obergericht seien zu hoch angesetzt worden. Jedenfalls genügt sein pauschaler Hinweis auf die Protokollberichtigungseingabe auch den Begründungsanforderungen für eine Verfassungsrüge ans Bundesgericht nicht, zumal der Beschwerdeführer in keiner Weise auf die zusätzliche Erwägung der Vorinstanz eingeht, dass auf das Protokollberichtigungsbegehren hin sogar die digitale Tonaufnahme überprüft und entsprechende Berichtigungen vorgenommen worden seien.
Schliesslich führt er aus, entgegen der Meinung der Vorinstanz bestehe Anspruch auf wörtliche Protokollierung. Er setzt sich allerdings nicht mit dem in dieser Frage massgebenden kantonalen Recht auseinander.
3.7 Den Anschein der Befangenheit sieht der Beschwerdeführer auch darin, dass die Beschwerdegegnerin eine unaufgeforderte Eingabe von ihm zurückgewiesen habe, während sie auf Eingaben der Gegenpartei eingehe. Die Vorinstanz hat in diesem Punkt ausgeführt, das fragliche Schreiben enthalte keine Äusserungen tatsächlicher oder rechtlicher Natur und stelle deshalb gar keine Eingabe zugerischen Prozessrechts dar. Mit dieser Begründung setzt sich der Beschwerdeführer nicht auseinander.
3.8 Schliesslich äussert sich der Beschwerdeführer zur aufschiebenden Wirkung seiner Beschwerde an das Obergericht. Er bestreitet nicht, keinen entsprechenden Antrag gestellt zu haben und behauptet auch nicht, das Obergericht hätte diese von sich aus erteilen müssen. Allerdings scheint er der Meinung zu sein, dass die Beschwerdegegnerin selber vorläufig auf weitere Verfahrenshandlungen hätte verzichten müssen und mit Persönlichkeitseingriffen verbundene Beweisanordnungen erst hätte treffen dürfen, wenn die Frage des Prozessthemas geklärt sei. Mit Letzterem bezieht er sich auf die bereits behandelte Frage der res iudicata. Auf die diesbezüglichen Ausführungen kann verwiesen werden (oben E. 3.3). Das Obergericht hat der Beschwerdegegnerin im Übrigen bescheinigt, angesichts des fehlenden Antrags um aufschiebende Wirkung und der ohnehin schon langen Dauer des Massnahmeverfahrens von über viereinhalb Jahren korrekt gehandelt zu haben, als sie das Verfahren mit einer Editionsaufforderung an die Arbeitgeberin des Beschwerdeführers weitergeführt habe. Dem setzt der Beschwerdeführer einzig entgegen, dass die Beschwerdegegnerin auf "die Umstände eines Prozesses" hätte Rücksicht nehmen müssen, worunter er offenbar auch seinen Status als nicht anwaltlich vertretenen Laien versteht. Diese Ausführungen allgemeiner Art genügen den Begründungsanforderungen an eine Verfassungsrüge nicht.
3.9 Insgesamt ergibt sich somit, dass auf die Beschwerde mangels genügender Begründung (oben E. 1.2) nicht eingetreten werden kann.
4. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, Justizkommission, Zivilrechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 16. Juli 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zingg