Sachverhalt:
A. Am 11. Mai 2010 reichte die X._ AG bei der Staatsanwaltschaft des Kantons Zug Strafanzeige gegen Z._ und weitere Beteiligte ein wegen unwahrer Angaben über kaufmännische Gewerbe, ungetreuer Geschäftsbesorgung, eventuell Unterdrückung von Urkunden, Betrug, arglistiger Vermögensschädigung und weiterer Straftatbestände. Mit Verfügung vom 9. Juni 2010 trat die Staatsanwaltschaft des Kantons Zug das Verfahren an die Staatsanwaltschaft des Kantons Schaffhausen ab.
Mit Schreiben vom 9. Juni 2011 teilte Staatsanwalt Thomas Rapold der X._ AG mit, die Strafuntersuchung sei abgeschlossen. Er stellte den Erlass einer Einstellungsverfügung in Aussicht und gab der X._ AG Gelegenheit, Beweisanträge zu stellen. Am 25. Juli 2011 verlangte die X._ AG den Ausstand von Staatsanwalt Thomas Rapold. Sie beantragte ausserdem eine externe staatsanwaltschaftliche Untersuchung bzw. eine Abtretung des Verfahrens an die Staatsanwaltschaft des Kantons Zug. Zudem beschwerte sie sich über eine unsachgemäss geführte Ermittlungsakte der Staatsanwaltschaft Schaffhausen und stellte Antrag auf Verlängerung der Beweisantragfrist.
Mit Entscheid vom 3. August 2012 trat das Obergericht des Kantons Schaffhausen auf die Beschwerde betreffend Aktenführung durch die Staatsanwaltschaft sowie das Gesuch um Verlängerung der Frist zur Stellung von Beweisanträgen nicht ein. Das Ausstandsbegehren gegen Staatsanwalt Thomas Rapold, gegen die gesamte Staatsanwaltschaft sowie gegen weitere Justizpersonen des Kantons Schaffhausen wies das Obergericht ab, soweit darauf einzutreten war.
B. Mit Beschwerde vom 14. September 2012 beantragt die X._ AG die Aufhebung des Entscheids des Obergerichts vom 3. August 2012, da die Amtshandlungen der beteiligten Personen ungültig seien (Art. 60 Abs. 1 StPO). Ein weitergehender Entscheid über den Ausstand von Staatsanwalt Thomas Rapold sei nicht nötig, da dieser Staatsanwalt die Angelegenheit nicht mehr betreue. Weiter stellt die Beschwerdeführerin den Antrag, das Verfahren sei zur ordnungsgemässen neutralen Durchführung der Strafuntersuchung an die Behörden im Kanton Zug, wo die Beschwerdeführerin ihren Sitz habe, abzutreten.
Das Bundesgericht verzichtet auf einen Schriftenwechsel und den Beizug der Vorakten (Art. 102 Abs. 1 und 2 BGG).
Erwägungen:
1. Gegen den angefochtenen Entscheid ist gemäss Art. 78 Abs. 1 BGG die Beschwerde in Strafsachen gegeben. Nach Art. 80 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen. Der Beschwerdeführer ist gemäss Art. 81 Abs. 1 lit. a und b Ziff. 1 BGG zur Beschwerde befugt.
Der angefochtene Entscheid stellt einen nach Art. 92 BGG anfechtbaren Zwischenentscheid dar, soweit darin das Ausstandsgesuch gegen die Staatsanwaltschaft und weitere Justizpersonen abgewiesen wurde.
Soweit sich die Beschwerde auf Dispositiv-Ziffer 1 des Entscheids des Obergerichts bezieht, wonach es auf die Beschwerde betreffend Aktenführung durch die Staatsanwaltschaft sowie das Gesuch um Verlängerung der Frist zur Stellung von Beweisanträgen nicht eintrat, genügt die Beschwerde den Begründungsanforderungen gemäss Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG nicht, weshalb insoweit auf die Beschwerde nicht eingetreten werden kann (vgl. BGE 134 II 244 E. 2.1 und 2.2 S. 245 f. mit Hinweisen).
2. Am vorliegenden Urteil wirkt kein Mitglied des Juristenvereins Schaffhausen mit, weshalb sich Weiterungen in Bezug auf Ausstandsgründe gegenüber Mitgliedern der I. öffentlich-rechtlichen Abteilung des Bundesgerichts erübrigen.
3. 3.1 Staatsanwalt Thomas Rapold ist mit der vorliegenden Strafuntersuchung nicht mehr befasst. Die Vorinstanz hat das Ausstandsbegehren gegen ihn trotzdem zu Recht behandelt, da es auch darum ging, ob die von ihm vorgenommenen Amtshandlungen gültig sind oder nicht (Art. 60 Abs. 1 StPO).
3.2 Die Beschwerdeführerin wirft Staatsanwalt Thomas Rapold im Wesentlichen verschiedene Mängel bei der Durchführung der Strafuntersuchung vor und sieht zudem einen Befangenheitsgrund in der Mitgliedschaft des Staatsanwalts im Juristenverein Schaffhausen, dem auch der Anwalt des Beschuldigten angehöre. Die Mitglieder dieses Vereins seien miteinander befreundet, weshalb die Ausstandsgründe gemäss Art. 56 lit. a und f StPO erfüllt seien.
3.3 Der Beschwerdeführerin wurde bereits mit Urteil des Bundesgerichts 4D_8/2011 vom 27. April 2011, E. 5.5, dargelegt, dass die blosse Mitgliedschaft von Richtern und Parteivertretern im Juristenverein Schaffhausen, einer Berufsorganisation, keinen Ausstandsgrund darstellt. Die Beschwerdeführerin bringt nichts vor, was an diesen Ausführungen etwas ändern könnte. Unter diesem Gesichtspunkt ist nicht zu beanstanden, dass Staatsanwalt Thomas Rapold und der Rechtsvertreter von Z._ dem Juristenverein Schaffhausen angehören. Gleiches gilt für die allfällige Mitgliedschaft bei diesem Verein von am angefochtenen Entscheid beteiligten Gerichtspersonen.
3.4 Auch die behaupteten Mängel bei der Strafuntersuchung führen nicht zur Bejahung eines Ausstandsgrunds.
3.4.1 Für den allgemeinen grundrechtlichen Anspruch auf Unabhängigkeit und Objektivität von Strafverfolgungsbehörden ist nach der Rechtsprechung des Bundesgerichtes Art. 29 Abs. 1 BV massgebend. Die angeschuldigte Person hat keinen Anspruch darauf, dass Staatsanwälte, Untersuchungsrichter oder mit Ermittlungen beauftragte Polizeiorgane mit qualifizierter richterlicher Unabhängigkeit (im Sinne von Art. 30 Abs. 1 BV) ausgestattet würden (vgl. BGE 127 I 196 E. 2b S. 198; 124 I 274 E. 3e S. 282 mit Hinweisen; Urteil des Bundesgerichts 1B_224/2010 vom 11. Januar 2011, E. 4.5, mit weiteren Hinweisen).
Der Unbefangenheit und Objektivität von Untersuchungsorganen kann zwar (unter beschränkten Gesichtspunkten) eine ähnliche Bedeutung zukommen wie der richterlichen Unabhängigkeit und Unparteilichkeit. Die Grundsätze von Art. 30 Abs. 1 BV dürfen jedoch nicht unbesehen auf nicht richterliche Behörden bzw. auf Art. 29 Abs. 1 BV übertragen werden (vgl. BGE 127 I 196 E. 2b S. 198; 125 I 119 E. 3 S. 122 ff.; Urteil des Bundesgerichts 1B_224/2010 vom 11. Januar 2011, E. 4.5.1, mit weiteren Hinweisen). Strafverfolgungsorgane können grundsätzlich abgelehnt werden, wenn Umstände (etwa strafprozessual unzulässige vorverurteilende Äusserungen) vorliegen, welche nach objektiven Gesichtspunkten geeignet sind, den Anschein der Befangenheit zu erwecken (BGE 127 I 196 E. 2b S. 198, E. 2d-e S. 200-202; 112 Ia 142 E. 2d S. 148). In der Regel vermögen allgemeine Verfahrensmassnahmen, seien sie richtig oder falsch, als solche keine Voreingenommenheit der verfügenden Justizperson zu begründen (vgl. BGE 114 Ia 153 E. 3b/bb S. 158 f. mit Hinweis). Soweit konkrete Verfahrensfehler eines Staatsanwaltes, Untersuchungsrichters oder polizeilichen Ermittlungsbeamten beanstandet werden, kommen als möglicher Ablehnungsgrund jedenfalls nur besonders krasse oder ungewöhnlich häufige Versäumnisse und Mängel in Frage. Diesbezüglich sind auch die zur Verfügung stehenden Rechtsmittel gegen beanstandete Untersuchungsmassnahmen auszuschöpfen (vgl. BGE 114 Ia 153 E. 3b/bb S. 158 f.; Urteil des Bundesgerichts 1B_224/2010 vom 11. Januar 2011, E. 4.5.2, mit weiteren Hinweisen).
3.4.2 Die Beschwerdeführerin nennt keine Mängel der Strafuntersuchung, die derart gravierend wären, dass auf die Voreingenommenheit von Staatsanwalt Thomas Rapold geschlossen werden müsste. Somit stellt sich die Frage, ob die Strafuntersuchung anderen Personen übertragen werden soll, nicht. Allfällige Versäumnisse im Rahmen der Untersuchung sind nicht mit einem Ausstandsbegehren, sondern im Rechtsmittelverfahren gegen kritisierte Entscheide der Strafverfolgungsbehörden vorzutragen.
4. Zusammenfassend ergibt sich, dass die Beschwerde abzuweisen ist, soweit darauf eingetreten werden kann. Die Gerichtskosten sind der unterliegenden Beschwerdeführerin aufzuerlegen (Art. 66 Abs. 1 BGG). Den in ihrem amtlichen Wirkungskreis obsiegenden Behörden steht keine Parteientschädigung zu (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird der Beschwerdeführerin, der Staatsanwaltschaft und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 28. September 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Haag