Sachverhalt: A. Die Staatsanwaltschaft des Kantons Zug führt eine Strafuntersuchung gegen X._ wegen ungetreuer Geschäftsbesorgung, eventuell Veruntreuung und Betrugs. In diesem Zusammenhang erteilte die Staatsanwaltschaft am 2. November 2010 Y._ den Auftrag, die sichergestellten Buchhaltungs- und Geschäftsunterlagen von zwei Kommanditgesellschaften sowie einer Aktiengesellschaft einer genauen Betrachtung zu unterziehen und dabei Basiserhebungen zu tätigen sowie diverse Fragen zu beantworten. B. Am 9. November 2010 beantragte X._ bei der Staatsanwaltschaft die Sistierung des Auftrags an Y._ und die vorgängige Befragung weiterer Personen. Erst wenn nach den beantragten Befragungen noch Fragen ungeklärt blieben, rechtfertige es sich, ein Gutachten einzuholen, wobei sich die Frage stellen werde, ob Y._ als Gutachter überhaupt noch in Betracht komme, zumal er durch den erteilten Auftrag beeinflusst worden sei und seine fachliche Befähigung in Frage stehe. Ausserdem beantragte X._ Einsicht in eine interne Notiz über ein Gespräch, welches der Auftragserteilung vorausgegangen sei, sowie in allfällige weitere dokumentierte Kontakte zwischen der Staatsanwaltschaft und dem beauftragten Sachverständigen. C. Mit Verfügung vom 24. November 2010 wies die Staatsanwaltschaft die Anträge auf Sistierung des Gutachterauftrags und die vorgängige Befragung weiterer Personen ab. Sie bestätigte Y._ als Gutachter sowie den ihm erteilten Auftrag und wies das Gesuch um Einsicht in die Gesprächsnotiz ab. Eine von X._ gegen die Bestätigung des Gutachters und den ihm erteilten Auftrag sowie der Abweisung des Gesuchs um Einsicht in die Gesprächsnotiz erhobene Beschwerde wies die Justizkommission des Obergerichts des Kantons Zug am 9. März 2011 ab, soweit sie nicht gegenstandslos geworden sei. D. Dagegen gelangt X._ am 14. April 2011 mit Beschwerde in Strafsachen ans Bundesgericht. Er beantragt, das Urteil der Justizkommission des Obergerichts vom 9. März 2011 sowie die Verfügung der Staatsanwaltschaft Zug vom 24. November 2010 seien aufzuheben. E. Die Vorinstanz beantragt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die Staatsanwaltschaft verzichtet auf eine Vernehmlassung. F. Mit Eingabe vom 13. Mai 2011 hält der Beschwerdeführer sinngemäss an seiner Beschwerde fest.