Sachverhalt: A. Am 17. März 2008 erstattete X._ Anzeige gegen A._ wegen Tierquälerei. Mit Eingabe vom 20. Mai 2008 stellte er zudem Strafantrag wegen Drohung und mehrfacher übler Nachrede. Mit Strafbefehl vom 11. Mai 2009 verurteilte das Bezirksamt Baden A._ wegen mehrfacher Widerhandlung gegen das Tierschutzgesetz, mehrfacher Drohung und mehrfacher übler Nachrede. B. Mit Schreiben vom 15. Mai 2009 ersuchte X._ das Bezirksamt Baden um Zustellung der seit dem 26. November 2008 eingegangenen Verfahrensakten. Diese wurden ihm in der Folge zugesandt. Mit Schreiben vom 3. Juni 2009 machte er das Bezirksamt Baden darauf aufmerksam, dass die Verteidigerakten von A._ fehlten und ersuchte um deren Nachsendung. Mit Schreiben vom 30. Juli 2009 teilte das Bezirksamt Baden X._ mit, dass die erbetenen Akten nicht mehr auffindbar seien. C. Am 25. September 2009 erhob X._ Beschwerde an das Obergericht des Kantons Aargau mit dem Antrag, das Bezirksamt Baden sei anzuweisen, die Verteidigerakten von A._ nachzureichen. Der Präsident der Beschwerdekammer in Strafsachen des Obergerichts retournierte die Eingabe mit dem Hinweis, auf die Beschwerde könne voraussichtlich nicht eingetreten werden. Für eine allfällige Rechtsverweigerungsanzeige sei das Departement Volkswirtschaft und Inneres (DVI), Abteilung Strafrecht, als Aufsichtsinstanz zuständig. Am 13. Oktober 2009 reichte X._ erneut Beschwerde an das Obergericht ein. Dieses trat am 2. Dezember 2009 auf das Rechtsmittel nicht ein. D. Am 19. März 2010 wies das Bundesgericht die gegen den Nichteintretensentscheid des Obergerichts erhobene Beschwerde von X._ ab, soweit es darauf eintrat (1B_370/2009). Das Bundesgericht ging davon aus, die Rechtsweggarantie gemäss Art. 6 EMRK und Art. 29a BV sei nicht verletzt, weil der Beschwerdeführer die Möglichkeit habe, den Entscheid des DVI an ein kantonales Gericht weiterzuziehen. Auf die Beurteilung durch eine richterliche Behörde habe er gemäss Art. 29a BV in Verbindung mit Art. 130 Abs. 3 BGG Anspruch (E. 2). E. Am 31. März 2010 erhob X._, vertreten durch Rechtsanwalt Rempfler, Beschwerde beim DVI und beantragte, das Bezirksamt sei anzuweisen, ihm alle Verteidigerakten im abgeschlossenen Strafverfahren gegen A._ zuzustellen. Mit Verfügung vom 12. April 2010 überwies das DVI die Beschwerde als Aufsichtsbeschwerde an den ersten Staatsanwalt. Dieser beauftragte das Bezirksamt Baden, die Akten zu rekonstruieren und sie X._ zuzustellen. Daraufhin teilte der erste Staatsanwalt X._ und dessen Vertreter mit Schreiben vom 30. April 2010 mit, das Aufsichtsverfahren sei erledigt und werde ohne Kostenfolgen abgeschrieben. Dagegen wandte sich X._ am 5. Mai 2010 an das DVI. Er forderte einen formellen Beschwerdeentscheid und die Verteilung der Kosten. Am 10. Mai 2010 teilte die Abteilung Strafrecht des DVI X._ und seinem Vertreter mit, im Rahmen eines Aufsichtsverfahrens habe der private Anzeigesteller keine Parteistellung. Daher werde die Behandlung einer Aufsichtsanzeige nicht mit einem formellen Entscheid abgeschlossen und auch keine Parteientschädigung ausgerichtet. F. Am 14. Mai 2010 erhob X._, vertreten durch Rechtsanwalt Rempfler, Beschwerde ans Verwaltungsgericht. Er beantragte, das DVI sei anzuweisen, das mit Verwaltungsbeschwerde vom 31. März 2010 anhängig gemachte Verwaltungsverfahren mit einem formellen Entscheid inklusive Kostenverlegung abzuschliessen, unter Kosten- und Entschädigungsfolgen zulasten des DVI. Am 29. November 2010 wies das Verwaltungsgericht die Beschwerde ab, soweit es darauf eintrat. G. Gegen den verwaltungsgerichtlichen Entscheid hat X._ am 18. Februar 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Er beantragt, das angefochtene Urteil sei aufzuheben und es sei festzustellen, dass das DVI das Verbot der Rechtsverweigerung verletzt habe. Der Kanton Aargau sei zu verpflichten, ihm eine Parteikostenentschädigung von Fr. 1'511.80 zu bezahlen und die Gerichtsgebühren auf die Staatskasse zu nehmen. Eventualiter sei die Sache an das Verwaltungsgericht zur Gutheissung der Rechtsverweigerungsbeschwerde zurückzuweisen. H. Das Verwaltungsgericht und das DVI haben auf eine Vernehmlassung verzichtet. Auch das Bezirksamt Baden hat sich nicht vernehmen lassen.