Sachverhalt: A. A.a Am 29. Februar 2008 versteigerte das Betreibungsamt C._ das im Eigentum von X._ stehende Grundstück GB ... in C._. Die D._kasse erhielt den Zuschlag für den Grundstücksteil A und Z._ für den landwirtschaftlichen Grundstücksteil B. Eine von X._ gegen den Steigerungszuschlag erhobene Beschwerde wurde vom Kantonsgericht Schwyz mit Beschluss vom 23. Dezember 2008 abgewiesen, soweit darauf einzutreten war. A.b Mit zwei Schreiben vom 25. Februar und 20. April 2010 gelangte X._ an das Betreibungsamt C._ und ersuchte um Aufhebung des Steigerungszuschlags für den Grundstücksteil B. Zur Begründung führte er aus, dem Erwerber habe die erforderliche Bewilligung zum Erwerb des landwirtschaftlichen Grundstücks gefehlt. Das Betreibungsamt C._ reagierte nicht auf diese Eingaben. A.c Am 9. Juni 2010 erhob X._ beim Bezirksgerichtspräsidenten der March als unterer Aufsichtsbehörde Rechtsverweigerungsbeschwerde mit dem sinngemässen Antrag, das Betreibungsamt anzuweisen, mit beschwerdefähiger Verfügung über die Aufhebung des Steigerungszuschlags zu befinden. Am 9. September 2010 trat der Bezirksgerichtspräsident auf die Beschwerde nicht ein. A.d Dagegen erhob X._ am 20. September 2010 Beschwerde beim Kantonsgericht Schwyz als oberer kantonaler Aufsichtsbehörde. Er beantragte die Aufhebung des angefochtenen Entscheids und die Feststellung, dass die Steigerung bzw. der Zuschlag des Grundstücksteils B aufzuheben sei. Mit Beschluss vom 25. November 2010 wies das Kantonsgericht die Beschwerde ab, soweit es darauf eintrat. A.e Die von X._ am 4. Januar 2011 dagegen erhobene Beschwerde in Zivilsachen wurde vom Bundesgericht am 28. März 2011 gutgeheissen und die Angelegenheit zu neuer Beurteilung an das Kantonsgericht zurückgewiesen (Urteil 5A_9/2011 vom 28. März 2011). Das Kantonsgericht wurde angehalten, das Verfahren für die Behandlung der Eingaben von X._ zu bestimmen (Rechtsverweigerungsbeschwerde oder Revision) und abzuklären, ob Z._ über eine Erwerbsbewilligung für das Grundstück B verfüge (E. 3 und 4 des genannten Urteils). B. In der Folge nahm das Kantonsgericht das Verfahren wieder auf und trat mit Verfügung vom 30. Mai 2011 auf die Beschwerde und ein allfälliges Revisionsgesuch nicht ein. C. Gegen diese Verfügung hat X._ (Beschwerdeführer) am 10. Juni 2011 Beschwerde an das Bundesgericht erhoben. Er beantragt die Aufhebung der angefochtenen Verfügung. Es sei festzustellen, dass die Steigerung des Grundstücks B aufzuheben sei und dass keine rechtskräftigen Bewilligungen vorgelegen hätten und keine Erwerbsbewilligung beantragt worden sei. Zudem ersucht er um aufschiebende Wirkung. Das Kantonsgericht hat Abweisung des Gesuchs um aufschiebende Wirkung beantragt, soweit darauf einzutreten sei. Das Betreibungsamt ersucht um Abweisung. Mit Präsidialverfügung vom 27. Juni 2011 ist das Gesuch abgewiesen worden. In der Sache beantragt das Kantonsgericht, auf die Beschwerde nicht einzutreten, eventuell, sie abzuweisen. Das Betreibungsamt beantragt, auf die Beschwerde nicht einzutreten. Der Beschwerdeführer hat am 18. Juli 2011 repliziert.