Sachverhalt: A. Die Staatsanwaltschaft Basel-Stadt führte gegen A._ ein Strafverfahren wegen Vergewaltigung, Freiheitsberaubung und Entführung. Am 18. April 2016 wurde er verhaftet. Mit Verfügung vom 21. April 2016 ordnete das Zwangsmassnahmengericht des Kantons Basel-Stadt Untersuchungshaft für die vorläufige Dauer von vier Wochen, d.h. bis zum 19. Mai 2016, an. Am 10. Mai 2016 erging die Anklageschrift. Am 18. Mai 2016 verfügte das Zwangsmassnahmengericht die Sicherheitshaft für die vorläufige Dauer von zwölf Wochen, d.h. bis zum 10. August 2016. Gegen beide Verfügungen erhob A._ Beschwerde beim Appellationsgericht des Kantons Basel-Stadt. B. Mit Entscheid vom 24. Mai 2016 schrieb das Einzelgericht am Appellationsgericht die gegen die erste Verfügung des Zwangsmassnahmengerichts vom 21. April 2016 eingereichte Beschwerde wegen Gegenstandslosigkeit als erledigt ab, auferlegte A._ die Kosten des Beschwerdeverfahrens von Fr. 500.-- und sprach dessen amtlichen Verteidiger ein Honorar von Fr. 1'200.-- (zuzüglich Mehrwertsteuer von Fr. 96.--) aus der Gerichtskasse zu. C. C.a. Mit Beschwerde in Strafsachen vom 3. Juni 2016 an das Bundesgericht beantragt A._, den Entscheid des Appellationsgerichts aufzuheben und die Sache an das Zwangsmassnahmengericht zurückzuweisen zur inhaltlichen Behandlung; eventuell sei er, allenfalls unter Anordnung geeigneter Ersatzmassnahmen, aus der Haft zu entlassen. In prozessualer Hinsicht ersucht er um unentgeltliche Prozessführung und Verbeiständung. C.b. Die Staatsanwaltschaft liess sich dazu nicht vernehmen. Das Appellationsgericht schliesst in seiner Stellungnahme vom 8. Juni 2016 auf Abweisung der Beschwerde. Zugleich teilte es dem Bundesgericht mit, es habe mit Beschwerdeentscheid vom 2. Juni 2016, der seinem Vertreter am 3. Juni 2016 vorweg per Fax zugestellt und postalisch am 6. Juni 2016 eröffnet worden sei, die Haftentlassung von A._ angeordnet. Die effektive Haftentlassung sei am 3. Juni 2016 erfolgt. C.c. Mit Eingabe vom 6. Juli 2016 teilt der Vertreter von A._ mit, er sei am 3. Juni 2016 beim Eingang des Faxes bereits nicht mehr im Büro gewesen und deshalb bei Beschwerdeeinreichung in guten Treuen davon ausgegangen, sein Mandant befinde sich noch in Haft. Mit allerdings noch nicht rechtskräftigem Urteil des Strafgerichts Basel-Stadt vom 4. Juli 2016 sei A._ inzwischen von sämtlichen Anklagevorwürfen vollumfänglich und kostenlos freigesprochen worden. Überdies sei ihm für den unrechtmässigen Freiheitsentzug eine Haftentschädigung in der Höhe von Fr. 9'000.-- zugesprochen worden. A._ sei mithin nur noch insofern beschwert, als ihm das Appellationsgericht eine Gebühr von Fr. 500.-- auferlegt habe. Wegen des inhaltlich falschen Beschwerdeentscheids habe er aber auch zehn Tage länger in Haft bleiben müssen, was zusätzlich festzustellen sei. C.d. Das Dispositiv des Strafurteils vom 4. Juli 2016 wurde dem Bundesgericht vom Rechtsvertreter von A._ eingereicht. Weitere Eingaben gingen beim Bundesgericht nicht mehr ein.