Sachverhalt:
A.
Mit Verfügung vom 21. April 2016 versetzte das Haftgericht des Kantons Solothurn A._ für die Dauer von drei Monaten in Untersuchungshaft. Es bestehe der dringende Verdacht des mehrfachen Betrugs und der mehrfachen Urkundenfälschung. Zudem sei der Haftgrund der Kollusionsgefahr zu bejahen.
Gegen diese Verfügung erhob A._ Beschwerde ans Obergericht des Kantons Solothurn. Mit Urteil vom 2. Juni 2016 wies das Obergericht die Beschwerde ab. Die Verfahrenskosten von Fr. 800.-- auferlegte es A._. Dessen Gesuch um unentgeltliche Rechtspflege wies es mit der Begründung ab, die Strafprozessordnung sehe die unentgeltliche Rechtspflege nur für die Privatklägerschaft vor. Dagegen bewilligte es das Gesuch um amtliche Verteidigung und ordnete die Entschädigung des amtlichen Verteidigers für das Beschwerdeverfahren durch den Kanton Solothurn an.
B.
Mit Beschwerde in Strafsachen und subsidiärer Verfassungsbeschwerde ans Bundesgericht vom 7. Juli 2016 beantragt A._ die Aufhebung des vorinstanzlichen Kostenentscheids. Es sei ihm für das Beschwerdeverfahren vor dem Obergericht des Kantons Solothurn die unentgeltliche Rechtspflege zu gewähren. Eventualiter sei die Sache zur erneuten Prüfung der Voraussetzungen der unentgeltlichen Rechtspflege an die Vorinstanz zurückzuweisen.
Das Obergericht und die Staatsanwaltschaft haben auf eine Vernehmlassung verzichtet.
Erwägungen:
1.
1.1. Beim angefochtenen Entscheid handelt es sich um einen kantonal letztinstanzlichen Zwischenentscheid in Strafsachen (Art. 78, 80 und 93 BGG). Die Beschwerde in Strafsachen ist grundsätzlich zulässig, weshalb für die subsidiäre Verfassungsbeschwerde kein Raum bleibt.
1.2. Genauer zu prüfen ist, ob die Sachurteilsvoraussetzungen von Art. 93 BGG erfüllt sind. Sofern sich diese nicht ohne Weiteres aus den Akten ergeben, obliegt es dem Beschwerdeführer darzulegen, inwiefern sie gegeben sind (BGE 137 III 324 E. 1.1 S. 328 f.; 133 III 629 E. 2.3.1 und 2.4.2 S. 632 f.; je mit Hinweisen). Vorliegend fällt von vornherein ausschliesslich die Variante von Art. 93 Abs. 1 lit. a BGG in Betracht. Danach ist die Beschwerde gegen einen Zwischenentscheid zulässig, wenn dieser einen nicht wieder gutzumachenden Nachteil bewirken kann.
Als oberste rechtsprechende Behörde des Bundes soll sich das Bundesgericht in der Regel nur einmal mit der gleichen Streitsache befassen müssen. Nach ständiger Praxis zu Art. 93 Abs. 1 lit. a BGG ist ein Vor- oder Zwischenentscheid daher nur ausnahmsweise anfechtbar, sofern ein konkreter rechtlicher Nachteil droht, der auch durch einen (für die rechtsuchende Partei günstigen) Endentscheid nachträglich nicht mehr behoben werden könnte.
1.3. Der in einem Zwischenentscheid enthaltene Kosten- und Entschädigungspunkt kann grundsätzlich nur im Rahmen einer Beschwerde gegen den Hauptpunkt ans Bundesgericht weitergezogen werden (BGE 135 III 329 E. 1 S. 331 ff. mit Hinweisen). Vorliegend wäre für eine Beschwerde im Hauptpunkt - die Anordnung der Untersuchungshaft - ein drohender, nicht wieder gutzumachender Nachteil zu bejahen, doch hat der Beschwerdeführer das Urteil des Obergerichts insoweit akzeptiert. Seine Beschwerde ans Bundesgericht richtet sich ausschliesslich gegen den Kostenpunkt. Der in einem Zwischenentscheid enthaltene Entscheid über Kosten- und Entschädigungsfolgen kann jedoch allein grundsätzlich keinen nicht wieder gutzumachenden Nachteil bewirken (BGE 138 III 94 E. 2.2 f. S. 95 f. mit Hinweisen). Dass es vorliegend anders wäre, ist nicht ersichtlich. Auf die Beschwerde ist deshalb nicht einzutreten. Der Beschwerdeführer wird seine Kritik nach Vorliegen des Endentscheids (und unabhängig von dessen Inhalt) mit Beschwerde ans Bundesgericht vortragen können (Art. 93 Abs. 3 BGG; BGE 135 III 329 E. 1.2.2 S. 333; Urteil 1B_289/2012 vom 28. Juni 2012 E. 1.5; zum Ganzen: Urteile 1B_105/2016 vom 3. Juni 2016 E. 1.2; 1B_106/2013 vom 8. Mai 2013 E. 1.3; 1B_488/2012 vom 21. Januar 2013 E. 1.3; je mit Hinweisen).
2.
Auf die Beschwerde in Strafsachen und die subsidiäre Verfassungsbeschwerde ist aus den genannten Gründen nicht einzutreten.
Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Rechtspflege. Da sein Rechtsbegehren nach dem Gesagten aussichtslos ist, ist das Gesuch abzuweisen. Der Beschwerdeführer trägt damit die Gerichtskosten (Art. 66 Abs. 1 BGG) und hat keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde in Strafsachen und die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4.
Es wird keine Parteientschädigung zugesprochen.
5.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft des Kantons Solothurn und dem Obergericht des Kantons Solothurn, Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 2. August 2016
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Eusebio
Der Gerichtsschreiber: Dold