Sachverhalt:
A.
Am 30. November 2010 erstattete eine Privatperson Strafanzeige gegen A._. Am 25. März 2011 verfügte die Staatsanwaltschaft Zürich-Sihl die Nichtanhandnahme einer Strafuntersuchung, weil das zur Erfüllung des Betrugs erforderliche Tatbestandselement der Arglist nicht erfüllt sei. Am 5. September 2016 verfügte die Staatsanwaltschaft des Kantons Basel-Stadt, das mit Entscheid vom 25. März 2011 nicht an die Hand genommene Verfahren gegen A._ werde eröffnet bzw. wieder aufgenommen. Zur Begründung führte sie aus, es sei ein Dokument mit einer gefälschten Unterschrift eingereicht worden, welches beim Erlass der Nichtanhandnahmeverfügung nicht vorgelegen habe. Dabei handle es sich um ein neues Beweismittel bzw. eine neu bekannt gewordene Tatsache, welche die strafrechtliche Verantwortlichkeit der beschuldigten Person erhärte.
B.
Gegen die Verfügung der Staatsanwaltschaft des Kantons Basel-Stadt vom 5. September 2016 erhob A._ Beschwerde ans Appellationsgericht des Kantons Basel-Stadt mit den Anträgen, die angefochtene Verfügung sei aufzuheben und ihm für das Beschwerdeverfahren die amtliche Verteidigung zu gewähren. Mit Entscheid vom 21. März 2017 wies das Appellationsgericht als Einzelgericht die Beschwerde von A._ ab. Es auferlegte A._ Verfahrenskosten in der Höhe von Fr. 500.-- und wies den Antrag auf amtliche Verteidigung ab.
C.
Gegen den Entscheid des Appellationsgerichts vom 21. März 2017 hat A._ am 18. Mai 2017 Beschwerde ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben, soweit ihm die amtliche Verteidigung verweigert worden sei. Für das Beschwerdeverfahren vor Appellationsgericht sei ihm die amtliche Verteidigung zu gewähren und sein Verteidiger mit Fr. 855.60 (inkl. Mehrwertsteuer) zu entschädigen. Eventualiter sei der angefochtene Entscheid aufzuheben, soweit ihm die amtliche Verteidigung verweigert worden sei, und die Sache zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückzuweisen.
Die Vorinstanz hat auf eine Vernehmlassung verzichtet und beantragt die Abweisung der Beschwerde. Die Staatsanwaltschaft des Kantons Basel-Stadt hat sich nicht vernehmen lassen.

Erwägungen:
1.
Beim angefochtenen Entscheid, mit welchem das Appellationsgericht die Beschwerde gegen die Eröffnung bzw. Wiederaufnahme eines Strafverfahrens abgewiesen hat, handelt es sich um einen kantonal letztinstanzlichen Entscheid in einer Strafsache (vgl. Art. 78 Abs. 1 und Art. 80 BGG). Weil er das Strafverfahren nicht abschliesst, handelt es sich nicht um einen Endentscheid im Sinne von <ref-law>, sondern um einen selbstständig eröffneten Zwischenentscheid.
Gemäss <ref-law> ist die Beschwerde gegen selbstständig eröffnete Zwischenentscheide, die weder die Zuständigkeit noch den Ausstand betreffen (vgl. <ref-law>), nur zulässig, wenn der Zwischenentscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b). Die selbstständige Anfechtbarkeit von Zwischenentscheiden bildet aus prozessökonomischen Gründen eine Ausnahme vom Grundsatz, dass sich das Bundesgericht mit jeder Angelegenheit nur einmal befassen soll (<ref-ruling> E. 2.2 S. 801 mit Hinweisen). Die Ausnahme ist restriktiv zu handhaben, zumal die Parteien keine Rechte verlieren, wenn sie sich nicht selbstständig gegen einen Zwischenentscheid wenden können, da sie ihn mit dem Endentscheid anfechten können (<ref-law>). Es obliegt dem Beschwerdeführer, detailliert darzutun, dass die Voraussetzungen von <ref-law> erfüllt sind, soweit diese nicht offensichtlich vorliegen (<ref-ruling> E. 2.2 S. 801; <ref-ruling> E. 1.2 S. 81; je mit Hinweisen).
2.
Soweit die Vorinstanz entschieden hat, die Staatsanwaltschaft des Kantons Basel-Stadt habe das Strafverfahren gegen den Beschwerdeführer zu Recht eröffnet bzw. wieder aufgenommen, ist ihr Zwischenentscheid nicht beim Bundesgericht anfechtbar, zumal die Voraussetzungen gemäss <ref-law> für eine Anfechtung nicht erfüllt sind (vgl. <ref-ruling> E. 4 S. 141; Urteil 1B_70/2009 vom 7. April 2009 E. 2.1; je mit Hinweisen). Vor Bundesgericht angefochten ist der Entscheid der Vorinstanz denn auch lediglich, soweit diese dem Beschwerdeführer für das vorinstanzliche Beschwerdeverfahren die amtliche Verteidigung verweigert hat. Insoweit fällt eine Anfechtung nach <ref-law> schon deshalb ausser Betracht, weil die Gutheissung der Beschwerde keinen Endentscheid im Strafverfahren herbeiführen würde.
3.
3.1. Zwischenentscheide in denen die amtliche Verteidigung oder die unentgeltliche Rechtspflege verweigert werden, haben in der Regel einen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> zur Folge (<ref-ruling> E. 1.1 S. 131 mit Hinweis). Dies ist namentlich der Fall, wenn dem Gericht oder dem Anwalt innert kurzer Frist ein Kostenvorschuss geleistet werden müsste. Wenn das Verfahren indessen bereits abgeschlossen ist, der Rechtsvertreter seine Arbeit bereits getan hat und daher keine Gefahr droht, dass die beschwerdeführende Person infolge der Verweigerung der unentgeltlichen Verbeiständung bzw. der amtlichen Verteidigung ihre Rechte nicht wahrnehmen könnte, kann allein aus der Tatsache, dass ein Entscheid die amtliche Verteidigung bzw. die unentgeltliche Prozessführung betrifft, nicht auf die Gefahr eines nicht wieder gutzumachenden Nachteils geschlossen werden (<ref-ruling> E. 2.3 S. 603; <ref-ruling> E. 2.2 S. 648; Urteile 4D_48/2014 vom 21. November 2014 E. 1.3; je mit Hinweisen).
3.2. Der Beschwerdeführer legt nicht dar, inwiefern die Voraussetzungen für eine selbstständige Anfechtung des vorinstanzlichen Zwischenentscheids erfüllt sein sollten. Das vorinstanzliche Beschwerdeverfahren bezüglich der Eröffnung bzw. Wiederaufnahme des Strafverfahrens ist bereits abgeschlossen und der Beschwerdeführer war im Verfahren vor der Vorinstanz anwaltlich vertreten. Unter diesen Umständen besteht keine Gefahr, dass der Beschwerdeführer infolge der Verweigerung der amtlichen Verteidigung im Verfahren vor der Vorinstanz seine Rechte nicht wahrnehmen könnte. Der Beschwerdeführer kann den Entscheid über die Verweigerung der amtlichen Verteidigung im vorinstanzlichen Beschwerdeverfahren entweder zusammen mit einer Beschwerde gegen den kantonal letztinstanzlichen Endentscheid im Strafverfahren oder - sofern er an einer Anfechtung des Endentscheids im Strafverfahren kein Interesse haben sollte - im Anschluss an diesen mit selbstständiger Beschwerde beim Bundesgericht anfechten (vgl. Urteil 6B_1216/2016 vom 4. August 2017 E. 1.4).
4.
Nach dem Ausgeführten ist auf die Beschwerde nicht einzutreten. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege inklusive Verbeiständung ist abzuweisen, da die Beschwerde aussichtslos war (vgl. Art. 64 Abs. 1 und 2 BGG). Aufgrund der Umstände rechtfertigt es sich jedoch, auf die Erhebung von Gerichtskosten zu verzichten (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.
Es werden keine Gerichtskosten erhoben.
4.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft des Kantons Basel-Stadt und dem Appellationsgericht des Kantons Basel-Stadt, Einzelgericht, schriftlich mitgeteilt.
Lausanne, 4. Oktober 2017
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Der Gerichtsschreiber: Mattle