Sachverhalt:
A.
A._, geboren 1987, war vom 24. Oktober 2019 bis zum 19. Juni 2020 in einem befristeten Arbeitsverhältnis als Stellvertreter von Lehrpersonen ("Vikar") beim Volksschulamt des Kantons X._ angestellt. Am 16. März 2020 meldete er sich beim Regionalen Arbeitsvermittlungszentrum (RAV) zur Arbeitsvermittlung an; ab diesem Datum beantragte er in der Folge Arbeitslosenentschädigung. Mit Verfügung vom 22. Oktober 2020 verneinte die Arbeitslosenkasse des Kantons Zürich (nachfolgend: ALK oder Beschwerdegegnerin) mangels Erfüllung der Beitragszeit innerhalb der Rahmenfrist einen Anspruch auf Arbeitslosenentschädigung. Daran hielt sie auf Einsprache hin fest (Einspracheentscheid vom 22. Januar 2021).
B.
Hiergegen liess A._ am 22. Februar 2021 beim Sozialversicherungsgericht des Kantons Zürich Beschwerde erheben. Daraufhin hob die ALK den Einspracheentscheid vom 22. Januar 2021 noch vor Einreichung ihrer Beschwerdeantwort (lite pendente) wiedererwägungsweise auf mit der Begründung, die Beitragszeit sei erfüllt und es bedürfe weiterer Abklärungen hinsichtlich der übrigen Anspruchsvoraussetzungen. In der Folge schrieb das Sozialversicherungsgericht des Kantons Zürich das Beschwerdeverfahren gemäss den insofern übereinstimmenden Anträgen der Parteien zufolge Gegenstandslosigkeit ab (Verfügung vom 21. April 2021). Wegen einer Verletzung der Mitwirkungspflicht im Einspracheverfahren sprach es A._ jedoch nur eine reduzierte Parteientschädigung von Fr. 400.- zu (Dispositiv-Ziffer 3 der genannten Verfügung).
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, unter Aufhebung von Dispositiv-Ziffer 3 der angefochtenen Verfügung sei die Angelegenheit zur Neubeurteilung an das Sozialversicherungsgericht des Kantons Zürich zurückzuweisen; eventualiter sei ihm für das vorinstanzliche Verfahren eine Entschädigung von Fr. 2146.55 (inkl. MWST) zuzusprechen.
Die ALK schliesst auf Abweisung der Beschwerde. Das Sozialversicherungsgericht und das Staatssekretariat für Wirtschaft (SECO) verzichten auf eine Stellungnahme.

Erwägungen:
1.
Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob eine bei ihm eingereichte Beschwerde zulässig ist (<ref-law>; <ref-ruling> E. 1; <ref-ruling> E. 1; <ref-ruling> E. 2.1).
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist zulässig gegen Endentscheide, welche das Verfahren abschliessen (<ref-law>), und gegen Teilentscheide im Sinne von <ref-law>. Gegen selbstständig eröffnete Zwischenentscheide, mit denen weder über die Zuständigkeit noch über Ausstandsbegehren entschieden wurde (vgl. <ref-law>), ist die Beschwerde nur zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (<ref-law>) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (<ref-law>).
Der nicht wieder gutzumachende Nachteil im Sinne von <ref-law> muss ein Nachteil rechtlicher Natur sein, der auch durch einen späteren günstigen Endentscheid nicht oder nicht gänzlich beseitigt werden kann, wogegen rein tatsächliche Nachteile wie die Verfahrensverlängerung oder -verteuerung nicht ausreichen (<ref-ruling> E. 1.2; Urteil 4A_125/2020 vom 10. Dezember 2020 E. 1.3, nicht publ. in: <ref-ruling>; je mit Hinweisen).
1.2. Die selbstständige Anfechtbarkeit von Zwischenentscheiden bildet aus prozessökonomischen Gründen eine Ausnahme vom Grundsatz, dass sich das Bundesgericht mit jeder Angelegenheit nur einmal befassen soll (<ref-ruling> E. 1.2; Urteil 4A_125/2020 vom 10. Dezember 2020 E. 1.3, nicht publ. in: <ref-ruling>). Diese Ausnahme ist restriktiv zu handhaben (<ref-ruling> E. 1.2; <ref-ruling> E. 2.2). Dabei obliegt es der beschwerdeführenden Partei darzutun, dass die Voraussetzungen für eine ausnahmsweise Anfechtbarkeit eines Zwischenentscheids erfüllt sind, soweit deren Vorliegen nicht offensichtlich in die Augen springt (<ref-ruling> E. 1.2; <ref-ruling> E. 1.2).
2.
2.1. Angefochten ist vorliegend einzig die Entschädigungsregelung in Dispositiv-Ziffer 3 der vorinstanzlichen Verfügung vom 21. April 2021, mit welcher das Beschwerdeverfahren zufolge Gegenstandslosigkeit abgeschrieben wurde.
2.2. Im Zusammenhang mit Rückweisungsentscheiden hat das Bundesgericht erkannt, dass solche grundsätzlich keinen Endentscheid im Sinne von <ref-law> darstellen, sondern einen Zwischenentscheid, der nur unter den Voraussetzungen des <ref-law> angefochten werden kann (<ref-ruling> E. 1.2; <ref-ruling> E. 3.2; je mit Hinweisen). Ein Zwischenentscheid liegt nach der Rechtsprechung sodann auch vor, wenn die Vorinstanz des Bundesgerichts im Rahmen eines Rückweisungsentscheids über die Kostenfolgen befindet (BGE <ref-ruling> E. 3.2; <ref-ruling> E. 3.2; <ref-ruling> E. 1; <ref-ruling> E. 2). Ein derartiger Zwischenentscheid verursacht ebenfalls keinen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law>, weil der Kostenentscheid im Nachgang zu dem auf Grund des Rückweisungsentscheids neu ergehenden Endentscheid in der Sache angefochten werden kann (<ref-law>; BGE <ref-ruling> E. 3.2; <ref-ruling> E. 1; <ref-ruling> E. 2). Wird die von der unteren Instanz auf Grund des Rückweisungsentscheids erlassene neue Verfügung in der Sache nicht mehr angefochten, kann direkt im Anschluss an diese neue Verfügung die Kostenregelung im Rückweisungsentscheid innert der Beschwerdefrist von <ref-law> beim Bundesgericht angefochten werden (BGE <ref-ruling> E. 3.2; <ref-ruling> E. 1.1; <ref-ruling> E. 1.2.2; <ref-ruling> E. 2.2). Fristauslösend ist das Eröffnungs- bzw. Zustelldatum der neuen unterinstanzlichen Verfügung (BGE <ref-ruling> E. 3.3.2).
2.3. Nichts anderes kann gelten, wenn kein Rückweisungsentscheid ergeht, sondern der Versicherungsträger - wie vorliegend - einen Einspracheentscheid, gegen den Beschwerde erhoben wurde, lite pendente in Wiedererwägung zieht (<ref-law>), um den rechtserheblichen Sachverhalt weiter abzuklären und anschliessend neu über den Leistungsanspruch des Versicherten zu entscheiden. Schreibt die "Beschwerdebehörde" das Verfahren in der Folge als gegenstandslos ab, handelt es sich bei der entsprechenden Verfügung mithin nicht um einen End-, sondern um einen Zwischenentscheid im Sinne von <ref-law>. Auch hinsichtlich der Parteientschädigung in Dispositiv-Ziffer 3 der vorinstanzlichen Abschreibungsverfügung vom 21. April 2021 kommen somit die dargelegten Grundsätze über die Anfechtung der in einem Zwischenentscheid enthaltenen Kostenregelungen (E. 2.2 hiervor) zur Anwendung. In der unrichtigen Annahme, es liege ein Endentscheid vor, legt der Beschwerdeführer nicht dar, inwiefern ihm durch die angefochtene Verfügung ein nicht wieder gutzumachender Nachteil erwachsen könnte (vgl. E. 1.2 hiervor). Ein solcher ist auch nicht ersichtlich: Die mit der Rückweisung verbundene Verfahrensverlängerung genügt hier nicht (vgl. E. 1.1), abgesehen davon, dass sich der Beschwerdeführer in dieser Hinsicht schon vor Vorinstanz dem Antrag der Verwaltung angeschlossen hat. Was den strittigen Entschädigungsentscheid betrifft, wird er diesen im Nachgang zu dem auf Grund der Wiedererwägung neu ergehenden Endentscheid in der Sache anfechten können (<ref-law>). Für den Fall, dass die Arbeitslosenkasse in der Hauptsache vollumfänglich zu Gunsten des Beschwerdeführers entscheiden sollte, wird er die Entschädigungsregelung direkt ab Eröffnung respektive Zustellung des Endentscheids mit ordentlicher Beschwerde beim Bundesgericht anfechten können (<ref-ruling> E. 1.3). Nach dem Gesagten ist der in Dispositiv-Ziffer 3 der angefochtenen Abschreibungsverfügung enthaltene Nebenpunkt über die reduzierte Parteientschädigung nicht geeignet, einen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> zu bewirken. Die Variante gemäss <ref-law> fällt hier im Übrigen ausser Betracht. Auf die Beschwerde ist daher nicht einzutreten.
3.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>). Die Beschwerdegegnerin hat keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Staatssekretariat für Wirtschaft (SECO) schriftlich mitgeteilt.
Luzern, 30. September 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Walther