Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Richtet sich die Beschwerde gegen einen Nichteintretensentscheid, hat das Gericht, ungeachtet der Vorbringen des Beschwerdeführers, zu prüfen und darüber zu entscheiden, ob die Verwaltung oder die gerichtliche Vorinstanz zu Recht nicht auf das Leistungs- oder Feststellungsbegehren eingetreten ist. Der richterliche Entscheid in der Sache (Sachentscheid) hat in dieser besonderen verfahrensmässigen Situation den formellen Gesichtspunkt des Nichteintretens durch die untere Instanz zum Gegenstand (<ref-ruling> Erw. 2a). Dagegen hat sich das Gericht mit den materiellen Anträgen nicht zu befassen (vgl. <ref-ruling> Erw. 2b, 117 V 122 Erw. 1 mit Hinweisen; nicht publizierte Erw. 1a des Urteils RKUV 2000 Nr. U 372 S. 112 [U 269/00]; SVR 1997 UV Nr. 66 S. 226 Erw. 1a). Soweit in der vorliegenden Verwaltungsgerichtsbeschwerde Rechtsbegehren gestellt werden, die sich nicht mit der prozessualen Frage des vorinstanzlichen Nichteintretensentscheids befassen, ist darauf nicht einzutreten.
2.- Da keine Versicherungsleistungen streitig sind, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob der vorinstanzliche Entscheid Bundesrecht verletzt, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
3.- a) Nach Art. 103 Abs. 3 AVIG kann gegen Verfügungen oder Entscheide der kantonalen Amtsstellen und der Kassen innert 30 Tagen seit Zustellung Beschwerde erhoben werden. Nach der Rechtsprechung obliegt der Beweis der Tatsache sowie des Zeitpunktes der Zustellung einer Verfügung grundsätzlich der Verwaltung (<ref-ruling> Erw. 2a; <ref-ruling> Erw. 2a). Weil der Sozialversicherungsprozess von der Untersuchungsmaxime beherrscht wird, handelt es dabei nicht um die subjektive Beweisführungslast (Art. 8 ZGB), sondern in der Regel nur um die so genannte objektive Beweislast in dem Sinne, dass im Fall der Beweislosigkeit der Entscheid zu Ungunsten jener Partei ausfällt, die aus dem unbewiesen gebliebenen Sachverhalt Rechte ableiten wollte (<ref-ruling> Erw. 3b mit Hinweis; unveröffentlichtes Urteil H 220/98 vom 11. Juli 2000).
b) Bezüglich Tatsachen, welche für die Zustellung von Verfügungen erheblich sind, gilt der Beweisgrad der überwiegenden Wahrscheinlichkeit. Allerdings bedingt dies in der Regel die Eröffnung der Verfügung mit eingeschriebenem Brief; denn nach der Rechtsprechung vermag die Verwaltung den Wahrscheinlichkeitsbeweis für die Zustellung der Verfügung nicht durch den blossen Hinweis auf den üblichen administrativen Ablauf zu erbringen (<ref-ruling> f.
Erw. 3b; vgl. ZAK 1984 S. 124 Erw. 1b). Wird die Tatsache oder das Datum der Zustellung uneingeschriebener Sendungen bestritten, muss im Zweifel auf die Darstellung des Empfängers abgestellt werden (<ref-ruling> Erw. 2a, 103 V 66 Erw. 2a). Diese in erster Linie für die Belange der AHV/IV entwickelten Grundsätze gelten gleichermassen für den Bereich der Arbeitslosenversicherung.
c) Aus dem im gesamten Bundessozialversicherungsrecht anwendbaren Grundsatz, dass den Parteien aus mangelhafter Eröffnung keine Nachteile erwachsen dürfen (vgl. Art. 38 VwVG und Art. 107 Abs. 3 OG), folgt, dass dem beabsichtigten Rechtsschutz schon dann Genüge getan wird, wenn eine objektiv mangelhafte Eröffnung trotz ihres Mangels ihren Zweck erreicht. Das bedeutet nichts anderes, als dass nach den konkreten Umständen des Einzelfalles zu prüfen ist, ob die betroffene Partei durch den gerügten Eröffnungsmangel tatsächlich irregeführt und dadurch benachteiligt worden ist. Richtschnur für die Beurteilung dieser Frage ist der auch in diesem prozessualen Bereich geltende Grundsatz von Treu und Glauben, an welchem die Berufung auf Formmängel in jedem Fall ihre Grenze findet (<ref-ruling>, 106 V 97 Erw. 2a; ZAK 1991 S. 377 Erw. 2a; ARV 1987 Nr. 13 S. 118 Erw. 2b mit weiteren Hinweisen). Eine Rechtsmittelfrist darf jedenfalls nicht schon dann zu laufen beginnen, wenn ein Betroffener zufällig von einer anzufechtenden Verfügung Kenntnis erhält. Umgekehrt kann der Betroffene, entsprechend dem Grundsatz von Treu und Glauben, den Zeitpunkt des Beginns des Fristenlaufs nicht beliebig hinauszögern, wenn er einmal von der ihn betreffenden Verfügung Kenntnis erhalten hat. Er hat nach Kenntnisnahme vom Bestand einer ihn betreffenden Verfügung im Rahmen des ihm Zumutbaren die sich aufdrängenden Schritte zu unternehmen (<ref-ruling> Erw. 3).
4.- a) Die Vorinstanz begründet ihr Nichteintreten auf die Beschwerde gegen die Verfügung vom 5. Oktober 1999 damit, dass für eine fehlende oder verspätete Zustellung keine stichhaltigen Anhaltspunkte vorlägen, weshalb die Eingabe vom 5. Januar 2000 verspätet erfolgt sei. Aus der Tatsache, dass in der Begründung der Kassenverfügung vom 20. Dezember 1999 ohne Erwähnung einer entsprechenden Beilage auf die Verfügung vom 5. Oktober Bezug genommen wurde, könne nicht geschlossen werden, dass die Beschwerdeführerin letztere Verfügung anders als durch ordnungsgemässe Zustellung erhalten habe. Da die Versicherte die angefochtene Verfügung vom 5. Oktober 1999 selbst und unaufgefordert beim Gericht ins Recht gelegt habe (Eingangsdatum identisch mit jenem der Beschwerdeschrift), sei von einer ordnungsgemässen Zustellung auszugehen, wobei mangels genauerer Angaben der Beschwerdeführerin das Empfangsdatum auf spätestens den 11. Oktober 1999 festzusetzen sei (übliche postalische Zustelldauer von B-Post bei nachgewiesenem Versanddatum am 6. Oktober 1999).
b) Dagegen bestreitet die Beschwerdeführerin, dass ihr die Verfügung vom 5. Oktober jemals ordnungsgemäss zugestellt worden sei. Insbesondere treffe es nicht zu, dass sie diese selbst und uneingefordert ins Recht gelegt habe.
Vielmehr müsse die beim Gericht tatsächlich eingetroffene Verfügung vom 5. Oktober aus anderer Quelle stammen. Denkbar sei die Zustellung durch den Mitarbeiter der Gemeindeverwaltung Regensdorf, der ihr bei der Ausfertigung der Beschwerdeschrift geholfen habe und dabei Rücksprache mit einer anderen, der Beschwerdeführerin unbekannten Amtsstelle genommen habe, nachdem sie ihm die Verfügung vom 5. Oktober nicht habe vorlegen können.
c) aa) Wie die Vorinstanz zutreffend dargelegt hat, ging die angefochtene Verfügung vom 5. Oktober 1999 gemäss Eingangsstempel gleichentags wie die Beschwerdeschrift beim kantonalen Gericht ein. Es kann offen bleiben, ob dieser Umstand allein genügt, um den Nachweis einer tatsächlich erfolgten Zustellung mit dem erforderlichen Beweisgrad zu erbringen. Denn selbst wenn die Tatsache der Zustellung als erstellt erachtet wird, lassen sich hieraus noch keine Rückschlüsse bezüglich des für den Beginn des Fristenlaufs im vorinstanzlichen Verfahren massgeblichen Zustelldatums ziehen.
bb) Gestützt auf den Vermerk in der Verfügung vom 5. Oktober 1999, wonach diese am 6. Oktober 1999 versandt wurde, sowie den üblichen administrativen und postalischen Ablauf hat die Vorinstanz das Zustellungsdatum fiktiv auf spätestens den 11. Oktober 1999 festgelegt. Ob es sich hiebei um eine nach Würdigung der Beweise ergangene Tatsachenfeststellung oder aber um eine aus den getroffenen Sachverhaltsfeststellungen anhand von Erfahrungssätzen gezogene Folgerung rechtlicher Art handelt (vgl. <ref-ruling> Erw. 2; Gygi, Bundesverwaltungsrechtspflege, 2. Aufl. , Bern 1983, S. 274 f.), die im vorliegenden Verfahren frei zu überprüfen wäre (vgl. Erw. 2 hievor), braucht nicht beantwortet zu werden. Selbst bei Annahme einer Tatsachenfeststellung vermöchte diese nämlich das Eidgenössische Versicherungsgericht nicht zu binden: Wann die betreffende Verfügung der Post übergeben wurde, lässt sich nach den unter Erw. 3a und b hievor dargelegten Grundsätzen selbst im Rahmen des anwendbaren Beweisgrades der überwiegenden Wahrscheinlichkeit mit dem blossen Hinweis auf das in der Verfügung notierte Versanddatum vom 6. Oktober 1999 und den üblichen administrativen Ablauf nicht beweisen; vielmehr wäre dies in erster Linie mittels - der bei uneingeschriebenen Sendungen naturgemäss fehlenden - Aufgabequittung oder aber auf andere Weise darzutun gewesen. Weitere Indizien dieser Art, die für die Richtigkeit des genannten fiktiven Zustelldatums sprechen könnten, haben weder die Vorinstanz noch das AWA ins Recht geführt und sind auch aus den Akten nicht ersichtlich. Auch wenn die Verfügung vom 5. Oktober 1999 tatsächlich am 6. Oktober 1999 bei der Post aufgegeben wurde, ist damit nicht hinreichend bewiesen, dass die Beschwerdeführerin diese uneingeschriebene Sendung innerhalb eines bestimmten Zeitraumes empfangen hat, denn ein Fehler bei der Postzustellung liegt nicht derart ausserhalb jeder Wahrscheinlichkeit, dass mit der Möglichkeit einer grösseren Verspätung nicht gerechnet werden müsste (vgl. Urteil X. und Y. vom 5. Juli 2000 [2P. 54/2000]). Das von der Vorinstanz ohne weitere Abklärungen angenommene Zustellungsdatum vom 11. Oktober 1999 ist nicht mit dem erforderlichen Beweisgrad erstellt. Unter diesen Umständen hat das kantonale Gericht gegen die von der Rechtsprechung für den Zustellungsnachweis von Verfügungen entwickelten Beweisgrundsätze (vgl. Erw. 3 hievor) verstossen, was im Ergebnis einer Verletzung wesentlicher Verfahrensbestimmungen im Sinne von Art. 105 Abs. 2 OG gleichkommt. Die Vorinstanz hätte der Beschwerdeführerin in der Verfügung vom 3. Juli 2000 auch nicht androhen dürfen, dass von der üblichen postalischen Zustelldauer (B-Post) und damit von der Zustellung der angefochtenen Verfügung spätestens am 11. Oktober 1999 ausgegangen und demnach mangels Rechtzeitigkeit auf die Beschwerde nicht eingetreten werde, falls die Beschwerdeführerin innert Frist nicht (bzw. ungenügend) erkläre, wann sie die angefochtene Verfügung erhalten habe, und das Couvert der angefochtenen Verfügung einreiche.
cc) Die Beschwerdeführerin ist nach eigener Darstellung erstmals in der Kassenverfügung vom 20. Dezember 1999 über den Inhalt der Verfügung des AWA vom 5. Oktober 1999, in welcher ihr die Vermittlungsfähigkeit und damit der Anspruch auf Arbeitslosenentschädigung rückwirkend ab
1. Februar 1999 abgesprochen wurde, in Kenntnis gesetzt worden. Da keine Indizien für eine vor dem 20. Dezember 1999 erfolgte Zustellung vorliegen, noch aufgrund der gesamten Umstände auf eine solche geschlossen werden kann, ist nach dem unter Erw. 3c Gesagten der Beginn der 30tägigen Beschwerdefrist bezüglich der Verfügung vom 5. Oktober 1999 frühestens auf die Tage nach Kenntnisnahme von deren Inhalt mittels Kassenverfügung vom 20. Dezember 1999 festzusetzen.
Entgegen der Auffassung der Vorinstanz ist somit die am 10. Januar 2000 bei der Vorinstanz eingegangene Beschwerde gegen die Verfügung vom 5. Oktober 1999 rechtzeitig erfolgt, sodass das kantonale Gericht darauf hätte eintreten müssen.
d) Die Beschwerdeführerin hat in ihrer Beschwerde vom 5. Januar 2000 sowie in ihren späteren Stellungnahmen erkennbar werden lassen, dass sich ihr Beschwerdewille jedenfalls auch auf die Kassenverfügung vom 20. Dezember 1999 erstreckt. Entsprechend hat das kantonale Gericht auch über die Rechtmässigkeit der Verfügung vom 20. Dezember 1999 betreffend die Rückforderung unrechtmässig bezogener Leistungen (Art. 95 Abs. 1 AVIG) materiell zu befinden. Dabei ist zu berücksichtigen, dass sich allgemein die Rechtmässigkeit der Rückerstattung nicht bereits aus einer - für die Arbeitslosenkasse verbindlichen - Feststellung fehlender Vermittlungsfähigkeit und damit der Unrechtmässigkeit des Leistungsbezugs ergibt; vielmehr ist die Rückerstattung unrechtmässig bezogener Leistungen nur zulässig, wenn die wiedererwägungs- oder revisionsrechtlichen Voraussetzungen erfüllt sind (<ref-ruling> mit weiteren Hinweisen; Urteil E. vom 13. Februar 2001 [C 168/00]).
5.- Das Verfahren ist kostenpflichtig, da es nicht umdie Bewilligung oder Verweigerung von Versicherungsleistungen geht (Art. 134 OG e contrario). Die Kosten sind vom AWA als unterliegender Partei zu tragen (Art. 156 Abs. 1 in Verbindung mit Art. 135 OG), weshalb das Gesuch der Beschwerdeführerin um unentgeltliche Rechtspflege im Sinne der Befreiung von den Gerichtskosten (Art. 152 in Verbindung mit Art. 135 OG) gegenstandslos ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird, soweit darauf
einzutreten ist, in dem Sinne gutgeheissen, dass der
Entscheid des Sozialversicherungsgerichts des Kantons
Zürich vom 26. Juli 2000 aufgehoben und die Sache an
die Vorinstanz zurückgewiesen wird, damit sie über die
Beschwerde vom 5. Januar 2000 gegen die Verfügung des
Amtes für Wirtschaft und Arbeit des Kantons Zürich vom 5. Oktober 1999 sowie gegen die Verfügung der Arbeitslosenkasse
der Gewerkschaft Bau & Industrie GBI vom 20. Dezember 1999 materiell entscheide.
II.Die Gerichtskosten von Fr. 500.- werden dem Beschwerdegegner auferlegt.
III. Dieser Entscheid wird den Parteien, dem Sozialversicherungsgericht
des Kantons Zürich, der Arbeitslosenkasse
der Gewerkschaft Bau & Industrie GBI,
Zürich, und dem Staatssekretariat für Wirtschaft zugestellt.
Luzern, 17. August 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Die Gerichtsschreiberin: