Sachverhalt:
A.
Das Bau- und Gastgewerbeinspektorat des Kantons Basel-Stadt bewilligte der C._ GmbH am 9. August 2019 den Abbruch eines Einfamilienhauses und den Neubau zweier Doppeleinfamilienhäuser mit je einem Carport bzw. einer Garage und einem Abstellplatz sowie Bohrungen ins Erdreich in Riehen, unter Abweisung der Einsprachen verschiedener Nachbarn, darunter jene von A._ und B._.
Den dagegen erhobenen Rekurs von A._ und B._ wies die Baurekurskommission des Kantons Basel-Stadt mit Entscheid vom 19. Februar 2020 ab.
Mit Schreiben vom 2. Juni 2020 ersuchten A._ und B._ um Fristverlängerung für die Rekurseingabe und meldeten mit Schreiben vom 4. Juni 2020 Rekurs an. Das Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht, Einzelgericht, trat mit Urteil vom 2. September 2020 auf den Rekurs nicht ein und wies das Wiedereinsetzungsgesuch ab.
B.
A._ und B._ gelangen mit Eingabe vom 27. Oktober 2020 an das Bundesgericht und beantragen sinngemäss die Aufhebung des appellationsgerichtlichen Urteils.
Das Appellationsgericht beantragt unter Verzicht auf eine Vernehmlassung und gestützt auf das angefochtene Urteil die Abweisung der Beschwerde. Das Bau- und Gastgewerbeinspektorat verzichtet auf eine Vernehmlassung. Die Beschwerdegegnerin beantragt in ihrer Vernehmlassung, auf die Beschwerde sei nicht einzutreten, eventualiter sei diese abzuweisen.
Die in der Zwischenzeit anwaltlich vertretenen Beschwerdeführer halten im Rahmen ihrer Stellungnahme an ihrer Beschwerde fest. Die Beschwerdegegnerin verzichtet auf eine weitere Stellungnahme.

Erwägungen:
1.
Angefochten ist ein kantonal letztinstanzlicher Endentscheid in einer baurechtlichen Sache. Dagegen steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 90 BGG); ein Ausnahmegrund gemäss <ref-law> ist nicht gegeben. Die Beschwerdeführer sind Eigentümer einer unmittelbar benachbarten Liegenschaft, nahmen am vorinstanzlichen Verfahren teil und sind Adressaten des angefochtenen Urteils, womit sie gemäss <ref-law> zur Beschwerde berechtigt sind. Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass; auf die Beschwerde ist einzutreten.
2.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere die Verletzung von Bundesrecht und von kantonalen verfassungsmässigen Rechten gerügt werden (Art. 95 lit. a und c BGG). Das Bundesgericht prüft Rechtsverletzungen im Sinne von <ref-law> frei, die Anwendung des (übrigen) kantonalen Rechts dagegen nur auf Bundesrechtsverletzungen, d.h. namentlich auf Willkür, hin (<ref-ruling> E. 3.1.5; <ref-ruling> E. 1.3; <ref-ruling> E. 2; je mit Hinweisen). Es wendet das Recht grundsätzlich von Amtes wegen an (<ref-law>). Die Verletzung von Grundrechten und von kantonalem (einschliesslich kommunalem) und interkantonalem Recht prüft es aber nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). In der Beschwerde ist klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen, inwiefern die angerufenen Rechte verletzt worden sein sollen (<ref-ruling> E. 3.2 mit Hinweis).
3.
3.1. Die Vorinstanz erwog, gemäss § 16 des Gesetzes des Kantons Basel-Stadt vom 14. Juni 1928 über die Verfassungs- und Verwaltungsrechtspflege (VRPG/BS; SG 270.100) sei der Rekurs binnen zehn Tagen nach der Zustellung der Verfügung schriftlich beim Verwaltungsgericht anzumelden und spätestens binnen 30 Tagen eine schriftliche Rekursbegründung einzureichen. Aufgrund der ausserordentlichen Situation im Zusammenhang mit dem Coronavirus (COVID-19) habe der Regierungsrat des Kantons Basel-Stadt am 24. März 2020 einen Fristenstillstand in den kantonalen Verwaltungsverfahren beschlossen und gleichentags per Medienmitteilung publiziert. Demnach seien die durch Gesetz oder die Behörden angesetzten Fristen vom 21. März 2020 bis zum 19. April 2020 stillgestanden.
In der vorliegenden Bausache habe am 19. Februar 2020 eine Verhandlung stattgefunden, an der die Beschwerdeführer persönlich teilgenommen hätten. Der Entscheid der Baurekurskommission vom 19. Februar 2020 sei sodann am 23. April 2020, und damit nach Ablauf des Fristenstillstands, versandt worden. Den Beschwerdeführern sei die Sendung an deren Wohnort angezeigt worden. Diese hätten am 29. April 2020 einen Postrückbehaltungsauftrag ausgelöst. Nach dessen Ablauf am 23. Mai 2020 habe die Post die Sendung an die Baurekurskommission retourniert. Diese habe den Beschwerdeführern die Sendung, inklusive einer Kopie des retournierten Umschlags, mit B-Post nochmals zugestellt. Die Beschwerdeführer hätten die Sendung am 27. Mai 2020 erhalten.
Nachdem die Beschwerdeführer in Kenntnis des laufenden Verfahrens einen Postrückbehaltungsauftrag erteilt, die Post innerhalb dessen Laufzeit aber nicht entgegengenommen hätten, komme die Zustellfiktion zur Anwendung. Demzufolge sei von einer fristauslösenden Zustellung am 2. Mai 2020 und dem Ablauf der 10-tägigen Frist für die Anmeldung des Rekurses am 12. Mai 2020 auszugehen. Innert dieser Frist hätten die Beschwerdeführer keinen Rekurs angemeldet und auf einen verspätet angemeldeten Rekurs sei grundsätzlich nicht einzutreten. Die erneute Zustellung der Sendung ändere an der Anwendung der Zustellfiktion nichts. Mit der Zustellung des zurückgesandten Couverts habe die Baurekurskommission vielmehr zum Ausdruck gebracht, dass es sich um eine zweite Zustellung gehandelt habe. Die Beschwerdeführer machten geltend, ihre Verhinderung, die eingeschriebene Sendung entgegenzunehmen, sei auf eine Kombination föderaler und internationaler Bewegungsbeschränkungen aufgrund der COVID-19-Pandemie zurückzuführen und damit unverschuldet, ohne dies zu belegen. Es liege daher kein Entschuldigungsgrund für die Verhinderung der Zustellung vor. Das Gesuch um Wiedereinsetzung in die verpasste Frist sei somit abzuweisen. Der Rekurs sei damit verspätet angemeldet worden, weshalb darauf nicht einzutreten sei.
3.2. Mit ihren Vorbringen zeigen die Beschwerdeführer nicht auf, inwiefern die Vorinstanz den Sachverhalt im Sinne von <ref-law> unrichtig festgestellt oder kantonales Recht willkürlich angewendet haben soll (vgl. oben E. 2).
Insbesondere bestreiten sie nicht, dass sie an der Verhandlung vom 19. Februar 2020 teilgenommen haben, der Entscheid der Baurekurskommission am 23. April 2020 versandt und ihnen die Sendung am 24. April 2020 an ihrem Wohnort angezeigt worden war, sie einen Rückbehalt der Post veranlasst und die Sendung auch während dessen Laufzeit nicht abgeholt haben. Vielmehr bestätigen sie diese Ausführungen mit dem der Beschwerde beigelegten Ausdruck der Sendungsverfolgung.
Die Beschwerdeführer machen indes auch vor Bundesgericht geltend, aufgrund der strikten Einhaltung der damals geltenden Massnahmen zur Bekämpfung der Pandemie nicht in der Lage gewesen zu sein, die Sendung zu empfangen. Diesbezüglich hat die Vorinstanz erwogen, die Beschwerdeführer hätten nicht nachgewiesen, zum Zeitpunkt der Zustellung der Abholungseinladung in einer Quarantäne-Situation oder anderweitig daran gehindert gewesen zu sein, die Sendung entgegenzunehmen oder durch eine Vertretung entgegennehmen zu lassen. Mit den vor Bundesgericht vorgebrachten leichten Atemwegsbeschwerden ab der letzten Aprilwoche im Jahr 2020, der Abwesenheit einer von insgesamt drei empfangsberechtigten Personen und dem der Beschwerde beigelegten Dokument des Bundesamts für Gesundheit, wonach das Haus nur noch verlassen werden soll, wenn es zwingend erforderlich sei, vermögen sie nicht das Gegenteil aufzuzeigen. Dies gilt umso mehr, als die Beschwerdeführer ausführen, im Zeitpunkt der Zustellung der Sendung der Baurekurskommission einige "notwendige Lieferungen erhalten" zu haben und daher nicht in der Lage gewesen zu sein, die hier interessierende Sendung entgegenzunehmen, und sie sich bei der Post noch nach dem Absender dieser Sendung erkundigt und später einen Postrückbehaltungsauftrag veranlasst haben. Soweit die Beschwerdeführer schliesslich vorbringen, ihnen habe die Sendung nicht zugestellt werden können, weil sich die Baurekurskommission gegen die im Zuge der Pandemie eingeführte Möglichkeit entschieden habe, wonach bei einer eingeschriebenen Sendung der Postbote selber unterschreiben könne, kann ihnen ebenfalls nicht gefolgt werden: Wie die Beschwerdegegnerin zutreffend ausführt, muss der Postbote dazu eine empfangsberechtigte Person antreffen. Ansonsten füllt er - wie vorliegend geschehen - eine Abholungseinladung aus.
Demnach ist nicht zu beanstanden, dass die Vorinstanz zum Schluss kam, für die Verhinderung der Zustellung der eingeschriebenen Sendung liege kein Entschuldigungsgrund vor und sie das Gesuch um Wiedereinsetzung in die verpasste Frist abwies. Eine formelle Rechtsverweigerung, wie sie die Beschwerdeführer im Rahmen ihrer Stellungnahme geltend machen, ist darin nicht zu sehen.
4.
Nach diesen Erwägungen ist die Beschwerde abzuweisen.
Bei diesem Ausgang des Verfahrens sind die Gerichtskosten den unterliegenden Beschwerdeführern unter solidarischer Haftung aufzuerlegen (<ref-law>). Überdies haben sie die anwaltlich vertretene Beschwerdegegnerin für das bundesgerichtliche Verfahren, ebenfalls unter Solidarhaft, angemessen zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 1'000.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
3.
Die Beschwerdeführer haben die Beschwerdegegnerin für das bundesgerichtliche Verfahren unter Solidarhaft mit Fr. 1'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Bau- und Gastgewerbeinspektorat des Bau- und Verkehrsdepartements des Kantons Basel-Stadt und dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht, Einzelgericht, schriftlich mitgeteilt.
Lausanne, 3. Dezember 2021
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kneubühler
Die Gerichtsschreiberin: Dambeck