Sachverhalt:
A. Mit Urteil vom 4. April 2007 bewilligte der Präsident des Zivilgerichts Basel-Stadt Y._ (nachfolgend: Beschwerdegegnerin) in der Betreibung gegen X._ (nachfolgend: Beschwerdeführer) für den Betrag von Fr. 9'000.-- sowie Fr. 50.-- anteilige Kosten des Zahlungsbefehls definitive Rechtsöffnung.
B. Gegen diesen Rechtsöffnungsentscheid erhob der Beschwerdeführer beim Appellationsgericht des Kantons Basel-Stadt Beschwerde und verlangte die Aufhebung des angefochtenen Entscheids sowie die Abweisung des Rechtsöffnungsbegehrens, eventualiter die Rückweisung der Sache an die erste Instanz.
Mit Urteil des Appellationsgerichts vom 15. Oktober 2007 trat das Appellationsgericht auf die Beschwerde nicht ein.
C. Der Beschwerdeführer hat beim Bundesgericht am 8. Februar 2008 eine subsidiäre Verfassungsbeschwerde sinngemäss mit dem Antrag eingereicht, es sei das vorinstanzliche Urteil aufzuheben und auf seine Beschwerde vor Appellationsgericht einzutreten. Sodann hat er unentgeltliche Rechtspflege beantragt. Mit Verfügung vom 29. Februar 2008 wurde der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.
Eine Vernehmlassung wurde ausschliesslich zum Gesuch um Erteilung der aufschiebenden Wirkung eingeholt.

Erwägungen:
1. Gegen kantonal letztinstanzliche Rechtsöffnungsentscheide, bei denen der Streitwert weniger als Fr. 30'000.-- beträgt, steht die subsidiäre Verfassungsbeschwerde offen (Art. 113, Art. 114 i.V.m. Art. 72 Abs. 2 lit. a, Art. 75 Abs. 1 und Art. 90 BGG). Mit ihr kann nur die Verletzung von verfassungsmässigen Rechten gerügt werden (<ref-law>).
2. Das Appellationsgericht erwog, dass das erstinstanzliche Urteil dem Beschwerdeführer am 20. April 2007 zugestellt worden sei, die Beschwerdefrist demgemäss nach <ref-law> BS am 30. April 2007 abgelaufen sei, die Beschwerde jedoch das Datum des Poststempels vom 3. Mai 2007 trage. Der Beschwerdeführer habe für den Beweis der rechtzeitigen Übergabe der Sendung an die Post die Einvernahme von zwei Zeugen beantragt. Er habe jedoch den Kostenvorschuss von Fr. 800.-- innert der ihm gesetzten Frist bis zum 7. August 2007, peremptorisch erstreckt bis zum 21. August 2007, nicht geleistet. Daher seien die Zeugen nicht befragt worden und sei dem Beschwerdeführer der Nachweis der rechtzeitigen Einreichung der Beschwerde nicht gelungen.
3. Gegenstand der Beschwerde ist zunächst die Verfügung vom 8. August 2007, mit welcher dem Beschwerdeführer Erstreckung der Frist zur Leistung des Kostenvorschusses bis zum 21. August 2007 gewährt worden ist. Der Beschwerdeführer macht im Zusammenhang mit ihrer Zustellung eine Verletzung des rechtlichen Gehörs geltend.
3.1 Gemäss den in den kantonalen Akten befindlichen Zustellinformationen der Post ist die Verfügung des Appellationsgerichts betreffend Fristverlängerung mit eingeschriebener Post versandt und die Sendung am 10. August 2007 avisiert worden.
Der Beschwerdeführer macht nicht geltend, keine Abholungseinladung vorgefunden zu haben. Vielmehr behauptet er lediglich, er habe bereits in früheren Verfahren den Bescheid betreffend Fristerstreckung mit nicht eingeschriebener Post erhalten. Nachdem er am 21. August 2007 noch keinen Bescheid erhalten habe, habe er sich telefonisch an die Kanzlei des Appellationsgerichts gewandt. Von dieser Stelle sei ihm die Auskunft gegeben worden, die Frist zur Leistung des Kostenvorschusses sei ihm bis zum 21. August 2007 gewährt worden, er solle nichts unternehmen und erhalte Bescheid. Am folgenden Tag habe er sich zur Post begeben und festgestellt, dass die Sendung am 21. August 2007 an das Appellationsgericht zurückgesandt worden sei.
Wird der Adressat anlässlich einer versuchten Zustellung nicht angetroffen und daher eine Abholeinladung in seinen Briefkasten oder sein Postfach gelegt, so gilt nach der bundesgerichtlichen Rechtsprechung die Sendung in jenem Zeitpunkt als zugestellt, in welchem sie auf der Post abgeholt wird; geschieht das nicht innert der Abholfrist, die sieben Tage beträgt, so gilt die Sendung als am letzten Tag dieser Frist zugestellt, sofern der Adressat mit der Zustellung hatte rechnen müssen (<ref-ruling> E. 1 S. 493; <ref-ruling> E. 2a/aa S. 34; <ref-ruling> E. 1.2.3 S. 399; vgl. auch <ref-ruling> E. 3a S. 15; <ref-ruling> E. 4b/aa S. 94, je mit Hinweisen). Diese Rechtsprechung ist nur dann massgebend, wenn die Zustellung eines behördlichen Aktes mit einer gewissen Wahrscheinlichkeit erwartet werden muss. Indessen entsteht mit der Rechtshängigkeit ein Prozessrechtsverhältnis, welches die Parteien verpflichtet, sich nach Treu und Glauben zu verhalten, d.h. unter anderem dafür zu sorgen, dass ihnen Entscheide, welche das Verfahren betreffen, zugestellt werden können (<ref-ruling> E. 1 S. 10; <ref-ruling> E. 2 S. 189; <ref-ruling> E. 2a S. 298; <ref-ruling> E. 3a S. 15; <ref-ruling> E. 4b/aa S. 94; <ref-ruling> E. 1 S. 493; <ref-ruling> E. 1.2.3 S. 399). Diese Pflicht entsteht mithin als prozessuale Pflicht mit der Begründung eines Verfahrensverhältnisses und gilt insoweit, als während des hängigen Verfahrens mit einer gewissen Wahrscheinlichkeit mit der Zustellung eines behördlichen Aktes gerechnet werden muss (BGE <ref-ruling> E. 4b/aa S. 94; <ref-ruling> E. 1d S. 4; <ref-ruling> E. 1 S. 493; <ref-ruling> E. 1.2.3 S. 399).
Auch wenn es theoretisch möglich wäre, dass die Abholungseinladung nicht in den Briefkasten des Beschwerdeführers, sondern versehentlich in denjenigen einer unbeteiligten Drittperson gelangt ist, ist daher nicht ersichtlich, weshalb der Vorinstanz eine Verletzung des rechtlichen Gehörs vorzuwerfen wäre, wenn sie dieser rein theoretischen Möglichkeit kein Gewicht beigemessen hat. Auch aus dem Fristvermerk auf dem Umschlag der fraglichen Sendung ("Zur Abholung am Postschalter gemeldet. Frist bis 17.08.07.") erhellt, dass der mit der Übermittlung beauftragte Postbote eine Abholungseinladung mit der entsprechenden Frist ausgefüllt hat.
3.2 Sodann macht der Beschwerdeführer geltend, er hätte bis zum 18. August 2007 Zeit gehabt, die Sendung abzuholen und demnach wäre ihm zur Leistung des Kostenvorschusses bis zum 21. August 2007 nur noch eine Frist von drei Tagen geblieben, was angesichts seiner angespannten finanziellen Lage unangemessen sei.
Auch dieser Einwand stösst ins Leere, da der Beschwerdeführer die Sendung tatsächlich nicht abgeholt hat. Der Instruktionsrichter, welcher dem Beschwerdeführer eine Fristerstreckung bis zum 21. August 2007 gewährt hatte, musste auch nicht damit rechnen, dass dieser die Sendung erst am letzten Tag der Frist abholen könnte. Somit kann offen bleiben, ob eine dreitägige Frist zur Leistung eines Kostenvorschusses unangemessen kurz wäre.
3.3 Insgesamt ist daher nicht ersichtlich, weshalb die Vorinstanz im Zusammenhang mit der Verfügung vom 8. August 2007 das rechtliche Gehör verletzt haben soll.
4. Weiter wendet sich der Beschwerdeführer gegen die vorinstanzlichen Ausführungen betreffend die verpasste Beschwerdefrist.
Das Appellationsgericht führte aus, dass der 30. April 2007 ein Montag gewesen sei, weshalb es kaum möglich erscheine, dass eine Sendung, die kurz vor Mitternacht eingeworfen worden sei, erst drei Tage später um 18.00 Uhr durch die Post bearbeitet worden sei. Der Beschwerdeführer macht dagegen geltend, der 1. Mai sei im Kanton Basel-Stadt ein Feiertag und es sei daher durchaus möglich, dass die an diesem Tag eingetroffene Post nicht am Folgetag, sondern erst innert zweier Tage bearbeitet worden sei. Auch wenn solche Fehler in der Zustellung durch die Post nicht die Regel seien, seien sie durchaus möglich. Ihm dürfe daraus jedoch kein Nachteil erwachsen.
Was der Beschwerdeführer diesbezüglich vorbringt, ist zwar nicht völlig undenkbar. Dies genügt jedoch zur Begründung einer Verletzung eines verfassungsmässigen Rechts nicht.
5. Die Verfassungsbeschwerde ist somit abzuweisen. Demzufolge sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Da der Beschwerdeführer die behauptete Bedürftigkeit nicht gehörig begründet hat, ist auch sein Gesuch um unentgeltliche Rechtspflege abzuweisen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Verfassungsbeschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Ausschuss, schriftlich mitgeteilt.
Lausanne, 25. März 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Raselli Rapp