Sachverhalt:
A. Am 20. Dezember 2010 stellte die X._ AG in der gegen die Z._ AG angehobenen Betreibung (Nr. ..., Betreibungsamt Geroldswil-Oetwil-Weiningen) für den Forderungsbetrag von Fr. 18'732.10 (nebst näher bestimmten Zinsen und Kosten) das Gesuch um provisorische Rechtsöffnung. Mit Verfügung vom 2. März 2011 wies das Bezirksgericht Dietikon, Einzelgericht im summarischen Verfahren, das Rechtsöffnungsgesuch ab.
B. Gegen den negativen Entscheid des Rechtsöffnungsrichters gelangte die X._ AG an das Obergericht des Kantons Zürich, welches die Beschwerde am 8. Mai 2012 abwies.
C. Die X._ AG hat mit Eingabe vom 15. Juni 2012 (Postaufgabe) Beschwerde in Zivilsachen erhoben. Die Beschwerdeführerin verlangt im Wesentlichen die Aufhebung des Urteils des Obergerichts vom 8. Mai 2012 und die Erteilung der Rechtsöffnung.
Es sind keine Vernehmlassungen eingeholt worden.
Die Z._ AG als Beschwerdegegnerin hat unaufgefordert Bemerkungen eingereicht.
Erwägungen:
1. 1.1 Angefochten ist das Urteil des Obergerichts, welches über die Beschwerde betreffend eine provisorische Rechtsöffnung entschieden hat. Der Entscheid über die provisorische (wie die definitive) Rechtsöffnung beschlägt das Zwangsvollstreckungsrecht und stellt zugleich eine vermögensrechtliche Angelegenheit dar, welche der Beschwerde in Zivilsachen unterliegt (Art. 72 Abs. 2 lit. a BGG; BGE 133 III 399 E. 1.2 und 1.3). Die Beschwerde ist fristgerecht erhoben worden (Art. 100 Abs. 1 BGG). Die gesetzliche Streitwertgrenze wird nicht erreicht (Art. 74 Abs. 1 lit. b BGG).
1.2 Vorliegend ist die Beschwerde in Zivilsachen gegen den letztinstanzlich ergangenen Entscheid (Art. 75 Abs. 1 BGG) nur gegeben, sofern sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (Art. 74 Abs. 2 lit. a BGG).
1.2.1 Es obliegt dem Beschwerdeführer, in seiner Rechtsschrift auszuführen, warum diese Voraussetzung erfüllt ist (Art. 42 Abs. 2 BGG; BGE 134 III 354 E. 1.3 S. 356). Das Bundesgericht nimmt nur mit grosser Zurückhaltung eine Frage von grundsätzlicher Bedeutung an. Diese Praxis gründet im Umstand, dass im Verlaufe der parlamentarischen Beratungen die subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG) eingeführt wurde, welche im Entwurf zum Bundesgerichtsgesetz nicht vorgesehen war. Damit erscheint die Beschwerde in Zivilsachen in einem andern Licht. Den in der Botschaft des Bundesrates erwähnten Anforderungen an eine Rechtsfrage von grundsätzlicher Bedeutung kommt daher nicht mehr das gleiche Gewicht zu (BGE 135 III 1 E. 1.3 S. 4; 134 III 115 E. 1.2 S. 117; 133 III 493 E. 1.1 S. 494).
1.2.2 Die Beschwerdeführerin betrachtet als Rechtsfrage von grundsätzlicher Bedeutung, ob das für die Schuldanerkennung im Sinne von Art. 82 Abs. 1 SchKG vom Obergericht (in E. 3.4, S. 11 im Urteil) formulierte Erfordernis, "dass der Schuldner nicht nur die Forderung, sondern auch seine Zahlungspflicht uneingeschränkt anerkennt", richtig sei. Nach Auffassung der Beschwerdeführerin genügt es, "dass die Forderung als solche in ihrer Existenz anerkennt" wird. Diese Frage bedürfe einer höchstrichterlichen Klärung.
1.2.3 Ob der aufgeworfenen Frage tatsächlich die Bedeutung zukommt, welche ihr die Beschwerdeführerin einräumen will, kann offen bleiben. Angesichts der Streitwertgrenze kann sie dem Bundesgericht jederzeit unterbreitet werden, womit sich die Annahme einer Rechtsfrage von grundsätzlicher Bedeutung nicht aufdrängt (BGE 134 III 267 E. 1.2.3 S. 270; Urteile 5A_804/2010 vom 28. März 2011 E. 1, 5A_224/2008 vom 3. Dezember 2008 E. 1.2.2). Auf die Beschwerde in Zivilsachen ist damit im Verfahren nach Art. 109 Abs. 1 BGG nicht einzutreten.
1.3 Mit subsidiärer Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 113, Art. 116 BGG). Die Verletzung von verfassungsmässigen Rechten ist in der Beschwerdeschrift vorzubringen und zu begründen (Art. 117 i.V.m. Art. 106 Abs. 2 BGG), wobei das Rügeprinzip gilt (BGE 133 III 589 E. 2 S. 591).
1.4 Das Bundesgericht ist an den vorinstanzlich festgestellten Sachverhalt gebunden (Art. 118 Abs. 1 BGG). Die Beschwerdegegnerin bestreitet sinngemäss (wie vor dem Obergericht) die Forderung, welche die Beschwerdeführerin als Rechtsnachfolgerin durch Abtretung geltend macht, zumal "der Konkurs der Y._ GmbH widerrufen worden sei". Abgesehen davon, dass die Eingabe unaufgefordert erfolgt ist, können im bundesgerichtlichen Verfahren neue Tatsachen und Beweismittel nicht berücksichtigt werden, zumal die Beschwerdegegnerin nicht darlegt, dass diese erst durch den angefochtenen Entscheid rechtserheblich geworden sind (vgl. Art. 99 Abs. 1 i.V.m. Art. 117 BGG).
2. Vor dem Obergericht war umstritten, ob die Vereinbarung zwischen der Beschwerdegegnerin und der Y._ GmbH (nachfolgend: Y._) vom 26. Februar 2002 zusammen mit dem Arbeitsrapport bzw. der Honorarabrechnung der Beschwerdegegnerin an die Bank W._ AG für den Monat Mai 2002 einen provisorischen Rechtsöffnungstitel darstellen. Die Vorinstanz hat die Frage verneint, weil die Auftragsvereinbarung vom 26. Februar 2002 weder eine bestimmte oder bestimmbare Forderungssumme enthalte, noch einen Bezug auf den Arbeitsrapport vom Mai 2002 haben könne. Sodann hat das Obergericht die Auffassung der Vorinstanz bestätigt, dass das Schreiben der Beschwerdegegnerin vom 25. Juni 2002 an die Y._ keine Schuldanerkennung darstelle; mangels uneingeschränkter Anerkennung einer Zahlungspflicht liege kein provisorischer Rechtsöffnungstitel vor.
3. Anlass zur vorliegenden Verfassungsbeschwerde gibt die Verweigerung der provisorischen Rechtsöffnung. Streitpunkt ist im bundesgerichtlichen Verfahren einzig, ob die Beschwerdegegnerin mit Schreiben vom 25. Juni 2002 eine Schuld im Sinne von Art. 82 Abs. 1 SchKG anerkannte. Nach Auffassung der Beschwerdeführerin habe das Obergericht, indem es das Vorliegen einer Schuldanerkennung verneine, Bundesrecht "schlechthin unhaltbar" angewendet bzw. gegen das Willkürverbot (Art. 9 BV) verstossen.
3.1 Es steht fest, dass die Beschwerdegegnerin im Schreiben vom 25. Juni 2002 (nach Ausführungen über eine Verletzung des Zusammenarbeitsvertrag und Geltendmachung von Schadenersatzansprüchen) gegenüber Y._ erklärte:
"Wir erachten es als angemessen, dass wir Ihre Honorarforderung vom Monat Mai 2002 über Fr. 18'732.10 direkt als Schadenersatzforderung gegenrechnen. Für Z._ [Beschwerdegegnerin] ist dies somit per Saldo aller Ansprüche abgegolten und [sie] betrachtet die Sache als erledigt."
Nach Auffassung der Beschwerdeführerin ändert die Verrechnungserklärung nichts an der ausdrücklichen Anerkennung der Schuld in der erwähnten Höhe. Der kantonalen Praxis, wonach keine Schuldanerkennung vorliegen soll, wenn gleichzeitig eine Forderung zur Verrechnung gestellt wird, könne nicht gefolgt werden.
3.2 Eine verurkundete Schuldanerkennung im Sinne von Art. 82 Abs. 1 SchKG liegt vor, wenn daraus der vorbehalts- und bedingungslose Wille des Betriebenen hervorgeht, dem Betreibenden eine bestimmte oder leicht bestimmbare Geldsumme zu zahlen (BGE 136 III 627 E. 2 S. 629; 132 III 480 E. 4.2 S. 481). Das Bundesgericht hat entschieden, dass kein vorbehalt- und bedingungsloser Wille zur Zahlung eines Betrages besteht, wenn der Schuldner in der Schuldanerkennung die Verrechnung mit einer Gegenforderung erklärt oder sich dieses Recht vorbehält (Urteil 5A_83/2011 vom 2. September 2011, in: SJ 2012 I S. 149 f., E. 5.1). Dies entspricht der in der Lehre bestätigten Praxis (u.a. D. STAEHELIN, in: Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs, 2. Aufl. 2010, N. 38 zu Art. 82, mit weiteren Hinw.; GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, Bd. I, 1999, N. 40 zu Art. 82; STÜCHELI, Die Rechtsöffnung, 2000, S. 329).
3.2.1 Vorliegend hat das Obergericht (wie bereits die Erstinstanz) als erheblich erachtet, dass im Schreiben vom 25. Juni 2002 die Verrechnung mit einer Schadenersatzforderung erklärt bzw. vorbehalten wird. Wenn es im Ergebnis bestätigt hat, dass aus dem Schreiben der Beschwerdegegnerin keine Schuldanerkennung hervorgehe, weil darin keine vorbehalt- bzw. bedingungslose Erklärung enthalten sei, den Betrag von Fr. 18'732.10 (nebst Zinsen) zu schulden, kann von Willkür in der Rechtsanwendung nicht gesprochen werden.
3.2.2 Aus dem Hinweis, die von der Beschwerdegegnerin behauptete Verrechnung betreffe eine "völlig haltlose, konstruierte" Gegenforderung, kann die Beschwerdeführerin nichts für sich ableiten. Zu Recht hält sie mit Hinweis auf FISCHER (Rechtsöffnungspraxis [...], BJM 1980 S. 115) fest, dass das Gesetz dem Gläubiger, dessen Forderung als hinlänglich liquid erscheint, mit der Rechtsöffnung die Möglichkeit zur Beseitigung des Rechtsvorschlages eröffnet. Dies setzt - auch nach dem zitierten Autor - voraus, dass sich der Gläubiger mittels bestimmter Urkunden auszuweisen vermag (FISCHER, a.a.O., S. 115), "aus deren Inhalt sich klar ergibt, dass sich der Schuldner zur Zahlung verpflichtet fühlt" (FISCHER, a.a.O., S. 133). Nichts anderes geht aus der Erwägung der Vorinstanz hervor, wonach die Rechtsöffnung zu erteilen sei, wenn die behauptete Forderung durch Dokumente ausgewiesen ist, aus welchen sich die Zahlungspflicht uneingeschränkt ergibt. Die Beschwerdeführerin legt insoweit keine Willkür dar.
3.2.3 Die Rüge einer Verletzung von Art. 82 Abs. 2 SchKG bzw. der Vorwurf gegenüber der Vorinstanz, die Regeln über die Einreden und Einwendungen gegen die Schuldanerkennung zu missachten, ist unbehelflich. Die Beschwerdeführerin legt nicht dar, inwiefern das Ergebnis der Vorinstanz, wonach die Beschwerdegegnerin durch den Vorbehalt bzw. die Erklärung der Verrechnung gerade keine Schuldpflicht im Sinne von Art. 82 Abs. 1 SchKG anerkannt hat und daher mangels Rechtsöffnungstitel ihre Gegenforderung nicht glaubhaft machen muss (D. STAEHELIN, a.a.O., mit Hinw.), gegen das Willkürverbot verstossen soll. Schliesslich setzt die Beschwerdeführerin nicht auseinander (E. 1.3), dass das Obergericht ihren Hinweis, dass die Verrechnungserklärung an der Gegenseitigkeit scheitere, vom Obergericht zu Unrecht übergangen worden sei.
4. Nach dem Dargelegten kann auf die Beschwerde in Zivilsachen nicht eingetreten werden und ist die subsidiäre Verfassungsbeschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Eine Entschädigungspflicht entfällt, da keine Vernehmlassungen eingeholt worden sind und der Beschwerdegegnerin im bundesgerichtlichen Verfahren keine ersatzpflichtigen Kosten entstanden sind.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2. Die Verfassungsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 2'500.-- werden der Beschwerdeführerin auferlegt.
4. Es wird keine Parteientschädigung zugesprochen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 7. Februar 2013
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Levante