Sachverhalt:
A. Das Obergericht des Kantons Zürich befand X._ am 7. November 2008 zweitinstanzlich unter anderem der Vergewaltigung (<ref-law>) schuldig und verurteilte ihn zu einer unbedingten Freiheitsstrafe von 33 Monaten sowie zu einer Busse von Fr. 500.-- (teilweise als Zusatzstrafe zu einem Strafbefehl der Staatsanwaltschaft Limmattal/Albis vom 5. Juli 2006). Des Weiteren verpflichtete es X._, dem Opfer eine Genugtuung von Fr. 10'000.-- zu bezahlen.
B. X._ führt Beschwerde in Strafsachen mit den Anträgen, er sei vom Vorwurf der Vergewaltigung freizusprechen und mit einer Freiheitsstrafe von maximal 22 Monaten zu bestrafen; die zu bezahlende Genugtuung sei angemessen herabzusetzen. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Des Weiteren ersucht X._ um Gewährung der unentgeltlichen Rechtspflege.

Erwägungen:
1. Der Verurteilung wegen Vergewaltigung liegt der folgende, von der Vorinstanz als erwiesen erachtete Sachverhalt zugrunde:
Am Abend des 6. Dezember 2005 kam es in der gemeinsamen Wohnung des Beschwerdeführers und seiner (damaligen) Ehefrau, der Beschwerdegegnerin 1 (nachfolgend als Beschwerdegegnerin bezeichnet), zu einem heftigen Streit. Namentlich packte der Beschwerdeführer die Beschwerdegegnerin am Hals, hielt ihr mit der rechten Hand eine Pistole, welche er kurz zuvor im Schlafzimmer behändigt hatte, während rund einer Minute an den Kopf und drohte, er werde sie umbringen. Anschliessend zerrte er die Beschwerdegegnerin ins Schlafzimmer. Diese wehrte sich und sagte, sie wolle keinen Geschlechtsverkehr. Der Beschwerdeführer erwiderte, er bekomme, was er wolle, und warf die Beschwerdegegnerin auf das Bett. Diese gab ihren Widerstand auf und entblösste ihren Unterkörper. Der Beschwerdeführer drang vaginal in sie ein und hielt sie während des Geschlechtsverkehrs an den Handgelenken fest (vgl. angefochtenes Urteil insb. S. 28).
2. 2.1 Der Beschwerdeführer bringt vor, die Vorinstanz habe seinen Beweisantrag um Begutachtung der Glaubwürdigkeit der Beschwerdegegnerin ohne rechtsgenügliche Begründung abgewiesen. Er macht damit sinngemäss eine Verletzung seines Anspruchs auf rechtliches Gehör gemäss <ref-law> geltend.
2.2 Diese Argumentation ist nicht stichhaltig. Die Vorinstanz hat ausgeführt, es sei die ureigenste Aufgabe des Gerichts, die Glaubwürdigkeit von Prozessbeteiligten und die Glaubhaftigkeit ihrer Aussagen zu beurteilen, weshalb nur in Ausnahmefällen Glaubwürdigkeitsgutachten in Auftrag gegeben würden, so etwa wenn es darum gehe, die Glaubwürdigkeit von Kindern oder von Personen mit einer psychischen Störung abzuklären. Vorliegend läge keine solche besondere Konstellation vor, zumal die Analyse der Aussagen der Beschwerdegegnerin ein klares Bild vermittle (angefochtenes Urteil S. 24 f.).
Die Vorinstanz hat damit eingehend dargelegt, weshalb sie den Beweisantrag auf Einholung eines Glaubwürdigkeitsgutachtens abgewiesen hat. Inwiefern sie hierdurch ihre Begründungspflicht als Ausfluss des Anspruchs auf rechtliches Gehör verletzt haben sollte, ist nicht ersichtlich.
3. 3.1 Der Beschwerdeführer rügt eine willkürliche Beweiswürdigung und als Folge daraus eine offensichtlich unrichtige Sachverhaltsfeststellung. Im Ergebnis verletze das angefochtene Urteil den aus der Unschuldsvermutung abgeleiteten Grundsatz "in dubio pro reo".
Der Beschwerdeführer führt aus, in tatsächlicher Hinsicht sei unklar, wieviel Zeit zwischen der Drohung mit der Waffe und dem Beischlaf vergangen sei. Werde zu seinen Gunsten von einer Zeitspanne von mindestens 30 Minuten und nicht - wie es die Vorinstanz in willkürlicher Beweiswürdigung getan habe - von zwei bis vier Minuten ausgegangen, so sei die Drohung zum Zeitpunkt des Geschlechtsverkehrs "nicht mehr in der Luft gelegen", weshalb es am Tatbestandsmerkmal des Nötigungsmittels mangle. Des Weiteren sei für ihn entgegen der unhaltbaren Feststellung im angefochtenen Urteil nicht erkennbar gewesen, dass die Beschwerdegegnerin den Geschlechtsverkehr nicht gewollt habe. Letztlich stütze sich seine Verurteilung wegen Vergewaltigung einzig auf die höchst widersprüchlichen Aussagen der Beschwerdegegnerin, was den Grundsatz "in dubio pro reo" verletze.
3.2 Die Vorinstanz hat erwogen, die Beschwerdegegnerin habe konstant und glaubhaft ausgesagt, sie habe dem Beschwerdeführer, als dieser sie ins Schlafzimmer gezerrt habe, gesagt, sie wolle keinen Geschlechtsverkehr. Ohnehin - so betont die Vorinstanz - erscheine aber die Vorstellung einvernehmlichen Sexualverkehrs so kurze Zeit nach einem massiven Streit lebensfremd und äusserst unwahrscheinlich, denn wer von seinem Partner am Hals gepackt und unter Vorhalt einer Schusswaffe mit dem Tod bedroht werde, willige nicht unmittelbar danach in den Geschlechtsverkehr ein. An dieser Schlussfolgerung würde sich - so die Vorinstanz weiter - im Übrigen nichts Entscheidendes ändern, wenn die sexuellen Handlungen tatsächlich nicht nur wenige Minuten später, sondern, entsprechend dem Vorbringen des Beschwerdeführers, rund eine halbe Stunde nach dem gewalttätigen Streit erfolgt wären. Vor diesem Hintergrund könne nicht zweifelhaft sein, dass der Beschwerdeführer um die fehlende Einwilligung der Beschwerdegegnerin zum Geschlechtsverkehr gewusst habe (vgl. angefochtenes Urteil insb. S. 20).
3.3 <ref-law> gewährleistet den Anspruch darauf, von den staatlichen Organen ohne Willkür behandelt zu werden. Auf dem Gebiet der Beweiswürdigung ist die Kognition des Bundesgerichts auf Willkür beschränkt. Willkür in der Beweiswürdigung liegt vor, wenn die Behörde in ihrem Entscheid von Tatsachen ausgeht, die mit der tatsächlichen Situation in klarem Widerspruch stehen oder auf einem offenkundigen Fehler beruhen (<ref-ruling> E. 5.4). Dass das angefochtene Urteil mit der Darstellung des Beschwerdeführers nicht übereinstimmt oder eine andere Lösung oder Würdigung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, genügt praxisgemäss für die Begründung von Willkür nicht (<ref-ruling> nicht publ. E. 4.1; <ref-ruling> E. 2b).
Gemäss der in <ref-law> und Art. 6 Ziff. 1 EMRK verankerten Maxime "in dubio pro reo" ist bis zum gesetzlichen Nachweis der Schuld zu vermuten, dass die einer strafbaren Handlung angeklagte Person unschuldig ist (<ref-ruling> E. 4; <ref-ruling> E. 2 mit Hinweisen). Als Beweiswürdigungsregel besagt die Maxime, dass sich das Strafgericht nicht von der Existenz eines für die beschuldigte Person ungünstigen Sachverhalts überzeugt erklären darf, wenn bei objektiver Betrachtung erhebliche und nicht zu unterdrückende Zweifel bestehen, dass sich der Sachverhalt so verwirklicht hat. Inwiefern dieser Grundsatz verletzt sein soll, prüft das Bundesgericht nur unter dem Gesichtspunkt der Willkür, das heisst, es greift nur ein, wenn das Sachgericht die beschuldigte Person verurteilte, obgleich bei objektiver Würdigung des Beweisergebnisses offensichtlich erhebliche bzw. schlechterdings nicht zu unterdrückende Zweifel an deren Schuld fortbestehen (BGE <ref-ruling> E. 2a; <ref-ruling> E. 2; Urteil des Bundesgerichts 6B_923/2008 vom 2. Februar 2009 E. 2).
Wird eine willkürliche Beweiswürdigung gerügt, reicht es nicht aus, wenn der Beschwerdeführer zum Beweisergebnis frei plädiert und darlegt, wie seiner Auffassung nach die vorhandenen Beweise richtigerweise zu würdigen gewesen wären, wie er dies in einem appellatorischen Verfahren mit freier Rechts- und Tatsachenüberprüfung tun könnte. Er muss gemäss ständiger Rechtsprechung vielmehr aufzeigen, inwiefern die angefochtene Beweiswürdigung die Verfassung dadurch verletzen sollte, dass sie im Ergebnis offensichtlich unhaltbar wäre (vgl. <ref-ruling> E. 4; <ref-ruling> E. 2; <ref-ruling> E. 3c).
3.4 Was der Beschwerdeführer gegen die Beweiswürdigung der Vorinstanz vorbringt, ist nicht geeignet, Willkür respektive eine Verletzung des Grundsatzes "in dubio pro reo" darzutun.
Mit seinen Ausführungen stellt der Beschwerdeführer der vorinstanzlichen Begründung weitestgehend lediglich seine eigene Sicht der Dinge gegenüber, ohne näher zu erörtern, inwiefern der Entscheid schlechterdings unhaltbar sein sollte. Soweit sich seine Vorbringen mithin nicht in einer unzulässigen appellatorischen Kritik am angefochtenen Urteil erschöpfen, sind sie nicht stichhaltig. Vorliegend konnte die Vorinstanz, ohne in Willkür zu verfallen, die Unstimmigkeiten in den Schilderungen der Beschwerdegegnerin, welche Zeitspanne zwischen der tätlichen Auseinandersetzung respektive der Bedrohung mit der Waffe und dem Geschlechtsverkehr gelegen hat, als von untergeordneter Bedeutung einstufen (vgl. angefochtenes Urteil S. 14 f.) und ihre Aussagen im Übrigen als anschaulich, plausibel und widerspruchsfrei bewerten (vgl. angefochtenes Urteil S. 16). Keineswegs unhaltbar ist die Argumentation der Vorinstanz, es erstaune nicht, dass die Beschwerdegegnerin in der konkreten Situation auf Gegenwehr verzichtet habe und den Geschlechtsverkehr habe geschehen lassen (angefochtenes Urteil S. 19). Ausgehend von den willkürfrei als glaubhaft bewerteten Aussagen der Beschwerdegegnerin, wonach sie dem Beschwerdeführer ausdrücklich gesagt habe, sie wolle keinen Geschlechtsverkehr, konnte die Vorinstanz schliesslich, ohne Bundesrecht zu verletzen, den Schluss ziehen, der Beschwerdeführer habe um die fehlende Einwilligung der Beschwerdegegnerin zum Geschlechtsverkehr gewusst (vgl. angefochtenes Urteil S. 29).
3.5 Bei diesem Ergebnis erübrigt sich ein Eingehen auf die für den Fall seiner Freisprechung vom Vorwurf der Vergewaltigung gestellten Anträge des Beschwerdeführers um Reduktion der Freiheitsstrafe und um Herabsetzung der Genugtuung.
4. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Der Beschwerdeführer ersucht um Gewährung der unentgeltlichen Rechtspflege. Da das Rechtsmittel von vornherein aussichtslos war, kann dem Gesuch nicht entsprochen werden (<ref-law>).
Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Bei der Festsetzung der Gerichtsgebühr ist seinen finanziellen Verhältnissen Rechnung zu tragen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Dem Beschwerdeführer werden die Gerichtskosten von Fr. 800.-- auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 1. Mai 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Stohner