Sachverhalt:
A. Am 23. Januar 2008 verurteilte das Bezirksgericht Horgen X._ wegen versuchter Vergewaltigung (Art. 190 Abs. 1 StGB i.V.m. Art. 22 Abs. 1 StGB), mehrfacher Drohung (Art. 180 StGB) sowie mehrfacher Tätlichkeiten (Art. 126 Abs. 1 StGB) zu einer Freiheitsstrafe von 15 Monaten unter Anrechnung von 89 Tagen Untersuchungshaft, bedingt aufgeschoben bei einer Probezeit von 2 Jahren. X._ wurde ausserdem die Weisung erteilt, für die Dauer der Probezeit mit A._ und B._ keinerlei Kontakt aufzunehmen. Ferner wurde er zu einer Genugtuungszahlung an A._ in Höhe von Fr. 5'000.-- nebst Zins zu 5 % seit dem 30. Juli 2006 verpflichtet. Deren Schadenersatzforderung wurde dem Grundsatz nach bejaht. Die restlichen Forderungen wurden auf den Zivilweg verwiesen.
B. Gegen dieses Urteil erhob X._ Berufung ans Obergericht des Kantons Zürich. Dieses bestätigte am 26. März 2009 die Schuldsprüche, reduzierte jedoch die Freiheitsstrafe auf 14 Monate und 20 Tage, unter Anrechnung von 89 Tagen Untersuchungshaft, und sprach für die Tätlichkeiten zusätzlich eine Busse von Fr. 1'000.-- aus. Das Obergericht bestätigte ferner den bedingten Aufschub des Strafvollzugs, die Probezeit von 2 Jahren sowie die Weisung, für die Dauer der Probezeit mit A._ und B._ keinerlei Kontakt aufzunehmen. Schliesslich bestätigte das Obergericht das erstinstanzliche Urteil im Zivilpunkt.
C. X._ führt Beschwerde beim Bundesgericht. Er beantragt, der angefochtene Entscheid sei aufzuheben, und er sei von sämtlichen in der Anklageschrift vom 27. Dezember 2006 der Staatsanwaltschaft Limattal/Albis erhobenen Vorwürfen freizusprechen. Eventuell sei der angefochtene Entscheid aufzuheben und zur Neubeurteilung an die Vorinstanz zurückzuweisen.
D. Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. 1.1 Gemäss Anklageschrift wird dem Beschwerdeführer zur Last gelegt, er habe am Sonntag, 23. Juli 2006, seine Ex-Freundin (Beschwerdegegnerin 1) in der Küche der Asylunterkunft in U._ gepackt und in den Keller hinuntergeschleppt. Dort habe er sie rücklings auf den Boden gedrückt und versucht, ihr einen Zungenkuss zu geben, worauf ihm die Beschwerdegegnerin 1 in die Zunge gebissen habe. Danach habe er ihr gedroht, ihr so stark ins Brustbein zu schlagen, dass sie sterbe. Weiter habe er ihren Rock nach oben und seine Shorts nach unten gezogen und versucht, gegen ihren Willen den Geschlechtsverkehr mit ihr zu vollziehen. Aufgrund der mangelnden Erektion und der vehementen Gegenwehr sei dies jedoch nicht gelungen.
1.2 Am Sonntag, dem 30. Juli 2006, habe der Beschwerdeführer der Beschwerdegegnerin 1 in der Küche der Asylunterkunft in U._ aufgelauert und ihr gedroht, er werde sie töten. Danach habe er sie gegen einen Schrank gestossen, so dass sie ein Hämatom am Oberschenkel erlitten habe. Ausserdem habe er sie mit der flachen Hand ins Gesicht und auf den Hinterkopf geschlagen.
1.3 Dem Beschwerdeführer wird weiter vorgeworfen, der Beschwerdegegnerin 1 zwischen Mai und 30. Juli 2006 beinahe täglich gedroht zu haben, er werde sie umbringen.
1.4 Der Beschwerdeführer soll ferner der Beschwerdegegnerin 1 im Sommer 2006 auf dem Weg zwischen dem Bahnhof U._ und der Asylunterkunft U._ nach einer verbalen Auseinandersetzung mit der offenen Hand ins Gesicht geschlagen haben, so dass die Beschwerdegegnerin 1 ein Hämatom an der linken Seite ihres Kinns erlitt.
1.5 Gegenüber dem Beschwerdegegner 3 soll der Beschwerdeführer anfangs Sommer 2006 in der Asylunterkunft U._ gedroht haben, er schneide ihn in Stücke. Am Sonntag, 30. Juli 2006, habe er erneut in und auf der Strasse vor der Asylunterkunft U._ gedroht, den Beschwerdegegner 3 in Stücke zu schneiden und diese hernach in den Leib seiner Mutter zurückzustecken.
2. 2.1 Der Beschwerdeführer bestreitet die gegen ihn erhobenen Vorwürfe. Er stellt sich auf den Standpunkt, die Vorinstanz sei in Willkür verfallen, indem sie die Aussagen der Beschwerdegegnerin 1 als glaubhaft und die seinen als unglaubhaft gewürdigt habe. Er weist hinsichtlich der Sachverhaltsdarstellung auf verschiedene Widersprüche im Aussageverhalten der Beschwerdegegnerin 1 hin.
2.2 Mit der Beschwerde in Strafsachen kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Die Feststellung des Sachverhalts durch die Vorinstanz kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich im Sinne von Art. 9 BV ist (<ref-ruling> E. 1.2.2) oder wenn sie auf einer Verletzung von schweizerischem Recht im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG). Die Rüge der offensichtlich unrichtigen Feststellung des Sachverhalts prüft das Bundesgericht gemäss Art. 106 Abs. 2 BGG nur insoweit, als in der Beschwerde explizit vorgebracht und substantiiert dargelegt wird, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 1.2; <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3 mit Hinweisen).
2.3 Was der Beschwerdeführer gegen die tatsächlichen Feststellungen der Vorinstanz einwendet, erschöpft sich in einer blossen appellatorischen Kritik am angefochtenen Urteil, die für die Begründung einer willkürlichen Feststellung des Sachverhalts nicht genügt. Er beschränkt sich darauf, die eigene Sichtweise der Verhältnisse darzulegen. Dies gilt, soweit er beim Vorfall vom 23. Juli 2006 Widersprüche in Bezug auf die von der Beschwerdegegnerin 1 erlittenen Verletzungen, das Herunterstreifen seiner Shorts, den hysterischen Anfall der Beschwerdegegnerin 1 sowie deren beinahe tägliche Bedrohung durch ihn geltend macht (Beschwerde S. 6 f. und 10 f.). Desgleichen aber auch, soweit er hinsichtlich des Vorfalls vom 30. Juli 2006 beanstandet, dass die Vorinstanz auf die Zeitangaben der Beschwerdegegnerin 1 abgestellt hat (Beschwerde S. 10), und bestreitet, den Beschwerdegegner 3 bedroht zu haben (Beschwerde S. 12). Diese Ausführungen des Beschwerdeführers sind nicht geeignet, offensichtlich erhebliche und schlechterdings nicht zu unterdrückende Zweifel daran darzutun, dass sich der Anklagesachverhalt, wie von der Vorinstanz dargestellt, verwirklicht hat. Denn für die Begründung von Willkür genügt praxisgemäss nicht, dass das angefochtene Urteil mit der Darstellung des Beschwerdeführers nicht übereinstimmt oder eine andere Lösung oder Würdigung vertretbar erscheint oder gar vorzuziehen wäre (<ref-ruling> E. 2b mit Hinweisen). Willkür im Sinne von Art. 9 BV liegt nach ständiger Rechtsprechung nur vor, wenn der angefochtene Entscheid auf einer schlechterdings unhaltbaren oder widersprüchlichen Beweiswürdigung beruht, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 5.4).
3. 3.1 Der Beschwerdeführer rügt weiter in verschiedener Hinsicht eine Verletzung seines Anspruchs auf rechtliches Gehör. So habe sich die Vorinstanz nicht mit der geltend gemachten Unstimmigkeit bezüglich des Zeitpunkts des letzten intimen Kontakts zwischen ihm und der Beschwerdegegnerin 1 auseinandergesetzt, sondern hiefür lediglich auf das erstinstanzliche Urteil verwiesen (Beschwerde S. 8 f.). Ausserdem sei sie nicht auf die von ihm aufgeworfene Problematik des mittelbaren Zeugen eingegangen und habe den nachweislich erstellten Telefonverkehr zwischen mehreren Beteiligten nicht in seiner Gesamtheit gewürdigt (Beschwerde S. 9).
3.2 Gemäss Art. 29 Abs. 2 BV haben die Parteien Anspruch auf rechtliches Gehör. Der Betroffene hat das Recht, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheids zur Sache zu äussern. Wesentlicher Bestandteil des Anspruchs auf rechtliches Gehör ist die Begründungspflicht. Die Begründung soll verhindern, dass sich die Behörde von unsachlichen Motiven leiten lässt, und dem Betroffenen ermöglichen, die Verfügung gegebenenfalls sachgerecht anzufechten. Dies ist nur möglich, wenn sowohl er wie auch die Rechtsmittelinstanz sich über die Tragweite des Entscheids ein Bild machen können. In diesem Sinn müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf welche sich ihr Entscheid stützt. Dies bedeutet indessen nicht, dass sie sich ausdrücklich mit jeder tatbeständlichen Behauptung und jedem rechtlichen Einwand auseinandersetzen muss. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Gesichtspunkte beschränken (<ref-ruling> E. 3.1 mit Hinweisen). Die Begründungspflicht ist vor diesem Hintergrund nicht verletzt, wenn die Vorinstanz ausdrücklich auf die Begründung der ersten Instanz verweist und diese zu ihrer eigenen macht (angefochtenes Urteil, S. 18). Dies gilt auch für die übrigen in diesem Zusammenhang vorgebrachten Rügen. Die Beschwerde ist in diesem Punkt unbegründet.
4. 4.1 Der Beschwerdeführer rügt ferner die Feststellung der Vorinstanz als willkürlich, er habe die Beschwerdegegnerin 1 im Sommer 2006 auf dem Weg vom Bahnhof U._ zur Asylunterkunft U._ geschlagen. Direkte Zeugen gebe es nicht. Die beiden Zeuginnen vom Hörensagen hätten den Schlag nicht gesehen. Ausserdem sei das Anklageprinzip verletzt, da die Anklage kein genaues Datum oder einen bestimmten Zeitpunkt für die Tat nenne.
4.2 Die Vorinstanz nimmt an, das Anklageprinzip sei nicht verletzt, wenn dem Angeklagten eine konkrete Tat vorgeworfen werde. Zu den Zeugenaussagen führt sie aus, dass die widerspruchsfreien, glaubhaften Aussagen der Beschwerdegegnerin 1 indirekt durch Aussagen von zwei Zeuginnen gestützt würden, während diejenigen des Beschwerdeführers unglaubhaft wirkten, weil sie etliche Lügensignale aufwiesen (angefochtenes Urteil, S. 29).
4.3 Gemäss dem Anklagegrundsatz bestimmt die Anklageschrift den Gegenstand des Gerichtsverfahrens (Umgrenzungsfunktion). Die Anklage hat die dem Beschuldigten zur Last gelegten Delikte in ihrem Sachverhalt so präzise zu umschreiben, dass die Vorwürfe genügend konkretisiert sind. Das Anklageprinzip bezweckt damit zugleich den Schutz der Verteidigungsrechte des Angeklagten und dient dem Anspruch auf rechtliches Gehör (Informationsfunktion). In der Anklage sind namentlich die Umstände aufzuführen, welche zum gesetzlichen Tatbestand gehören (Urteil des Bundesgerichts vom 7. Oktober 2008, 6B_225/2008 E. 1.1; <ref-ruling> E. 2a je mit Hinweisen).
Nach § 162 Abs. 1 StPO/ZH bezeichnet die Anklageschrift kurz, aber genau (Abs. 1.) u.a. die dem Angeklagten zur Last gelegten Handlungen oder Unterlassungen unter Angabe aller Umstände, welche zum gesetzlichen Tatbestand gehören, sowie unter möglichst genauer Angabe von Ort und Zeit und anderen Einzelheiten, so dass der Angeklagte daraus ersehen kann, was Gegenstand der Anklage bildet (Abs. 1 Ziff. 2).
4.4 Das angefochtene Urteil verletzt auch in diesem Punkt kein Bundesrecht. So ist nicht zu beanstanden, dass die Vorinstanz auf die Aussagen der Beschwerdegegnerinnen 1 und 2 sowie einer weiteren Zeugin vom Hörensagen abstellt. Was der Beschwerdeführer hiezu vorbringt, erschöpft sich wiederum in einer unzulässigen appellatorischen Kritik am angefochtenen Urteil. Unbegründet ist die Beschwerde auch, soweit der Beschwerdeführer eine Verletzung des Anklageprinzips geltend macht. Die Anforderungen an die Anklageschrift sind im zu beurteilenden Fall erfüllt. Auch wenn der konkrete Tatzeitpunkt nicht mehr eruierbar war, konnte die Vorinstanz, ohne in Willkür zu verfallen, den angeklagten Sachverhalt als hinreichend genau umschrieben ansehen. Die Rüge des Beschwerdeführers erweist sich auch in diesem Punkt als unbegründet.
5. Aus diesen Gründen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten des Verfahrens (Art. 66 Abs. 1 BGG). Das Gesuch des Beschwerdeführers um Gewährung der unentgeltlichen Rechtspflege ist abzuweisen, da die Beschwerde von vornherein aussichtslos war.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 2. September 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Schneider Keller