Sachverhalt:
A. Mit Urteil vom 21. November 2008 sprach das Bezirksgericht Zürich X._ des Verbrechens gegen das Betäubungsmittelgesetz schuldig und verurteilte ihn zu einer unbedingten Freiheitsstrafe von 30 Monaten. Gleichzeitig beschloss es, den mit Urteil des Obergerichts des Kantons Zürich vom 15. Oktober 2007 für eine Teilfreiheitsstrafe von 15 Monaten unter Ansetzung einer Probezeit von drei Jahren gewährten bedingten Strafvollzug zu widerrufen.
Der Verurteilte focht diesen Entscheid mit Berufung beim Obergericht des Kantons Zürich an und beantragte, er sei unter Einbezug der widerrufenen Strafe mit einer Freiheitsstrafe von 30 Monaten als Gesamtstrafe zu bestrafen.
Mit Urteil vom 26. Mai 2009 bestätigte das Obergericht den erstinstanzlichen Entscheid.
B. X._ führt Beschwerde in Strafsachen mit den Anträgen, das Urteil des Obergerichts des Kantons Zürich vom 26. Mai 2009 sei aufzuheben, und die Sache sei zur Neubeurteilung an die Vorinstanz zurückzuweisen. Des Weiteren beantragt er die Gewährung der unentgeltlichen Rechtspflege.
Vernehmlassungen wurden keine eingeholt.

Erwägungen:
1. 1.1 Der Beschwerdeführer rügt eine Verletzung von Art. 46 Abs. 1 StGB. Er bringt vor, die Vorinstanz habe unter Hinweis auf <ref-ruling> von einer Gesamtstrafenbildung abgesehen. Die Begründung des Bundesgerichts im angeführten Entscheid vermöge jedoch nicht zu überzeugen. In Übereinstimmung mit der Lehre sei vielmehr davon auszugehen, dass der Wortlaut von Art. 46 Abs. 1 StGB offensichtlich auf einem Versehen des Gesetzgebers beruhe, sei es doch schlicht nicht nachvollziehbar, weshalb ausgerechnet bei Gleichartigkeit der Vorstrafe und der neuen Strafe eine Gesamtstrafenbildung nicht möglich sein sollte. Entgegen der bundesgerichtlichen Praxis gehe es überdies nicht an, die Gesamtstrafenbildung als fakultativ zu betrachten und in das Ermessen der Gerichte zu stellen, da dies mangels überprüfbarer Kriterien nur zu Willkür führen könne (Beschwerde S. 3 - 6).
1.2 Die Vorinstanz hat unter Bezugnahme auf <ref-ruling> ausgeführt, der Beschwerdeführer habe nach seiner Verurteilung zu einer teilbedingten Strafe mit Urteil des Obergerichts des Kantons Zürich vom 15. Oktober 2007 während der angesetzten Probezeit erneut delinquiert. Würde in Anwendung des Asperationsprinzips eine Gesamtstrafe gebildet, würde im Ergebnis eine insgesamt geringere Strafdauer resultieren als bei Widerruf des bedingten Teils der Strafe und Ausfällung einer neuen, separaten Strafe. Es bestehe jedoch kein Anlass, einen mittels Ansetzung einer Probezeit gewarnten Täter zu belohnen, wenn er sich in dieser Zeitspanne nicht wohl verhalte. Daran würde auch nichts ändern, wenn - wie vom Beschwerdeführer vorgeschlagen - die Tatsache des Rückfalls straferhöhend in die Gesamtstrafenbildung einflösse, würde dies doch höchstens zu einer Neutralisierung der sich aufgrund des Asperationsprinzips ergebenden Strafsenkung führen (angefochtenes Urteil S. 6 f.).
1.3 Gestützt auf Art. 46 Abs. 1 StGB widerruft das Gericht die bedingte Strafe oder den bedingten Teil der Strafe, wenn der Verurteilte während der Probezeit ein Verbrechen oder Vergehen begeht und deshalb zu erwarten ist, dass er weitere Straftaten verüben wird (Satz 1). Es kann die Art der widerrufenen Strafe ändern, um mit der neuen Strafe in sinngemässer Anwendung von Artikel 49 StGB eine Gesamtstrafe zu bilden (Satz 2).
In <ref-ruling> hat sich das Bundesgericht ausführlich mit dieser Bestimmung auseinandergesetzt und erwogen, soweit Art. 46 Abs. 1 Satz 2 in Verbindung mit Art. 49 StGB zum Ausdruck bringen sollte, dass das Gericht für die Gegenstand der früheren Verurteilung bildenden Straftaten einerseits und die während der Probezeit begangenen neuen Straftaten andererseits eine Gesamtstrafe nach dem Asperationsprinzip bilden könne, wie wenn es alle Straftaten gleichzeitig zu beurteilen hätte, erscheine dies als wenig sachgerecht. Der Fall, dass ein Täter nach einer rechtskräftigen Verurteilung zu einer bedingten Freiheitsstrafe während der Probezeit weitere Delikte verübe, unterscheide sich wesentlich vom Fall eines Täters, der sämtliche Taten begangen habe, bevor er wegen dieser Taten (siehe Art. 49 Abs. 1 StGB) bzw. zumindest wegen eines Teils dieser Taten (vgl. Art. 49 Abs. 2 StGB betreffend die retrospektive Konkurrenz) verurteilt worden sei. Eine Gleichstellung dieser Fälle bei der Strafzumessung erscheine als sachfremd, weil damit der straferhöhend zu wertende Umstand, dass der Täter einen Teil der Taten während der Probezeit nach einer rechtskräftigen Verurteilung zu einer bedingten Strafe begangen habe, bei der Strafzumessung zu Unrecht unberücksichtigt bliebe (E. 4.3). Das Verfahren nach Art. 46 Abs. 1 Satz 2 StGB sei nach dem klaren Wortlaut der Bestimmung ("... kann ...") fakultativ. Es finde einzig Anwendung, wenn die bedingte Vorstrafe und die neue Strafe nicht gleichartig seien und daher das Gericht die Art der Vorstrafe ändere (E. 4.4).
1.4 An dieser in <ref-ruling> eingehend begründeten und mit Urteil 6B_242/2008 vom 24. September 2008 E. 2.2.7 respektive mit Urteil 6B_600/2008 vom 3. Februar 2009 E. 3.3 bestätigten Rechtsprechung ist festzuhalten. Das Verfahren nach Art. 46 Abs. 1 Satz 2 ist gemäss dem Wortlaut der Bestimmung fakultativ, und eine Gesamtstrafenbildung erscheint nicht sachgerecht, da eine solche - wie die Vorinstanz zutreffend betont hat - im Ergebnis zu einer fragwürdigen Besserstellung des in der Probezeit delinquierenden Täters führen würde. Das Absehen von der Bildung einer Gesamtstrafe im angefochtenen Urteil verletzt damit zusammenfassend kein Bundesrecht.
2. Die Beschwerde ist abzuweisen. Da das Rechtsmittel von vornherein aussichtslos war, kann dem Gesuch um unentgeltliche Rechtspflege nicht entsprochen werden (Art. 64 Abs. 1 BGG).
Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Bei der Festsetzung der Gerichtsgebühr ist seinen finanziellen Verhältnissen Rechnung zu tragen (Art. 65 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 26. Oktober 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Stohner