Sachverhalt:
A. Am 15. März 2002 sprach das Obergericht des Kantons Zürich X._ als erste Instanz unter anderem des mehrfachen Raubes schuldig und bestrafte ihn mit 3 3/4 Jahren Gefängnis, unter Anrechnung von 125 Tagen Polizei- und Untersuchungshaft. Ferner ordnete es eine ambulante Massnahme im Sinne von Art. 43 Ziff. 1 Abs. 1 aStGB an und schob den Vollzug der Strafe zugunsten der Massnahme auf. Sodann erklärte das Gericht die mit Entscheid der Jugendanwaltschaft Zürich vom 10. September 1997 wegen Raufhandels ausgefällte Strafe von fünf Tagen Einschliessung für vollziehbar und schob den Vollzug ebenfalls zugunsten der Massnahme auf.
B. Mit Verfügung vom 27. September 2006 stellte der Bewährungsdienst Zürich IV des Justizvollzugs des Kantons Zürich (nachfolgend als "Bewährungsdienst" bezeichnet) den Vollzug der angeordneten ambulanten Massnahme ein. In der Rechtsmittelbelehrung wurde X._ darauf hingewiesen, dass er gegen diesen Entscheid innert 30 Tagen schriftlich Rekurs bei der Direktion der Justiz und des Innern des Kantons Zürich einreichen könne. Des Weiteren beantragte der Bewährungsdienst dem Obergericht, nach Eintritt der Rechtskraft der Verfügung sei der Vollzug der beiden aufgeschobenen Strafen von 3 3/4 Jahren Gefängnis, abzüglich 125 Tage Polizei- und Untersuchungshaft, und fünf Tagen Einschliessung anzuordnen.
C. X._ focht die Verfügung des Bewährungsdiensts vom 27. September 2006 nicht an, so dass diese in Rechtskraft erwuchs. Mit Eingabe vom 12. Februar 2007 an das Obergericht beantragte X._, es sei erneut eine ambulante Massnahme anzuordnen, und der Vollzug der beiden Strafen sei weiterhin aufzuschieben. Eventuell sei eine stationäre Massnahme anzuordnen, und die vorgenannten Strafen seien zu diesem Zweck aufzuschieben. Ferner sei er psychiatrisch zu begutachten.
D. Mit Beschluss vom 7. August 2007 ordnete das Obergericht des Kantons Zürich den Vollzug der Strafe von 3 3/4 Jahren Gefängnis, abzüglich 125 Tage Polizei- und Untersuchungshaft, an. Hingegen entschied es, die Strafe von fünf Tagen Einschliessung werde nicht mehr vollzogen.
E. X._ führt Beschwerde in Strafsachen mit den Anträgen, der Beschluss des Obergerichts des Kantons Zürich vom 7. August 2007 sei aufzuheben, und die Sache sei zur Neubeurteilung an die Vorinstanz zurückzuweisen. Ferner sei ihm die unentgeltliche Rechtspflege zu gewähren.
Das Obergericht des Kantons Zürich hat auf eine Stellungnahme zur Beschwerde verzichtet. Der Bewährungsdienst hat sich in seiner Vernehmlassung dem Antrag des Beschwerdeführers angeschlossen.

Erwägungen:
1. 1.1 Auf die Beschwerde ist grundsätzlich einzutreten, da sie unter Einhaltung der gesetzlichen Frist (<ref-law>) und Form (<ref-law>) von der im Verfahren vor der Vorinstanz mit ihren Anträgen unterliegenden Person (<ref-law>) eingereicht wurde und sich gegen einen von einer letzten kantonalen Instanz (<ref-law>) gefällten Endentscheid (Art. 90 und 95 BGG) in Strafsachen (<ref-law>) richtet.
1.2 Die Vorinstanz hat vorliegend zutreffend die Bestimmungen des neuen Massnahmenrechts (Art. 56-65 StGB) angewendet, obwohl die Taten des Beschwerdeführers vor dem Inkrafttreten des neuen Rechts begangen und abgeurteilt worden sind (vgl. Art. 2 Abs. 1 der Schlussbestimmungen der Änderung des StGB vom 13. Dezember 2002).
2. 2.1 Die Vorinstanz hat in ihrem Beschluss vom 7. August 2007, mit welchem sie den Vollzug der zugunsten einer ambulanten Massnahme im Sinne von Art. 43 Ziff. 1 Abs. 1 aStGB aufgeschobenen Freiheitsstrafe anordnete, erwogen, die bisherige ambulante Massnahme habe ihren Zweck nicht erfüllt (angefochtenes Urteil S. 7). Sie führt aus, zur Beurteilung des Gesundheitszustands des Beschwerdeführers könne weiterhin auf das Gutachten von Dr. med. P._, Spezialarzt FMH Psychiatrie und Psychotherapie, vom 16. Oktober 2001 abgestellt werden, denn weder der Beschwerdeführer noch sein Therapeut Dr. med. T._, Spezialarzt FMH Psychiatrie und Psychotherapie, machten geltend, dass sich die damalige Prognose rückblickend als unzutreffend erwiesen habe. Ein Anlass für die Erstellung eines neuen Gutachtens sei daher nicht gegeben. Gemäss dem Gutachten von Dr. med. P._ sei der zeitweise Kokainkonsum des Beschwerdeführers Ausdruck einer adoleszentären Problematik. Der Konsum sei von geringem Ausmass, so dass kein schädlicher Gebrauch und erst recht keine Abhängigkeit vorliege. Es sei nicht davon auszugehen, dass der Drogenkonsum das deliktische Verhalten begünstigt habe (angefochtenes Urteil S. 8 mit Hinweis auf das Gutachten von Dr. med. P._ vom 16. Oktober 2001).
Die Vorinstanz hält sodann fest, da der Beschwerdeführer nicht (mehr) in der Lage gewesen sei, die Termine bei Dr. med. T._ regelmässig wahrzunehmen, wäre die Anordnung einer anderen ambulanten Massnahme kaum erfolgversprechend (angefochtenes Urteil S. 9). Ebenso wenig seien die Voraussetzungen zur nachträglichen Anordnung einer stationären therapeutischen Behandlung von psychischen Störungen im Sinne von <ref-law> erfüllt, da das beim Beschwerdeführer diagnostizierte Krankheitsbild gemäss Dr. med. P._ nicht in einer psychiatrischen Institution behandelt werden könne. Ferner komme auch eine stationäre Suchtbehandlung gemäss <ref-law> nicht in Frage, stünden doch die Anlasstaten des Beschwerdeführers nicht in Zusammenhang mit seiner Kokainabhängigkeit. Überdies habe er eine stationäre Massnahme gegenüber der Vollzugsbehörde ausdrücklich abgelehnt. Da für den Beschwerdeführer daher keine Massnahme mehr angeordnet werden könne, sei die mit Urteil vom 15. März 2002 aufgeschobene Strafe von 3 3/4 Jahren Gefängnis, abzüglich 125 Tage Polizei- und Untersuchungshaft, zu vollziehen (angefochtenes Urteil S. 10).
2.2 Der Beschwerdeführer macht geltend, die gesetzliche Konzeption des Massnahmenrechts werde vom Grundgedanken beherrscht, dass einem Täter die adäquate Behandlung zur Verhinderung weiterer Straftaten zukommen müsse. Das Scheitern einer ambulanten Massnahme führe daher nicht automatisch zum Vollzug der aufgeschobenen Strafe, sondern könne auch den Wechsel zu einer anderen ambulanten oder einer stationären therapeutischen Massnahme zur Folge haben, falls dies der Verbrechensverhütung besser diene (Beschwerde S. 7). Dieser Entscheid, ob eine aufgeschobene Strafe zu vollziehen oder eine andere Massnahme anzuordnen sei, müsse bei veränderten Verhältnissen auf der Grundlage einer erneuten Begutachtung erfolgen (Beschwerde S. 8 f.). Vorliegend bestünden ernsthafte Anhaltspunkte dafür, dass das Gutachten von Dr. med. P._ nicht mehr aktuell sei. Dieser habe die bereits damals bestehende Drogenproblematik offensichtlich unterschätzt und sich auf die fehlende Persönlichkeitsreifung konzentriert. Der Beschwerdeführer führt aus, seine Persönlichkeit wie auch sein Umfeld hätten sich in den letzten Jahren erheblich verändert, und die zunehmende Kokainabhängigkeit habe sein Verhalten im Verlauf der Zeit immer stärker beeinflusst (Beschwerde S. 11 f.). Die verschärfte Suchtproblematik erkläre auch, weshalb es schliesslich zum Therapieabbruch gekommen sei (Beschwerde S. 13). Sein bisheriger Therapeut, Dr. med. T._, habe bei ihm mit Arztbericht vom 27. November 2006 eine Persönlichkeitsstörung mit unreifen Zügen sowie ein Kokainabhängigkeitssyndrom mit ständigem Substanzgebrauch diagnostiziert und einen Wechsel des Therapeuten als angezeigt erachtet. Der Beschwerdeführer betont, aufgrund des gewachsenen Leidensdrucks sei er in der Zwischenzeit bereit, sich einer stationären Massnahme zu unterziehen (Beschwerde S. 14). Vor diesem Hintergrund aber - so der Beschwerdeführer weiter - hätte die Vorinstanz zwingend seine erneute Begutachtung anordnen müssen, welche mutmasslich ergeben hätte, dass mit einer therapeutischen ambulanten oder stationären Behandlung seiner Drogensucht der Gefahr weiterer Delikte besser begegnet werden könnte als mit dem Vollzug der Freiheitsstrafe (Beschwerde S. 15).
3. 3.1 Der Beschwerdeführer beantragt somit vorab, an Stelle der gescheiterten ambulanten Psychotherapie zur Behandlung seiner Adoleszentenkrise sei eine ambulante Suchtbehandlung anzuordnen. Die Vorinstanz erachtet den Wechsel zu einer anderen ambulanten Massnahme ebenfalls als grundsätzlich möglich - verwirft dies jedoch im konkreten Fall.
Die Rechtslage stellt sich insoweit wie folgt dar:
3.2 Ist der Täter psychisch schwer gestört, ist er von Suchtstoffen oder in anderer Weise abhängig, so kann das Gericht anordnen, dass der Täter nicht stationär, sondern ambulant behandelt wird, wenn er eine mit Strafe bedrohte Tat verübt, die mit seinem Zustand in Zusammenhang steht (<ref-law>) und zu erwarten ist, dadurch lasse sich der Gefahr weiterer mit dem Zustand des Täters in Zusammenhang stehender Taten begegnen (<ref-law>). Das Gericht kann den Vollzug einer zugleich ausgesprochenen unbedingten Freiheitsstrafe zugunsten einer ambulanten Behandlung aufschieben, um der Art der Behandlung Rechnung zu tragen (<ref-law>). Die ambulante Behandlung wird durch die zuständige Behörde namentlich aufgehoben, wenn die Fortführung der Behandlung als aussichtslos erscheint (<ref-law>). Ist dies der Fall, ist die aufgeschobene Freiheitsstrafe entweder zu vollziehen (<ref-law>) oder eine stationäre therapeutische Massnahme nach den Art. 59-61 StGB anzuordnen. Eine stationäre therapeutische Massnahme ist indiziert, wenn zu erwarten ist, dadurch lasse sich der Gefahr weiterer, mit dem Zustand des Täters in Zusammenhang stehender Verbrechen und Vergehen begegnen (<ref-law>).
3.3 Die Anordnung ambulanter Massnahmen erfolgt mithin durch das urteilende Gericht (<ref-law>). Alle den Vollzug betreffenden Fragen liegen dagegen in der Kompetenz der Vollzugsbehörde (vgl. <ref-ruling> E. 3.1). Diese bestimmt insbesondere die Person des Therapeuten. Zeigt sich im Laufe der Behandlung die Notwendigkeit einer Anpassung der Massnahme, ist hierfür ebenfalls die Vollzugsbehörde zuständig, soweit die Änderung dem Zweck der ursprünglich angeordneten Massnahme entspricht und sich die neue Massnahme in den Rahmen der Behandlung einfügt, wie er im Strafurteil vorgezeichnet ist (vgl. MARIANNE HEER, Basler Kommentar StGB I, 2. Aufl., 2007, <ref-law> N. 7). Soll hingegen (ausnahmsweise) durch die Anordnung einer anderen ambulanten Massnahme von dem durch das Strafurteil vorgegebenen Rahmen abgewichen werden, so hat hierüber das Gericht zu befinden.
Die grundsätzliche Zuständigkeit der Vollzugsbehörde ist deshalb sachgerecht, weil diese in der Regel besser in der Lage ist, zu beurteilen, ob sich eine Modifikation des Vollzugs aufdrängt, als das urteilende Gericht, welches keinen direkten Kontakt mit dem Betroffenen hat. Überdies wäre es mit grossem Aufwand verbunden, wenn bei jeder Anpassung im Vollzug eine Abänderung des Strafurteils erfolgen müsste (<ref-ruling> E. 3.3). Demzufolge sollte die Gerichtsbehörde im Urteilsspruch die angeordnete ambulante Massnahme zwar spezifizieren (HEER, a.a.O., <ref-law> N. 65), den Entscheidungsspielraum der Vollzugsbehörde bei der Umsetzung jedoch nicht unnötig einengen. Namentlich ist eine nähere inhaltliche Ausgestaltung der therapeutischen Behandlung, soweit diese zum ordentlichen Tätigkeitsbereich des Therapeuten gehört, nicht gesondert anzuordnen (vgl. HEER, a.a.O., <ref-law> N. 66). Dieses Konzept liegt insbesondere auch den Art. 4-6 der Richtlinien des Strafvollzugskonkordats der Nordwest- und Innerschweiz für den Vollzug der ambulanten Behandlung vom 4. November 2005 zugrunde. Folgerichtig wird der Therapeutenwechsel implizit als zulässig erachtet, d.h. er wird vom Einverständnis der Vollzugsbehörden abhängig gemacht.
Sämtliche Anordnungen, welche die persönliche Freiheit der sich im Massnahmenvollzug befindlichen Person über das übliche Mass des normalen Tagesablaufs hinaus beschränken, sind aus Gründen des Rechtsschutzes in Verfügungsform zu erlassen (vgl. Benjamin F. Brägger, Der neue Allgemeine Teil des Schweizerischen Strafgesetzbuches, in: Schweizerische Zeitschrift für Kriminologie, 1/2008, S. 26-33, 28). Da gerade Änderungen ambulanter Massnahmen für den Betroffenen mit einschneidenden Konsequenzen verbunden sein können und daher dessen Rechte tangieren, sind diese von der Vollzugsbehörde zu verfügen, so dass dem Betroffenen die Möglichkeit offen steht, die Anordnungen auf dem Verwaltungsweg anzufechten.
3.4 Erachtet die Vollzugsbehörde die Fortführung der ambulanten Behandlung als aussichtslos, so stellt sie deren Scheitern mittels anfechtbarer Verfügung fest (vgl. <ref-law>). Gegen eine solche Verfügung steht nach Erschöpfung des kantonalen Instanzenzugs die Beschwerde in Strafsachen offen (<ref-law>; vgl. zum alten Recht auch <ref-ruling> E. 1). Erwächst die Verfügung in Rechtskraft, hat ein Gericht auf Antrag der Vollzugsbehörde über die Konsequenzen zu befinden (HEER, a.a.O., <ref-law> N. 27). Dem Gericht obliegt es mithin zu entscheiden, ob die aufgeschobene Freiheitsstrafe zu vollziehen (<ref-law>) oder eine stationäre therapeutische Massnahme nach den Art. 59-61 StGB anzuordnen ist (<ref-law>). Für das Aussprechen einer anderen ambulanten Massnahme besteht kein Raum (HEER, a.a.O., <ref-law> N. 7 und N. 27; vgl. zum Ganzen auch Christian Schwarzenegger/Markus Hug/Daniel Jositsch, Strafrecht II, Strafen und Massnahmen, 8. Aufl., 2007, S. 246 f.).
3.5 Vorliegend hat der Bewährungsdienst mit Verfügung vom 27. September 2006 den Vollzug der mit dem Urteil des Obergerichts vom 15. März 2002 angeordneten ambulanten Massnahme nach Art. 43 Ziff. 1 Abs. 1 aStGB eingestellt, da diese aufgrund des Therapieverlaufs als gescheitert gelten müsse. Gleichzeitig hat er dem Obergericht beantragt, nach Eintritt der Rechtskraft der Verfügung sei der Vollzug der beiden aufgeschobenen Strafen anzuordnen. Der Beschwerdeführer hat diese Verfügung nicht mittels Rekurs bei der Direktion der Justiz und des Innern des Kantons Zürich angefochten. In einem allfälligen Rekursverfahren hätte er sich insbesondere gegen die Einstellung der ambulanten Massnahme zur Wehr setzen und vorbringen können, die Massnahme könne nicht als gescheitert gelten, sondern sei zugunsten einer ambulanten Suchtbehandlung abzuändern.
Im Verfahren vor der Vorinstanz und dementsprechend auch im bundesgerichtlichen Verfahren konnte bzw. kann der Beschwerdeführer diesen rechtskräftig gewordenen Entscheid hingegen nicht mehr zur Diskussion stellen. Der Beschwerdeführer hat seinen Antrag, es sei eine ambulante Suchtbehandlung durchzuführen, mithin verspätet gestellt, ist doch gemäss Art. 63b Abs. 2 und 5 StGB nach der rechtskräftigen Feststellung des Scheiterns der ambulanten Behandlung einzig noch darüber zu befinden, ob die aufgeschobene Freiheitsstrafe zu vollziehen oder ob stattdessen eine stationäre therapeutische Massnahme nach den Art. 59-61 StGB anzuordnen ist.
Auf die Beschwerde kann insoweit nicht eingetreten werden.
4. 4.1 Die Vorinstanz hat ihren Beschluss, die aufgeschobene Freiheitsstrafe sei zu vollziehen, auf das Gutachten von Dr. med. P._ vom 16. Oktober 2001 abgestützt. Der Beschwerdeführer stellt sich, wie dargelegt, auf den Standpunkt, ein solch gewichtiger Entscheid, ob an Stelle des Strafvollzugs eine stationäre therapeutische Massnahme anzuordnen sei, müsse zwingend gestützt auf ein aktuelles Gutachten getroffen werden. Das Gutachten aus dem Jahre 2001 genüge diesen Anforderungen nicht und hätte der Vorinstanz daher nicht als (einzige) Entscheidgrundlage dienen dürfen.
4.2 Gemäss <ref-law> stützt sich das Gericht namentlich beim Entscheid über die Anordnung einer Massnahme nach den Art. 59-61 und 63 StGB auf eine sachverständige Begutachtung ab. Diese äussert sich über die Notwendigkeit und die Erfolgsaussichten einer Behandlung des Täters (lit. a), die Art und Wahrscheinlichkeit weiterer möglicher Straftaten (lit. b) und die Möglichkeiten des Vollzugs der Massnahme (lit. c).
4.3 Aus <ref-law> ist zu folgern, dass Änderungsentscheide im Sinne von Art. 63b Abs. 2 und 5 StGB ebenfalls gestützt auf ein Gutachten einer sachverständigen Person zu treffen sind. Berichte des Therapeuten genügen nicht. Wie bei der ursprünglichen Anordnung einer stationären Massnahme sind bei einem Abänderungsentscheid sämtliche Voraussetzungen der Massnahme einer näheren Prüfung zu unterziehen (<ref-ruling> E. 3.3; Heer, a.a.O., <ref-law> N. 4).
Die Vorinstanz verkennt diese Rechtslage nicht, hat sie doch bei ihrer Beurteilung des Zustands des Beschwerdeführers ausdrücklich auf das Gutachten von Dr. med. P._ vom 16. Oktober 2001 abgestellt. Umstritten ist jedoch, ob die Vorinstanz gehalten gewesen wäre, den Beschwerdeführer erneut begutachten zu lassen.
Zur Beantwortung der Frage, ob ein früheres Gutachten hinreichend aktuell ist, ist nicht primär auf das formelle Kriterium des Alters des Gutachtens abzustellen. Massgeblich ist vielmehr die materielle Frage, ob Gewähr dafür besteht, dass sich die Ausgangslage seit der Erstellung des Gutachtens nicht gewandelt hat. Soweit ein früheres Gutachten mit Ablauf der Zeit und zufolge veränderter Verhältnisse an Aktualität eingebüsst hat, sind neue Abklärungen unabdingbar (<ref-ruling> E. 3.4; Heer, a.a.O., <ref-law> N. 67 ff. und <ref-law> N. 4).
Entscheidend ist daher, ob die ärztliche Beurteilung aus dem Jahr 2001 mutmasslich noch immer zutrifft, oder ob die Vorinstanz aufgrund der seitherigen Entwicklung gehalten gewesen wäre, eine neuerliche Begutachtung des Beschwerdeführers anzuordnen.
4.4 Gestützt auf den Bericht des behandelnden Therapeuten Dr. med. T._ an die ärztliche Leitung der psychiatrischen Universitätsklinik Zürich vom 27. November 2006 leidet der Beschwerdeführer an einer Persönlichkeitsstörung mit unreifen Zügen (ICD-10 F6) und an einem Kokainabhängigkeitssyndrom mit ständigem Substanzgebrauch (ICD-10 F14.25). Dr. med. T._ geht dabei davon aus, dass sich der Kokainkonsum des Beschwerdeführers seit 2005 gesteigert hat, und es diesem daher zunehmend Schwierigkeiten bereitet, den Alltag zu meistern. Dieser ärztliche Befund spricht dafür, dass sich die Suchtproblematik des Beschwerdeführers, wie von ihm behauptet, seit 2001 in der Tat verschärft hat und deshalb - wie vom Bewährungsdienst in seiner Vernehmlassung zur Beschwerde ausgeführt - eine stationäre Therapie nach <ref-law> in einer auf Dualerkrankungen (Suchterkrankung und psychische Probleme) spezialisierten Einrichtung zweckmässig sein könnte. Zudem weist der Beschwerdeführer zutreffend darauf hin, dass das Gutachten von Dr. med. P._ zu einem Zeitpunkt erstellt worden ist, als er sich als junger Erwachsener in einer adoleszentären Krise und damit in einer Phase befunden hat, in welcher die Möglichkeit einer Veränderung der Persönlichkeit besonders ausgeprägt ist.
Infolge veränderter Verhältnisse kann das Gutachten von Dr. med. P._ nicht mehr als aktuell bezeichnet und deshalb nicht als (einzige) Entscheidgrundlage zur Beantwortung der Frage herangezogen werden, ob die aufgeschobene Freiheitsstrafe zu vollziehen (<ref-law>) oder an Stelle des Strafvollzugs eine stationäre therapeutische Massnahme nach den Art. 59-61 anzuordnen ist (<ref-law>). Die Vorinstanz hat demzufolge <ref-law> verletzt, indem sie davon abgesehen hat, ein Ergänzungsgutachten respektive ein Zweitgutachten einzuholen.
5. Die Beschwerde ist damit gutzuheissen, soweit darauf einzutreten ist, der Beschluss des Obergerichts des Kantons Zürich vom 7. August 2007 aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Kanton Zürich hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 3'000.-- auszurichten (Art. 68 Abs. 1 und 2 BGG), die seinem Rechtsvertreter zuzusprechen ist. Das Gesuch um unentgeltliche Rechtspflege wird gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf eingetreten wird, der Beschluss des Obergerichts des Kantons Zürich vom 7. August 2007 aufgehoben und die Angelegenheit im Sinne der Erwägungen zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Zürich hat Rechtsanwalt Stephan A. Buchli für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 3'000.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 4. Juli 2008
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Schneider Stohner