Sachverhalt: A. X._ verkaufte von Juni bis Dezember 2000 mehrere Male an verschiedene Personen eine grosse Zahl von Ecstasy-Pillen sowie nicht unbedeutende Mengen von Amphetamin und Kokain. Bei seiner Verhaftung am 13. Januar 2001 wurden 817 Ecstasy-Pillen, 21,9 Gramm Kokain mit einem Reinheitsgehalt von 45% und 784,8 Gramm Amphetamin (772,7 Gramm ohne MDMA-Base, d.h. kein eigentliches Amphetamin) sichergestellt, die für den Verkauf bestimmt waren. Nach der Entlassung aus der Untersuchungshaft am 16. März 2001 verkaufte er von April bis Mitte November 2001 erneut wöchentlich kleine Mengen Kokain an A._, im September oder Oktober 2001 zudem 200 Ecstasy-Tabletten. Von September 2001 bis zur zweiten Verhaftung am 23. Mai 2002 verkaufte er überdies ca. 600 Gramm Marihuana an nicht näher bekannte Abnehmer. Bei seiner zweiten Verhaftung wurden 241 Gramm Marihuana sichergestellt, die für den Verkauf bestimmt waren. Schliesslich kaufte X._ am 7. August 2002 1'000 Einheiten Ecstasy, um sie an der Streetparade 2002 zu verkaufen. Als er am gleichen Tag erneut verhaftet wurde, fanden sich in seinem Auto 900 Einheiten Ecstasy. Über den gesamten Zeitraum bis zu seiner Verhaftung im August 2002 konsumierte X._ dabei auch selbst mehr oder weniger regelmässig unterschiedliche Betäubungsmittel (Ecstasy, Amphetamin, Kokain, Marihuana). B. Das Bezirksgericht Zürich verurteilte X._ am 17. Oktober 2003 wegen mehrfacher - teilweise qualifizierter - Widerhandlungen gegen das Betäubungsmittelgesetz zu 30 Monaten Gefängnis. Das Obergericht des Kantons Zürich nahm am 27. Mai 2004 geringfügige Korrekturen am Schuldpunkt vor und bestätigte das bezirksgerichtliche Urteil im Strafpunkt. C. X._ erhebt eidgenössische Nichtigkeitsbeschwerde beim Bundesgericht und beantragt, es sei das Urteil des Obergerichts im Strafpunkt aufzuheben und diese Instanz anzuweisen, ihn mit 18 Monaten Gefängnis unter Gewährung des bedingten Strafvollzugs zu bestrafen. Das Obergericht verzichtet auf Gegenbemerkungen zur Beschwerde. Eine Vernehmlassung der Staatsanwaltschaft wurde nicht eingeholt.