Sachverhalt:
A. X._ zwang im Sommer 2000 in St. Gallen die drogensüchtige A._, vor ihm nackt eine Zigarette zu rauchen. Mit B._, die der Drogenprostitution nachging und mit der er Oralverkehr mit Kondom für Fr. 100.-- abgemacht hatte, verkehrte er im Herbst desselben Jahres abmachungswidrig während über einer Stunde abwechslungsweise vaginal und anal. Dabei fügte er ihr nicht nur durch das gewaltsame Eindringen, sondern auch durch Zerren, Schlagen und Kneifen Schmerzen zu.
B. Mit Urteil des Kreisgerichts St. Gallen vom 14. Oktober 2003 wurde X._ der Vergewaltigung und der sexuellen Nötigung schuldig erklärt und zu einer Zuchthausstrafe von drei Jahren verurteilt. Er wurde verpflichtet, B._ Fr. 12'000.-- und A._ Fr. 7'000.-- als Genugtuung zu bezahlen.
Dagegen erhob X._ am 17. Dezember 2003 Berufung ans Kantonsgericht St. Gallen mit den Anträgen auf vollumfänglichen Freispruch und Abweisung der Genugtuungsforderungen. Die Staatsanwaltschaft des Kantons St. Gallen beantragte die Abweisung der Berufung.
Mit Schreiben vom 31. März 2004 wies der kantonsgerichtliche Referent die Verteidigung unter dem Vorbehalt der noch durchzuführenden Berufungsverhandlung darauf hin, dass die Überlegungen des Kreisgerichts zur Beweisfrage nachvollziehbar seien. Weiter legte der Referent dar, dass ein Geständnis des Angeklagten, verbunden mit erklärter Reue, in jedem Verfahrensstadium zu einer Strafminderung führe. Strafmindernd würde es sich zudem auswirken, wenn der Angeklagte vor der Gerichtsverhandlung die erstinstanzlich festgesetzten Genugtuungen bezahlen oder sicherstellen würde. Ebenfalls unter Vorbehalt der Berufungsverhandlung und des persönlichen Eindrucks vom Angeklagten wäre die Strafzumessung beim Vorliegen eines Strafmilderungs- und eines Strafminderungsgrundes neu vorzunehmen, wobei eine den bedingten Strafvollzug noch zulassende Freiheitsstrafe ebenfalls in die Prüfung einzubeziehen wäre.
Am 21. Mai 2004 reichte X._ dem Gericht eine schriftliche Erklärung ein, worin er zugab, die ihm vorgeworfenen Handlungen zum Nachteil der beiden Opfer begangen zu haben. Er bat um eine im Vergleich zum erstinstanzlichen Urteil mildere Bestrafung.
Mit Eingabe vom 24. Mai 2004 verlangte die Staatsanwaltschaft, die über das Schreiben des Referenten vom 31. März 2004 nicht informiert worden war, dass das Geständnis nach einer ausführlichen persönlichen Befragung von X._ vor Gericht kritisch zu prüfen sei.
Am 28. Mai 2004 zahlte X._ zugunsten der beiden Opfer insgesamt Fr. 19'000.-- auf das Konto des Kantonsgerichts ein.
Das Kantonsgericht St. Gallen erklärte X._ mit Urteil vom 2. Juni 2004 der Vergewaltigung und der sexuellen Nötigung schuldig und verurteilte ihn zu einer Gefängnisstrafe von 18 Monaten. Der Vollzug der Strafe wurde aufgeschoben mit einer Probezeit von zwei Jahren. Die Zivilklagen wurden als gegenstandslos abgeschrieben.
C. Die Staatsanwaltschaft des Kantons St. Gallen wendet sich mit Nichtigkeitsbeschwerde ans Bundesgericht und beantragt, das angefochtene Urteil vom 2. Juni 2004 sei teilweise aufzuheben. Die Sache sei an die Vorinstanz zurückzuweisen zur angemessenen Bestrafung von X._ wegen Vergewaltigung und sexueller Nötigung.
Die Vorinstanz und der Beschwerdegegner haben sich vernehmen lassen, ohne einen ausdrücklichen Antrag zu stellen.

Das Bundesgericht zieht in Erwägung:
1. Die Beschwerde richtet sich nur gegen das Strafmass. Gemäss <ref-law> misst der Richter die Strafe nach dem Verschulden des Täters zu und berücksichtigt die Beweggründe, das Vorleben und die persönlichen Verhältnisse des Schuldigen. Nach der Praxis des Bundesgerichts bezieht sich der Begriff des Verschuldens im Sinne von <ref-law> auf den gesamten Unrechts- und Schuldgehalt der konkreten Straftat. Im Rahmen der so genannten Tatkomponente sind insbesondere folgende Faktoren zu beachten: das Ausmass des verschuldeten Unrechts, die Art und Weise der Deliktsbegehung, die Willensrichtung, mit der der Täter gehandelt hat, und die Beweggründe des Verurteilten. Die Täterkomponente umfasst das Vorleben, die persönlichen Verhältnisse sowie das Verhalten nach der Tat und im Strafverfahren. Einerseits hat sich der Strafrichter an diese gesetzlichen Vorgaben zu halten. Anderseits steht ihm bei der Gewichtung der einzelnen Strafzumessungskomponenten innerhalb des jeweiligen Strafrahmens ein erheblicher Ermessensspielraum zu. Das Bundesgericht greift daher auf Nichtigkeitsbeschwerde hin in das Ermessen des Sachrichters nur ein, wenn dieser den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn er von gesetzlich nicht massgebenden Kriterien ausgegangen ist oder wenn er wesentliche Gesichtspunkte ausser Acht gelassen bzw. in Überschreitung oder Missbrauch seines Ermessens falsch gewichtet hat (<ref-ruling> E. 6.1 S. 20 f. mit Hinweisen; Urteil 6S.186 vom 22. Januar 2004 E. 5.2).
Das Bundesgericht hat in einem prinzipiell ähnlich gelagerten Fall festgestellt, der Strafmilderungsgrund der aufrichtigen Reue in Form der Schadenersatzleistung gemäss Art. 64 al. 4 StGB setze nicht voraus, dass die Initiative zum Schadensausgleich zwischen Opfer und Täter vom Verurteilten selbst ausgehe. Der Milderungsgrund könne auch erfüllt sein, wenn die Idee zum Schadensausgleich von einem Parteivertreter, vom Gericht oder vom Opfer vorgebracht werde. Entscheidend sei, ob der Täter auf die Anregung zur Schadensdeckung aus freien Stücken eingehe. An der Anwendbarkeit des Strafmilderungsgrundes vermöge nichts zu ändern, dass der Schadensausgleich auch in der Hoffnung auf ein milderes Urteil bezahlt werde. Voraussetzung sei nur, dass die Schadensregelung nicht ausschliesslich unter dem Eindruck eines bevorstehenden Strafverfahrens und aus taktischen Gründen erfolge. Dass ein Angeklagter hoffe, ein im Gesetz ausdrücklich vorgesehener Strafmilderungsgrund könne vom Richter angewendet werden, sei legitim. Der Gesetzgeber habe offensichtlich nicht gewollt, dass der Strafmilderungsgrund der aufrichtigen Reue nur schon deshalb ausscheiden müsste, weil der Angeklagte auf dessen Anwendung hoffe. Andernfalls hätte der Gesetzgeber keine Strafmilderungsgründe vorsehen dürfen, die auf das Verhalten des Angeklagten nach der Tat abstellen. Es liege geradezu im Wesen aller Strafreduktionsgründe, die vom Nachtatverhalten des Täters abhängen, dass dieses Verhalten auch durch die Hoffnung auf ein milderes Urteil motiviert sein könne (vgl. Urteil 6S.186/2003 vom 22. Januar 2004 E. 5.5.2 - 5.5.4).
Weiter hat das Bundesgericht im früheren Fall festgestellt, im schweizerischen Strafprozessrecht sei es grundsätzlich unzulässig, den Angeklagten mit dem Versprechen von Straffreiheit oder milderer Strafe zu einem Geständnis zu bewegen. Bereits das Inaussichtstellen der Prüfung eines bestimmten Strafmasses, welches z.B. noch den bedingten Strafvollzug ermögliche, könne im Einzelfall Bedenken erwecken. Im Rahmen einer Nichtigkeitsbeschwerde sei jedoch vorab zu prüfen, ob die Berücksichtigung des Schuldeingeständnisses im konkreten Fall zu einer unrichtigen Anwendung des materiellen Strafzumessungsrechts geführt habe oder nicht. Auch Geständnisse seien im Übrigen nicht immer und ausschliesslich ein Ausdruck von Reue. Sie könnten namentlich auch in der Hoffnung auf eine mildere Strafe erfolgen, und ein Geständnis könne selbst dann strafmindernd berücksichtigt werden, wenn der Angeklagte die Möglichkeit einer Strafreduktion einkalkuliert habe. Gewissen prozesstaktischen Motiven könne bei der Festlegung der Höhe der Strafminderung ausreichend Rechnung getragen werden. Die prozessuale Frage, ob das Geständnis im Rahmen einer richterlichen Befragung protokolliert werde oder aber im Rahmen einer vom Gericht vorgeschlagenen Parteivereinbarung über streitige Zivilansprüche, ändere am Gesagten nichts (vgl. Urteil 6S.186/2003 vom 22. Januar 2004 E. 5.7.1 - 5.7.3; das Urteil ist zusammengefasst wiedergegeben bei Marc Forster, Grenzen der Zulässigkeit von Prozessvereinbarungen im Strafverfahren, ZBJV 140/2004 S. 288 ff.).
2. Die Beschwerdeführerin macht unter anderem geltend, es scheine, dass die Vorinstanz die Strafe vom Ergebnis her begründet habe.
2.1 Zur Begründung führt die Beschwerdeführerin aus, schon vor der Berufungsverhandlung sei die Ausfällung einer bedingten Strafe für den Fall, dass der Beschwerdegegner einerseits ein Geständnis ablege und anderseits die Genugtuungen bezahle, in Aussicht gestellt worden. Die Formulierungen seien zwar ausgesprochen vorsichtig und mit Vorbehalten abgesichert gewesen, aber man könne sich kaum vorstellen, dass die Vorinstanz keine bedingte Strafe ausgefällt hätte, obwohl ein Geständnis vorlag und die Genugtuungen bezahlt waren. Der Verteidiger des Beschwerdegegners sei vor der Verhandlung durch den Präsidenten der Vorinstanz denn auch telefonisch nochmals auf das Schreiben des Referenten vom 31. März 2004 hingewiesen worden (vgl. Beschwerde S. 2/3, 7/8).
Die Vorinstanz bestätigt, dass zwischen ihrem Präsidenten und dem Verteidiger des Beschwerdegegners vor der Verhandlung ein Telefongespräch stattfand, an dem der Präsident dem Verteidiger zugesichert hat, dass die Äusserungen des Referenten, wie sie im Schreiben vom 31. März 2004 festgehalten seien, weiterhin gelten würden (vgl. act. 5 S. 1).
2.2 Eine Strafzumessung, die nicht vom Verschulden des Täters ausgeht, sondern sich am Ergebnis (z.B. der Grenze von 18 Monaten für den bedingten Strafvollzug) orientiert, verletzt Bundesrecht (oben E. 1). Obwohl die Vorinstanz in Abrede stellt, das Strafmass vom Ergebnis her begründet zu haben (vgl. act. 5 S. 1), drängt sich dieser Eindruck im vorliegenden Fall auf. Zum einen kann man sich, wie die Beschwerdeführerin zu Recht geltend macht, nur schwer vorstellen, dass die Vorinstanz auf eine bedingte Strafe noch hätte verzichten können, nachdem sie mehrfach auf diese Möglichkeit hingewiesen hatte und das gewünschte Geständnis schliesslich vorlag und insbesondere auch die Genugtuungssummen für die beiden Opfer durch den Beschwerdegegner einbezahlt worden waren (vgl. zur Problematik allgemein Oberholzer, Absprachen im Strafverfahren, ZStrR 111/1993 S. 157 ff.; Schünemann, Die Verständigung im Strafprozess, NJW 42/1989 S. 1895 ff.). Zum anderen hat sich die Vorinstanz in zwei von der Beschwerdeführerin gerügten Punkten der Strafzumessung offensichtlich nicht mehr im Rahmen des ihr zustehenden Ermessens gehalten (unten E. 2.3 und 2.4). Auch diese beiden Punkte deuten darauf hin, dass das Strafmass vom Ergebnis her begründet worden ist.
2.3 Die Vorinstanz geht in Bezug auf die Vergewaltigung von B._ davon aus, dass eine Einsatzstrafe von 2 1⁄2 Jahren dem Verschulden des Beschwerdegegners angemessen sei (angefochtener Entscheid S. 5 lit. b). Für die sich strafschärfend im Sinne von <ref-law> auswirkende sexuelle Nötigung von A._ erachtet die Vorinstanz eine Erhöhung der Einsatzstrafe um ein halbes Jahr als angemessen (angefochtener Entscheid S. 6 oben). In diesem Punkt ist von dem Sachverhalt auszugehen, den das Kreisgericht festgestellt hat, weil die Vorinstanz darüber infolge des Rückzugs der Berufung selber nicht mehr zu befinden hatte (angefochtener Entscheid S. 4 E. II/1). Das Kreisgericht stützte sich auf die Aussagen des Opfers und stellte fest, der Beschwerdegegner habe die Frau in sein Auto gewinkt und erklärt, er sei Polizeibeamter und werde sie verhaften, wenn er es nicht "von hinten" haben könne. In der Folge habe er sie während über einer Stunde im fahrenden Auto gefangen gehalten und immer wieder gesagt, dass es "ein Nehmen und ein Geben sei" und andere Frauen hätten auch "anähebe" müssen. Vor ihrer Wohnung habe er von der Frau schliesslich im Sinne eines "Kompromisses" verlangt, sie solle sich vor ihm nackt ausziehen und eine Zigarette rauchen (vgl. Urteil Kreisgericht S. 18 mit Hinweis auf S. 3/4). Die Vorinstanz kommt zum Schluss, im Vergleich zu den gegenüber B._ begangenen Handlungen habe die zweite Verfehlung nur eine untergeordnete Bedeutung (angefochtener Entscheid S. 6 oben).
Die Beschwerdeführerin macht geltend, da eine angemessene Strafschärfung für diese zweite Straftat mindestens 12 Monate betragen hätte, habe die Vorinstanz <ref-law> verletzt (Beschwerde S. 5).
Die Rüge der Beschwerdeführerin ist berechtigt, denn die Schlussfolgerung der Vorinstanz, für die sexuelle Nötigung der A._ seien sechs Monate angemessen, ist nicht nachvollziehbar. Der Beschwerdegegner hat die Frau während mehr als einer Stunde und somit während einer sehr langen Zeit in seinem Auto gefangen gehalten und mit der Drohung, er werde sie verhaften, wenn sie nicht einwillige, zum Analverkehr zu zwingen versucht. Ein erzwungener Analverkehr stellt jedoch einen äusserst schweren Eingriff in die Rechtsgüter des Opfers dar, und dasselbe gilt für den einstündigen Versuch, das Opfer zu einem solchen Verkehr zu nötigen. Aus welchem Grund der Beschwerdegegner schliesslich in den erwähnten "Kompromiss" einwilligte, ergibt sich aus den beiden kantonalen Urteilen nicht. Immerhin hat er selber ausgesagt, es sei ihm aufgefallen, dass die Frau "viele Flechten am Oberkörper" gehabt habe, worauf er "danke vielmals" gesagt habe (Urteil Kreisgericht S. 8). Es ist ohne weiteres nachvollziehbar, dass das Opfer bis zum Ende des Vorfalles im Ungewissen darüber war, ob der Beschwerdegegner es beim "Kompromiss" bewenden lassen oder nicht doch noch Analverkehr verlangen werde (Urteil Kreisgericht S. 24). Zwar trifft es zu, dass der Beschwerdegegner letztlich auf den Analverkehr verzichtet hat und sich der vorliegend zu beurteilende Vorfall deshalb von der Verfehlung, die der Beschwerdegegner gegenüber B._ begangen hat, unterscheidet. Aber davon, dass das Fehlverhalten gegenüber A._ von untergeordneter Bedeutung und quasi eine Bagatelle wäre, kann nicht die Rede sein. Es ist offensichtlich, dass bei einem für eine sexuelle Nötigung vorgesehenen Strafrahmen von bis zu zehn Jahren Zuchthaus die von der Vorinstanz als angemessen erachteten sechs Monate einen Missbrauch des Ermessens darstellen und als unhaltbar milde erscheinen.
2.4 Die Vorinstanz führt aus, der Beschwerdegegner sei vor der Berufungsverhandlung aus eigenem Entschluss auf die Anregung des Referenten zur Bezahlung der Genugtuungen eingegangen. Darin sei ein Ausdruck des Willens zu sehen, das geschehene Unrecht wieder gutzumachen, und dies um so mehr, als der Beschwerdegegner gleichzeitig auch seine strafrechtliche Schuld anerkannt habe. Dass die Leistung des nicht geringen Betrages von Fr. 19'000.-- wohl auch in der Hoffnung auf ein milderes Urteil erfolgt sei, vermöge daran nichts zu ändern. Eine Reduktion der Strafe um rund vier Monate zufolge aufrichtiger Reue erscheine daher als angemessen (vgl. angefochtener Entscheid S. 7 lit. bb).
Die Beschwerdeführerin bringt dagegen vor, es sei dem Beschwerdegegner sichtlich nur darum gegangen, die Chance auf eine Strafe von 18 Monaten zu wahren (vgl. Beschwerde S. 4/6). Darauf kann im vorliegenden Verfahren insoweit nicht eingetreten werden, als die Vorinstanz verbindlich festgestellt hat, der Beschwerdegegner habe auch mit dem Willen gehandelt, das geschehene Unrecht gutzumachen. Ob diese Schlussfolgerung im Rahmen einer staatsrechtlichen Beschwerde, zu der die Beschwerdeführerin nicht legitimiert ist, Bestand haben könnte, ist zweifelhaft, kann im vorliegenden Verfahren der Nichtigkeitsbeschwerde aber nicht überprüft werden.
Anderseits ist es jedoch offensichtlich, dass der Beschwerdegegner die Genugtuungen vor allem deshalb bezahlt hat, um für sich eine bedingte Strafe zu bewirken. Dies ergibt sich mit aller Deutlichkeit aus einem persönlichen Schreiben des Beschwerdegegners vom 1. Juni 2004, welches er nun selber vor Bundesgericht vorlegt (Beilage 2 zu seiner Stellungnahme), sowie aus einem Schreiben seines Verteidigers an die Vorinstanz vom 14. Juni 2004, wonach der Beschwerdegegner Wert darauf lege, dass die Genugtuungssummen erst ausbezahlt werden dürfen, wenn das angefochtene Urteil in Rechtskraft erwachsen sei (KA act. B/34). Dieses zweite Schreiben, welches der Vorinstanz erst nach Fällung Ihres Urteils zuging, beweist mit aller Deutlichkeit, dass es dem Beschwerdegegner bei der Bezahlung der Genugtuungen zur Hauptsache um den bedingten Strafvollzug ging. Davon, dass unter diesen Umständen eine Strafreduktion um vier Monate angemessen wäre, kann nicht die Rede sein.
2.5 Gesamthaft gesehen ist die angefochtene Strafzumessung aufzuheben. Die Vorinstanz hat diese offensichtlich vom Ergebnis her begründet und damit <ref-law> verletzt. Dies ergibt sich auch daraus, dass sie in den beiden in E. 2.3 und 2.4 genannten Punkten das ihr zustehende Ermessen überschritten und eine unhaltbar milde Strafe ausgesprochen hat. Der angefochtene Entscheid ist aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
3. Bei diesem Ausgang des Verfahrens hätte der Beschwerdegegner grundsätzlich die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 278 Abs. 1 BStP). Angesichts der besonderen Umstände und insbesondere der Tatsache, dass er vor Bundesgericht darauf verzichtet hat, einen Antrag zu stellen, ist jedoch auf eine Kostenauflage zu verzichten.

Demnach erkennt das Bundesgericht:
1. Die eidgenössische Nichtigkeitsbeschwerde wird gutgeheissen, das Urteil des Kantonsgerichts St. Gallen vom 2. Juni 2004 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Strafkammer, schriftlich mitgeteilt.
Lausanne, 16. Februar 2005
Im Namen des Kassationshofes
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: