Die Sektion Schwimmen gewann bei Olympischen Spielen, Welt- und Europameisterschaften 119 Medaillen, davon 72 in Gold, und war nach Titeln die erfolgreichste Sektion des Vereins. Alfred Müller und Joachim Rother gewannen bei den Europameisterschaften 1966 als erste Schwimmer des Vereins Medaillen. Außer dem Staffelschwimmer Thomas Flemming in den 1980er Jahren sollten dies die einzigen Schwimmer bleiben, die Medaillen nach Karl-Marx-Stadt holten, die großen Erfolge des Schwimmsports der DDR und auch der Karl-Marx-Städter waren Erfolge der Schwimmerinnen. Bei den Olympischen Spielen 1968 gewannen mit Helga Lindner, Uta Schmuck und Sabine Steinbach gleich drei Schwimmerinnen des Vereins Medaillen. Helga Lindner war 1970 erste Europameisterin des Vereins. Bei der ersten Schwimmweltmeisterschaft, die 1973 in Belgrad ausgetragen wurde, gewann Renate Vogel drei Goldmedaillen, Andrea Hübner war zweimal erfolgreich. 1975 in Cali siegte Hannelore Anke dreimal, die Lagenspezialistin Ulrike Tauber war ebenfalls erfolgreich. Bei den Olympischen Spielen 1976 gewannen Schwimmerinnen des SC Karl-Marx-Stadt fünf Goldmedaillen, neben Hannelore Anke mit zwei Titeln und Ulrike Tauber war auch Petra Thümer auf den beiden langen Kraulstrecken erfolgreich. 1980 in Moskau gewannen Ute Geweniger und Ines Diers zwei Goldmedaillen, Ines Geißler und Petra Schneider erschwammen je eine Goldmedaille. Diese Schwimmerinnen waren auch bei Europameisterschaften und der Weltmeisterschaft 1982 erfolgreich. In der zweiten Hälfte der 1980er Jahre war dann die vierfache Weltmeisterin von 1986 Heike Friedrich die erfolgreichste Schwimmerin des Vereins.