I 1702, bare et år etter han begynte ved universitet, grunnla han et 40-manns studentorkester, et såkalt . Orkesteret gav offentlige konserter og fortsatte å eksistere under samme navn etter at Telemann forlot Leipzig. Også senere, under ledelse av Johann Sebastian Bach, hadde det «telemannske» collegium musicum stor betydning for byens musikkliv.