Ett av offren, liksom de källor som citeras i en FN-rapport, anklagar överstelöjtnant Kibibi Mutware för kopplingar till nyårsvåldtäkterna i staden Fizi.
Det har förekommit många fall av massvåldtäkt i Kongokonflikten, men detta tros vara den största enskilda incidenten som påstås omfatta armén.
Överstelöjtnant Kibibi har nekat till anklagelserna.
Han sa att soldaterna som plundrade staden hade brutit mot order.
Från en daglig kamp mellan två män över en kvinna trappades våldet upp till en brutal straffexpedition av en grupp regeringstrupper mot befolkningen i Fizi.
"En soldat dödades här bredvid sjukhuset", förklarar dr Faise Chacha, chef för Fizisjukhuset.
"Det startade paniken och alla våra patienter flydde. Vi kom tillbaka kl. 05.00 nästa morgon och vi började ta in människor som hade blivit knivhuggna och andra - kvinnor - som hade blivit våldtagna."
Dr Chacha och den medicinska välgörenhetsorganisationen Medecins Sans Frontieres har hittills behandlat 51 våldtäktsoffer, men de förväntar sig mer som kvinnor som flydde attackerna långsamt återvänder hem.
Liksom i tidigare fall av våldtäkt i Demokratiska republiken Kongo förväntas många offer hålla sin svåra situation hemlig för att undvika att bli övergivna av sina män och familjer.
Två av dem gick med på att tala anonymt efter att sjukvårdare hade berättat för BBC att de hade blivit våldtagna.
"Jag blev våldtagen inför mina fyra barn", sa en av dem till BBC.
"Jag skäms, väldigt skamsen. Om jag träffar två eller tre personer som har en diskussion, antar jag att de talar om mig, även om det inte är så."
Den andra kvinnan kunde identifiera sina angripare.
"Det var 1900 [på kvällen] och de som våldtog mig var medlemmar av militären", sade hon med låg röst, hennes kropp inlindad i en färgstark duk.
"De var fyra - Kibibi och hans livvakter. De stal alla våra tillhörigheter och våra pengar."
Denna kvinna var inte den enda som anklagade överstelöjtnant Kibibi, nuvarande befälhavare för 43:e sektorn i arméns Amani Leo-operation (Peace Today) mot rebellgrupper som fortfarande strövar omkring i östra Demokratiska republiken Kongo åtta år efter att landets krig officiellt upphörde.
Flera människor som bor nära sjukhuset sa att de såg honom beordra sina trupper att attackera befolkningen för att hämnas sin döda kamrat.
En intern rapport från utredare som sändes till Fizi av FN:s fredsbevarande uppdrag Monusco och som BBC såg citerar också lokala ledare och poliskällor som anklagar överstelöjtnant Kibibi för att leda illdådet.
Monusco skickade patruller från dagen efter våldet från dess Baraka bas, strax över en timmes bilresa bort, och har behållit en 24-timmars närvaro i Fizi sedan 5 januari, vilket har uppmuntrat befolkningen att komma tillbaka.
Överstelöjtnant Kibibi är en stark man med en liten mustasch och en booniehatt. När jag träffade honom satt han bakom ett bord där bara två mobiltelefoner och en walkie-talkie var synliga.
När han talade i den halmiga hydda från vilken han befaller sina trupper, avfärdade han alla anklagelser mot honom som rykten och sade att de soldater som begick brotten hade överträtt hans order att stanna i lägret.
Han tillade att han bara lämnade sin bas kort den 1 januari för att bedöma den lynchade soldatens död och bara hörde talas om nattens våld morgonen därpå.
Överstelöjtnant Vianney Kazarama, arméns talesman för operationer i provinsen Sydkivu, erkände att regeringssoldater var ansvariga för Fizi-attacken, men han lovade snabba rättsliga åtgärder.
"Alla de människor som har missbrukat befolkningen har redan arresterats. Nolltoleranspolitiken kommer att upprätthållas på plats i Fizi," berättade han för BBC.
I ett uttalande uppmanade FN:s särskilda representant för sexuellt våld, Margot Wallstrom, de kongolesiska myndigheterna att genomföra en undersökning "thoroughly and only".
"Mångfald för dessa typer av brott får inte tolereras", tillade hon.
Överstelöjtnant Kibibi är tidigare medlem av CNDP:s rebellgrupp, som tidigare har anklagats för många kränkningar av de mänskliga rättigheterna.
Han integrerades i den nationella armén som en del av ett fredsavtal 2009.
Enligt en lokal militär källa är hans enhet en blandning av tidigare miliser baserade på rwandiska etniska grupper.
Dessa trupper sändes till Fizi där en konflikt mellan majoriteten av Babembegruppen och grannlandet Banyamulenge - en annan rwandisktalande etnisk grupp - hade sjungit i generationer.
Fizibor och soldater sammandrabbade också i april 2010.
De 16 år av oroligheter i östra Demokratiska republiken Kongo har blivit ökända för de utbredda sexuella övergreppen mot kvinnor och unga flickor.
Mer än 300 kvinnor, män och barn våldtogs av en koalition av rebellgrupper i staden Luvungi och grannbyarna i norra Kivu inom några kilometer från en FN-bas i augusti.
En armébefälhavare i östra Demokratiska republiken Kongo har anklagats för att leda den senaste tidens massvåldtäkt av minst 50 kvinnor.