AU har redan sagt att man undersöker anklagelser om att dess soldater har varit inblandade i att döda civila i staden i juli.
Men detta är den första detaljerade redogörelsen för denna påstådda händelse.
Vittnena berättade för den USA-baserade kampanjgruppen att soldater från Uganda påstås ha utfört morden den 31 juli.
Varken AU eller Ugandas regering har kommenterat detaljerna i de senaste anklagelserna.
BBC Africa Live: Nyheter uppdateringar
Vittnena säger att efter en bombattack mot en AU - konvoj i Merca, som ligger omkring 70 kilometer söder om huvudstaden, kom Mogadishu, ugandiska styrkor in i flera närliggande hus.
"Vid ett hus, där familjen Moalim Iidey firade ett bröllop, separerade soldaterna männen från kvinnorna och sköt de sex vuxna männen - fyra bröder, deras far och en farbror," HRW sade i ett uttalande.
"Fyra dog omedelbart, en broder gömde sig under en säng efter att ha blivit skjuten men senare dog, och fadern dog under natten efter att soldaterna påstås vägra att låta familjen ta honom till sjukhuset", sade det.
Ett vittne berättade för HRW att före de påstådda morden hade de flesta människor i området flytt, rädda repressalier efter AU konvojattack.
De som hade stannat kvar väntade sig att de skulle skyddas därför att de firade ett bröllop, tillade vittnet.
HRW säger att även vittnen hävdar att 11 civila dödades av AU-trupper den 21 juli i Merca.
Ingen av de överlevande av de två påstådda incidenter som intervjuas av Human Rights Watch har ännu intervjuats av AU utredare, sade rättighetsgruppen.
Det har varit en förnyad offensiv av AU och somaliska militären under de senaste veckorna i Lower Shabelle regionen, där Merca ligger, syftar till att återta territorium från islamister militanta.
AU-trupper har varit i Somalia sedan 2007 och hjälpt olika FN-stödda regeringar att bekämpa al-Shabab-gruppen - och det finns nu en styrka på mer än 21.000 i landet. De flesta av dess trupper kommer från Uganda och Burundi.
Somalia har sett klanbaserade krigsherrar, rivaliserande politiker och islamistiska militanter kämpa för kontroll sedan fallet med den långvarige härskaren Siad Barre 1991.
Afrikanska unionen (AU) soldater påstås ha dödat sex personer vid ett bröllop i Somalias hamnstad Merca, Human Rights Watch (HRW) har sagt.