Til tross for hans fromhet, kunne Karloman være hensynsløs mot reelle eller oppfattede motstandere. I 746 sammenkalte han en forsamling av tusenvis av alemanniske magnatene i Cannstatt og fikk dem så arrestert og henrettet for landsforræderi i . Dette utryddet nesten hele lederskapet til alemannistammen og gjorde slutt på uavhengigheten til hertugen av Alemannia som deretter ble styrt av grever utnevnt av deres frankiske overherrer.