Ved riksdagen i 1817 virket Anckarsvärd som parlamentarisk leder. Han sluttet seg til den daværende opposisjonen på riddarhuset, hvor greve Fredrik Bogislaus von Schwerin var anfører, og førte et kraftigere språk, enn man på lang tid hadde vært vant til å høre på riddarhuset. Kongen forsøkte å få Anckarsvärd dømt for majestetsfornærmelse, da han i et klageskrift hadde omtalt noen vedtak fra myndighetene som landsfordervelige. Anklageren krevde dødsstraff, men etter at det urimelige i tiltalen kom frem ble Anckarsvärd frikjent. Anckarsvärds popularitet blant almenheten og opposisjonspressen ble styrket, og ved riksdagen i 1823 var hans innflytelse ganske sterk. Han ble blant annet innvalgt i statsrevisjonen.